人工智能正在改变全球司法系统，为提升司法进程、简化案件管理并协助司法决策提供了新可能。然而，这些创新也带来了复杂的伦理和人权挑战。联合国教科文组织《法院和法庭中使用人工智能指南》于2025年12月提出了首个全球伦理和运营框架，确保人工智能在维护法治和基本权利的同时实现正义。
该指南围绕十五项普遍原则——从透明度、问责制、人类监督到人权保护和多方利益相关者治理——为探索人工智能采用的法官、法院管理者和政策制定者提供了实用指导。他们主张将人工智能视为辅助工具，而非替代工具——负责任地使用，始终在有意义的人类监督下进行。
15项核心原则
该指南围绕15项核心原则构建，这些原则贯穿AI系统的整个生命周期（设计、开发、采购、部署、使用、评估、退役）。
1.保护人权：尊重、保护和促进人权与法治，特别关注非歧视、平等、程序公平、隐私与数据保护、自由与安全。
2.比例原则：AI的使用目的必须合法，且手段与目的相称。
3.效益可行性：在采用前，需评估潜在收益及实现这些收益的机构能力。
4.安全性：避免对当事人、法官、法院声誉及公众造成伤害。
5.信息安全：保护机密信息，防范网络威胁，确保司法机关对其数据的控制权。
6.准确性与可靠性：确保AI系统能提供有用、相关且正确的输出，并在各种情况下稳定工作。
6.可解释性：AI系统应能向使用者和部署者阐明其输出背后的逻辑和输入的使用方式。
7.可审计性：采取行政、法律和人力措施，确保AI系统在部署期间能够被审计。
8.透明与开放司法：公开AI系统的开发方式、运作原理、训练数据、局限性等信息。当AI影响个人权利时，应及时告知。
9.认知与知情使用：使用者需了解AI的功能、用途、潜在影响、局限性和风险，以便做出明智的使用决策。
10.责任：开发和使用的组织及个人须为其借助AI做出的决定和行为承担责任。
11.问责与可争议性：建立机制，解释为何及如何使用AI，并允许受影响的当事人对AI的输出提出质疑和挑战。
12.人类监督与决策：法官不得将其裁判权委托给AI或完全依赖AI做决定。AI应是辅助工具，人类干预必须贯穿始终。
13.以人为本与参与式设计：AI的设计应以增强司法能力、尊重人的尊严和自主性为中心，并吸纳司法人员和公众参与。
14.多方利益攸关方治理与合作：在整个AI生命周期中，特别是在可能产生重大影响的系统上，咨询包括边缘化群体在内的各利益相关方。
对司法人员个人的建议
1.使用前：提升AI素养，了解工具的功能、局限和风险；优先使用经过组织评估和测试的AI系统。
2.使用中：
避免过度依赖：AI不能替代实质性的法律推理和人类判断。
遵守使用条款：仔细阅读并遵守AI系统的使用条款。
保持透明：在使用AI辅助生成文书或参与听证时，应予以披露。
核实输出：对所有AI生成的内容进行严格核查和交叉验证。
保护数据：切勿向公共AI聊天机器人输入个人数据或机密信息。
承担责任：对最终使用AI输出的结果负全部责任。
3.使用后：若发现系统故障或潜在危害，应立即停止使用并向组织报告。
指南下载：https://www.unesco.org/en/articles/guidelines-use-ai-systems-courts-and-tribunals
中文翻译版下载：
链接: https://pan.baidu.com/s/1woAI6dkRpdEwPfaAie6dkg 提取码: uxvw