👨‍⚖️
AI 伦理道德及监管政策

一、引言

生成式 AI 的出现让很多任务比仅靠人类手动操作更容易完成，法律行业也不例外。目前，许多法律专业人士已经将 AI 整合到日常工作中，并受益于工作效率和服务质量的提高。​

随着 AI 技术深入人类生活的方方面面，关于该技术的使用标准及其带来的道德、隐私和诚信问题，已经成为备受全世界瞩目的议题，从立法者到市场主体都对此给予了充分关注。​

2023 年 4 月，中国发布《生成式人工智能服务管理办法（征求意见稿）》，8 月起正式实施，要求每一个在中国境内提供服务的大模型及应用，都要汇报训练数据，经过有关部门备案和安全评估后，才能公开提供服务。​

同年 10 月，美国时任总统拜登（Joe Biden）签署一项关于 AI 的监管法令：美国将把监管重心放在下一代大模型上，并要求 AI 公司开发对 “国家安全、国家经济安全等构成严重风险” 的大模型时要通知政府。​

考虑到 AI 存在“幻觉”（即可能生成虚假的内容，准确性不足），以及客户数据和隐私的安全性问题，人们普遍对 AI 缺乏信任。在法律行业，则涉及到遵守职业道德义务。​

自 2023 年 6 月，一名纽约律师向法院提交 AI 生成的虚假案例以来，截至目前全球法律行业已经发生至少 1500 起 AI 幻觉案例。为了帮助法律从业者了解 AI 幻觉风险，减少类似错误出现，以及为相关监管部门制定政策或指引提供参考，何者社区收集整理了市面上已知的法律 AI 幻觉案例，以期帮助法律行业负责任地应用 AI。​

详见：【幻觉案例库】（智库会员权益）

AI 在法律工作应用中产生的幻觉，严重影响了法律系统正常运营的秩序。AI 应用的伦理道德问题，已经成为了一个巨大的挑战。对此，很多法院、法官和律师协会，纷纷发布限制或禁止法律从业者及当事人，在法律工作中应用 AI 的命令或指导文件，一些律师事务所、企业法务部门也推出内部治理政策。​

从统计数据来看，2023 年 AI 幻觉案件数量较少，但随着时间推移，案件数量总体呈现出快速增长的趋势👇​

↗️2023 年：15 件

↗️2024 年：54 件

↗️2025 年：718 件

↗️2026 年：84 件

特别是从 2025 年开始，案件数量出现明显的上升，全年达到 700+，而 2026 年仅一月份就超过 80 件。​

值得注意的是，这些案件中使用 AI 的一方，大约 40% 是律师、法官等法律专业人士，未能负责任地验证 AI 输出，存在职业疏忽。同时，高达 57% 的 AI 幻觉案件，则是由未聘请律师、自我代理的当事人发起。​

虽然 AI 让普罗大众可以免费获得法律信息，但由于当事人缺乏法律知识和 AI 认知，过度依赖 AI，向法院提交虚假权威、无关材料，导致案件被驳回、可信度受损。这些 AI 幻觉案件极大地浪费法院资源，增加司法负担，导致案件延误，还可能加重当事人的诉讼成本（面临罚款），损害法律专业人士的职业声誉，降低公众对法律体系的信任。​

随着 AI 技术在法律行业迅速渗透，全球各地律师协会和法院纷纷组建“AI 特别工作组”、发布指导文件，旨在规范在法律实践中使用 AI 的行为，确保利益相关方在享受技术带来便利的同时，能够遵守职业道德义务。​

据不完全统计，全球各地已有超过 200 家律师协会和法院，推出了关于 AI 在法律行业应用的指南、政策、指令、规则（含拟议）。为了帮助法律从业者合理地使用 AI，为相关监管部门制定政策或指引提供参考，何者社区对这些指导文件进行汇总分析，梳理监管规则要点，帮助法律行业负责任地应用 AI。​

💡

如需获取监管文件资料，可订阅社区会员：​订阅会员；如需采购脱敏工具、法律 AI 应用/伦理合规培训/共创大赛、内部政策制定等服务，可咨询何者社区团队📲微信：18825075686​

二、监管规则要点汇总

1.
保密​

随着 AI 技术的广泛应用，客户信息面临被 AI 平台收集、共享和不当使用的风险。​

对此，监管机构明确要求律师不得在 AI 工具中输入客户的任何机密信息，必须对客户信息进行匿名化处理，确保客户身份不会被识别，除非确信 AI 提供者不会与他人分享数据或将其用于自身（如训练或改进 AI 产品）。​

2.
保持职业素养​

即便 AI 可以帮助律师更快地完成工作，律师仍然应该充分发挥自己的职业技能和判断力，不应该仅仅依赖 AI 处理需要专业知识的任务，甚至将 AI 用作律师专业判断的替代品。​

律师需要了解 AI 工具的工作原理、局限性、对客户数据的处理方式等，可以将 AI 作为一个起点，但不能盲目依赖 AI 的输出、简单相信 AI 的输出是正确的，而是要像审查助理的工作成果一样，审查和验证 AI 输出的内容，并对 AI 输出的内容负责，确保律师能够在技术辅助下，仍然能提供高质量的法律服务。​

3.
沟通与坦诚​

为了保障客户对服务过程的知情权，律师应该考虑向客户披露在代理过程中使用 AI 的方式和情况、好处及风险，这样客户可以更好地参与到服务中，增强对律师工作的理解和信任。​

需要注意的是，不同地方的监管机构根据实际情况，明确了律师需要向客户沟通的具体情形，律师是否需要向客户披露 AI 的使用情况取决于具体案件的事实（即披露 AI 的使用不是必要的），让相关规定更具可操作性。例如，当客户询问律师如何开展工作、是否使用了 AI 技术，或者客户在委托协议或外部法律顾问指南中明确要求披露律师使用 AI 情况时，那么律师就必须披露。同时，如果律师提议将与代理相关的客户信息输入 AI 工具中，或者使用 AI 工具的输出将影响代理中的重大决策，比如评估诉讼结果或陪审团选择，律师也应该与客户沟通并获得知情同意。​

类似的，律师在法院程序中使用 AI 时，也要确保提供信息的准确性，并遵守所在司法管辖区关于 AI 的任何规则，比如向法庭披露使用 AI 的情况，以维护司法程序的严肃性。​

4.
对 AI 的使用进行​

为了避免使用 AI 时的潜在风险，律师事务所应该制定使用 AI 技术的内部政策，明确 AI 的使用方法，并确保律所的律师和非律师人员使用 AI 时严格执行，比如提供培训，包括 AI 的基础知识、能力和局限性、使用 AI 的伦理问题、数据安全、隐私和保密的最佳实践等，规范律所内部使用 AI 的行为，以避免因不当使用给客户和律所带来风险。​

5.
合理收费以及广告营销​

在收费方面，如果律师使用 AI 更有效地完成工作，应该按实际工作时间合理计费，而不能就在没有 AI 辅助的情况下花费的时间或使用 AI 节省的时间收费，以维护客户的利益。​

在广告方面，律师在使用生成式 AI 聊天机器人开展宣传时必须告知潜在客户，他们正在与 AI 程序进行沟通，防止 AI 向潜在客户提供误导性信息或以胁迫性的方式进行沟通。同时，除非客观且可核实，否则律师不能声称他们的 AI 工具优于其他律师或律所使用的 AI。​

三、对于法律人如何拥抱 AI 的建议