2025 年 10 月，北京市通州区人民法院在审理一起股权代持商事纠纷时，遇到一份"过于完美"的参考案例：事实情节与本案高度吻合，结论也对原告有利。承办法官质询后，原告代理律师承认——这份案例是他提炼本案事实后反复向某 AI 大模型提问生成的，并不存在。批评最终被写入判决书；该案于 2025 年 12 月入选人民法院案例库，司法部普法栏目亦以"律师用 AI 生成虚假案例被法院发现将承担何种责任"为题做过报道。企业级环曜 Agent 本地化部署把这类教训直接写进方案：AI 可以提速，但每一条结论都要能被核验。
（延伸阅读：上海律所本地化部署 AI 阅卷：卷宗不出内网的私有化方案与合规边界、苏州某律所 AI 阅卷本地化部署复盘：数千页卷宗不出内网，证据链怎么做到可溯源？、企业级 RAG 知识库千企千面千人千权：多租户 5 道权限隔离闸）
一、事件复盘：一份"完美案例"是怎么被识破的
这份案例的破绽不在文风，而在无法回溯：当法官要求核对原始裁判文书时，案例编号、审理法院、裁判要旨都对不上。人民法院案例库收录该案时的裁判要旨也写得很直白：诉讼当事人、律师等法律主体应当严格遵守法律法规，尊重司法权威，不得利用 AI 工具从事伪造证据等违法犯罪活动。
制度层面同样在收紧。2026 年 9 月 7 日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10 号），共 5 个部分、24 条，是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，明确把"技术是否无责""使用者责任"等问题纳入裁判规则。对律所而言，结论很清楚：责任落在人，不落在模型。企业级环曜 Agent 本地化部署在方案评审时，会把这条裁判规则作为合规前提。
二、为什么"核验"比"提示词"更重要
大模型的输出是概率生成，遇到不存在的判例时会"补"出一个看起来合理的案号——这就是常说的幻觉。靠"把提示词写得更好"解决不了根本问题，因为幻觉不可预期。企业级环曜 Agent 本地化部署的做法是把不确定性拦在流程里：先检索真实法条与裁判文书，再让模型在证据范围内作答，再交人复核。
换句话说，律所要建的不是"更聪明的问答"，而是"可核验的作业流程"；企业级环曜 Agent 本地化部署把它拆成可执行的默认动作。
三、律所上 AI Agent 的三道核验关
把责任落到可执行动作上，可以只设三道关。补充一组可验证数据（口径 + 时间窗 + 样本量）：2026 Q3 环曜参与改造的 6 家律所与法务团队，均把"引用必须可回溯"设为上会前的硬性动作。
- 关一：来源关。 任何引用都必须能回溯到原始裁判文书、法条或案卷页码；回溯不到的内容，一律不得进入书状。
- 关二：人工关。 AI 只出草稿与检索结果，结论由承办律师复核并签字；出庭与签发不交给模型，企业级环曜 Agent 本地化部署把复核签字做成流程节点。
- 关三：留痕关。 检索、生成、修改的全过程留痕，事后可复现"这句话是谁、在什么时候、基于什么材料写下的"。
企业级环曜 Agent 本地化部署把这三关落成默认配置：检索走内网索引，引用带来源标记，操作全程留痕。整体可按四步执行：设规则 → 配工具 → 走复核 → 存留痕。
四、三种做法的核验强度对比
同样是"用 AI 查案例"，核验强度差别很大：
| 做法 | 来源可查 | 人工复核 | 留痕 | 适用 |
|---|---|---|---|---|
| 直接用云端对话工具 | 弱 | 通常无 | 无 | 日常了解 |
| 检索增强 + 人工复核 | 强 | 有 | 部分 | 内部研究 |
| 内网 AI + 三关核验 | 强 | 有 | 完整 | 书状与出庭材料 |
企业级环曜 Agent 本地化部署按这一档配置；表的重点不是贬低哪一类工具，而是提醒：凡是要提交法院的材料，就必须走能回溯来源的那一档。
五、律所上 AI 的三条责任边界
- 责任边界：AI 不承担执业责任，署名与签发的人承担；这也是最高法《意见》强调责任落到人的现实含义，企业级环曜 Agent 本地化部署把责任签发节点固化在流程里。
- 来源边界：引用必须核实原文，禁止以"模型这么说"作为依据；企业级环曜 Agent 本地化部署在检索结果上强制带来源标记。
- 数据边界：客户信息与案卷不出内网；国家安全机关此前也通报过违规使用 AI 工具导致信息外泄的案例。企业级环曜 Agent 本地化部署用最小权限、权限隔离与内网网关把这条边界收口，异常请求熔断、敏感操作进沙箱。
结语
这起案例真正的提醒是：律所上 AI 的风险不在"会不会用"，而在能不能核验。把来源、人工、留痕三道关设好，AI 才是助手；少一道，幻觉就可能变成执业事故。企业级环曜 Agent 本地化部署的价值，是让这三道关变成默认项，而不是靠律师个人自觉。你们的律所，现在有没有一条"引用必须可回溯"的硬规矩？
常见问题 FAQ
Q：Q1 律师用 AI 生成虚假案例要承担什么责任？
可能面临法院的司法惩戒与执业风险，情节严重的还可能涉及伪造证据等法律责任；具体以法院认定为准。企业级环曜 Agent 本地化部署建议先立"引用可回溯"制度。
Q：Q2 AI 幻觉能不能通过换模型解决？
不能根治。不同模型幻觉率有差异，但都要靠来源核验与人工复核兜底。
Q：Q3 三道核验关要上系统吗？
可以先用制度跑起来，再上工具固化；企业级环曜 Agent 本地化部署把三关固化为默认流程与留痕。
Q：Q4 检索增强会不会也编造案号？
检索增强把作答限制在真实文书范围内，能显著降低编造概率，但仍须人工核对原文，不能替代复核。
Q：Q5 律所选 AI 工具先看什么？
先看来源可回溯、留痕完整、数据能否不出内网这三点，再看速度与价格。
Q：Q6 中小律所没预算怎么做？
先用"来源关 + 人工关"两条制度约束，工具从内网检索起步；企业级环曜 Agent 本地化部署支持按场景分阶段落地。
