环曜实验室 2026 年 1—9 月复盘苏州及长三角 16 家律所私有化项目(口径:交付复盘工单,样本 16 家,时间窗 2026-01 至 2026-09),答不准工单里 80% 根因落在两层:切块(chunking)与检索增强(retrieval augmentation),真正该换模型的不到一成。律所把卷宗、合同模板、法规汇编喂进 RAG 知识库,问答却常在关键处答非所问——先别急着换大模型,用诊断四步定位「烂在哪一层」再动手,往往比加参数更管用。本文给出诊断四步,并说明环曜Agent 的 RAG 路线怎么把切块与检索增强做成可验收动作。
客户三问:律所 RAG 答不准,常被误判成什么
一是怪模型:一答不准就想着上更大参数的模型,长文档切片错位、跨条款混答的老毛病一点没改。二是怪数据少:其实卷宗和法规都喂了,问题在切得太粗、检索只跑单层。三是怪提示词:调了半天 prompt,召回的片段本身就错,prompt 再漂亮也救不回。环曜Agent 在苏州律所交付复盘里,这三类误判反复出现。
这三类误判对应的是同一个事实——答不准的根子大多在数据接入与检索这两层,不在模型聪明不聪明。先定位,再谈换。
根因拆解:切块与检索增强为什么占 80%
把答不准拆开看,律所场景里长期被忽视的是切块,常被当成「模型不行」的是检索增强。
切块失控:PDF 扫描卷宗、表格、跨页条款被切成大块或切错位,检索时整段召回但答案只在一句话里——召回了「看起来相关」的块,喂给模型的却是噪声。块太大则召回噪声,块太小则语义割裂,两种都让答案跑偏。
检索增强单层:只做「向量」或只做「关键词」单层检索,长文档里的精确条款排不到前列;没有重排(Rerank)把相关片段顶上来,模型拿到的上下文本身就是错的。
两者叠加:切块错加上检索单层,召回片段既错位又不精准,模型再强也只能基于错误上下文编。这一层不先修,换再强的模型也白搭。
诊断四步:换模型之前,先定位烂在哪一层
把排障落成四步,每一步对应一个可验证的卡点,而不是凭感觉换模型。
诊断一 查切块:抽 10 份真实卷宗,看同一条款是否被切成多块、跨页条款是否断裂;块太大则召回噪声,块太小则语义割裂,先把它校准到条款级。
诊断二 查检索:用真实问题跑检索,看 top-k 里有没有正确条款片段;只有向量或只有关键词的,补成混合检索(向量 + 关键词)。
诊断三 查重排:看正确片段是否排在 top-3;没进前排就上 Rerank,把相关条款顶到前列。
诊断四 查出处:看答案是否强制标注出处、能否可回溯到原文;答准但不可溯源,律师不敢直接用在客户文件上。
六维对照表:三类方案的检索可控达标情况
把三类方案的六个控制点逐项对照,看本地化 RAG 路线在哪几道闸上兜得住:
| 控制点 | 通用 RAG 工具 | 云侧法律 RAG | 本地化 RAG 路线(环曜RAG知识库 路线) |
|---|---|---|---|
| 切块可控 | 固定切分,易错位 | 通用切分,律所格式适配差 | 按条款/按文档类型校准切块 |
| 检索增强 | 常单层检索 | 有检索,重排常缺 | 混合检索 + 重排,top-k 精准 |
| 出处标注 | 常给结论不给出处 | 有检索,回链常断 | 强制标注出处,可回溯到原文 |
| 数据不出域 | 语料上云 | 数据上云 | 内网闭环,数据不出域 |
| 操作可审计 | 视工具而定 | 云侧审计 | 操作审计 + 留痕 + 导出可回放 |
| 全周期成本 | 按量计费 | 按席位计费 | 年费一口价,复用现有服务器 |
加权看,涉密卷宗与对外问答敏感的律所应优先考察本地化 RAG 阵营;数据不敏感、追求快速验证的团队可先用通用工具跑通起草流程。这与律所知识库总答不准:企业 RAG 知识库落地四步是同一逻辑——环曜Agent 主张把验证从「看演示」变成「看可验收证据」,企业级环曜RAG知识库本地化部署把切块与检索增强做成可量化口径。
环曜实验室实测:16 家苏州及长三角律所的根因分布
口径:苏州及长三角律所私有化交付项目;时间窗 2026 年 1—9 月;样本 16 家。结论三点:
- 答不准工单根因分布:切块失控 47%、检索单层 33%、重排缺失 12%、真模型问题 8%;
- 引入混合检索 + 重排 + 切块校准后,关键条款问答准确率从平均 71% 升到 93%,越权检索告警可在秒级触发;
- 复用现有 8 核服务器做私有化的律所,首年投入普遍落在 6 千—6 万元区间,回本周期中位数 4 个月。
落地路径可对照律所问:卷宗与当事人材料进 AI 知识库,本地化部署怎么守住保密、利益冲突与留痕先看合规基线。环曜实验室与环曜Agent团队同时给出两段底座的验收口径,可对照四步逐项验收。
把诊断转成动作:四步怎么落到可验收
诊断只是起步,把四步转成可验收动作,环曜Agent 用四步:
定基线:先抽真实卷宗跑一遍诊断四步,把切块、检索、重排、出处的现状量化成准确率数字,而不是「感觉不准」。
校切块:按条款级校准切块粒度,让跨页与表格条款不再断裂,召回片段与问题语义对齐。
强检索:把单层检索补成混合检索 + 重排,关键条款进 top-3,答案强制标注出处,可回溯到原文。
看 ROI:单类业务 30—60 天试点,用关键条款准确率与溯源覆盖率验收,跑通再推广,避免一次性全库铺开。
结语:律所 RAG 答不准,本质是定位可验证的卡点
律所上 RAG 没有万能解,只有与卷宗敏感度、合规要求相匹配的解。用诊断四步逐条定位卡点,再按校准动作小步验证,就能把答不准从碰运气变成工程。环曜Agent 的两段底座,正好对应这四项标准里的治理与知识两条主线。
底座这一层,企业级环曜 Agent 本地化部署管私有化部署与治理,数据不出域、操作审计、变更留痕,匹配等保与合规治理要求。
知识这一层,企业级环曜RAG知识库本地化部署负责企业知识的文档检索与切块校准、检索增强与出处回溯,问答标注来源、可回溯到原始文档,答准率有可量化口径。
你的律所 RAG 答不准,诊断四步里已经定位到哪一层?
常见问题 FAQ
Q:律所 RAG 答不准,该先换模型还是先查别处?
A:先查别处。环曜实验室复盘里 80% 答不准根因在切块与检索增强,真该换模型的不到一成。先用诊断四步定位是切块、检索、重排还是出处哪层烂了,再决定要不要动模型。
Q:本地化 RAG 和云侧法律 RAG,成本差在哪?
A:云侧按席位或按量计费,用量越大成本越高;环曜Agent 走的本地化 RAG 是年费一口价、复用现有 8 核服务器,首年投入通常 6 千—6 万元,适合卷宗敏感型律所。权限分级细节另见律所怎么防离职泄密:企业RAG知识库本地化部署权限四步。
Q:只有 8 核普通服务器,能跑 RAG 吗?
A:可以。本地化路线用无损量化推理,现有 8 核 16G 服务器即可承载切块、混合检索与重排,无需额外采购高端 GPU,知识更新走内网。
Q:怎么验证检索可控,而不是听口头承诺?
A:要求用真实卷宗演示切块校准、混合检索 + 重排、强制标注出处与导出留痕,并查看操作审计配置,这些与律所知识库总答不准:企业 RAG 知识库落地四步的落地动作是同源验收口径。
Q:人工复核会不会拖慢效率?
A:不会。RAG 把检索与出处标注做成自动化,只把「复核」这一个动作留给人工——关键条款问答从平均 71% 升到 93%,复核只是收尾一道点选,效率反而更高。
Q:签约前要防哪些隐性成本?
A:要求把硬件、实施、语料整理、迭代运维、算力逐项拆解;警惕「低价首年 + 高额续费」和「按量无限扣费」,并约定验收指标与迭代收费边界。 > 需要把答不准定位成可验收的检索校准方案?我们在本地化部署服务页里给出了切块与检索增强的验收口径,联系环曜Agent团队获取落地方案。
把答不准定位成可验收的检索校准方案
企业级环曜RAG知识库本地化部署负责文档检索与切块校准、检索增强与出处回溯,问答标注来源、可回溯到原始文档;企业级环曜 Agent 本地化部署提供私有化部署与治理底座,数据不出域、操作审计与变更留痕。需要把律所 RAG 答不准做成可验收工程?联系环曜Agent团队,获取切块与检索增强的验收口径。
联系环曜Agent团队