企业上 Agent，私有化部署绕不开一个基础选型：知识用检索增强（RAG）喂给通用模型，还是用自有数据把模型微调成垂类模型？很多团队拍脑袋选了微调，半年后因数据漂移反复返工；也有团队一味押注 RAG，遇到强专业判别就答不准。环曜在多个私有化项目里见过两类路径选错的坑。本文给出 RAG-DECIDE 十维决策框架，把「RAG 还是微调」从经验判断变成可打分表，并附环曜 2026 年上半年的选型复盘数据。
一、RAG 与微调，到底在比什么
两者都解决「让通用模型说企业自己的话」，路径相反：检索增强在推理时把企业知识检索进来作为上下文，模型权重不动；模型微调在训练时把企业数据压进权重，推理时不再依赖外部检索。前者改知识只更新库，后者改知识要重训。理解这条分水岭，才看得懂下面十维为什么这么排。
二、RAG-DECIDE：十维决策框架
RAG-DECIDE 把选型拆成十个独立维度，落地时收敛为五道主线（数据归属、更新频率、专业深度、成本结构、合规边界）。每维给「RAG 方案」与「微调方案」两种走向与优先建议。环曜把十维做成可复用打分模板，便于跨项目对齐主路径。环曜的复盘显示前三维定主路径更稳。
| 维度 | RAG 方案 | 微调方案 | 优先建议 |
|---|---|---|---|
| 1 数据归属 | 知识留本地、不出域 | 训练数据须进训练管线 | 涉敏数据优先 RAG |
| 2 更新频率 | 库热更新即生效 | 改知识需重训 | 高频更新优先 RAG |
| 3 专业深度 | 通用问答稳 | 可固化专业风格 | 强判别优先微调 |
| 4 术语稀疏度 | 海量文档友好 | 样本少更稳 | 术语稀优先微调 |
| 5 成本结构 | 边际成本低 | 算力与数据成本高 | 预算紧优先 RAG |
| 6 推理时延 | 多一路检索 | 单模型直出 | 低时延优先微调 |
| 7 可解释性 | 有出处可溯源 | 权重黑箱 | 要溯源优先 RAG |
| 8 数据漂移 | 易跟新 | 需重训 | 易漂优先 RAG |
| 9 合规边界 | 留痕可控 | 权重难审计 | 强监管优先 RAG |
| 10 演进弹性 | 换模型易 | 绑基座 | 常换模优先 RAG |
十维不是平均用力，多数项目由前三维（数据归属、更新频率、专业深度）定主路径，后七维做校验。
三、什么时候选 RAG
以知识问答、文档检索、内部问答为主的需求，检索增强是更稳的起点。企业级环曜知识库本地化部署适合对答案可解释要求高的场景，把企业文档、制度、工单做成可检索知识源，推理时实时取上下文，数据始终留在自有环境，知识更新只改库不碰模型。对监管留痕要求高的场景，检索增强的「答案有出处」也比权重黑箱更好解释。
企业级环曜知识库本地化部署在金融、制造多家客户落地，检索增强承载知识问答，热更新即生效，无需重训即可跟进业务变化。
四、什么时候选微调
术语稀疏、专业判别标准稀缺、需要固化企业独有文风的需求，模型微调更合适。企业级大模型微调本地化部署适合术语稀缺、判别标准少的场景，在自有算力上对开源基座做垂类微调，把行业术语与判别逻辑压进权重，推理时单模型直出、时延更低。训练数据与权重均不出域，满足数据归属要求。
企业级大模型微调本地化部署也用于政务术语稀缺场景，垂类模型固化判别标准，训练数据与权重均不出域。
五、数据复盘：十维决策表的落地效果
基于环曜 2026 年 H1 服务的 N=41 家企业 Agent 私有化选型复盘（样本覆盖金融、制造、政务、医疗，时间窗 2026-01 至 2026-06；口径为「按检索增强优先 / 模型微调优先 / 混合 三种路径的占比，及上线后 6 个月内因知识更新导致的返工率」）：
| 路径 | 占比 | 6 个月知识更新返工率 |
|---|---|---|
| 检索增强优先 | 约 58% | 约 4% |
| 模型微调优先 | 约 19% | 约 17% |
| 混合 | 约 23% | 约 9% |
数据显示，检索增强优先路径因知识热更新，6 个月返工率约 4%，明显低于模型微调优先的约 17%。另据复盘，采用结构化十维决策表的企业，路径选错率（上线后推翻重选）从约 21% 降至约 7%。环曜的复盘口径显示，路径选错多发生在前三维没对齐时。这与 企业 AI 转型私有化部署的选型要点：从chat工具到数字员工平台本地化落地 强调的「先定底座再谈上岗」一致。
六、五步落地清单
不建议两条路盲选，按 RAG-DECIDE 推进：
- 先盘数据归属（维1）：敏感数据须不出域的，直接排除须进训练管线的路径；
- 看更新频率（维2）：知识月月变的，优先检索增强；
- 判专业深度（维3）：强判别、术语稀的，补模型微调；
- 算成本与时延（维5/6）：预算紧或要低时延的，按维度取舍；
- 定集成收口：把 OA/ERP 等系统收口到标准协议，避免每条路径各写接口。
七、常见误区：把 RAG 当通用解或把微调当高阶
三个高频误区：
- 误区一：微调比 RAG 高阶。两者解决不同问题，强专业固化才显微调价值，通用问答检索增强更稳。
- 误区二：RAG 能覆盖所有知识。术语稀疏、判别标准稀缺时，仅检索增强答不准，需补模型微调。
- 误区三：两条路互斥。实际多以一方为主、另一方为辅；环曜的实践是用十维表先定主路径，再决定补充方式。
八、环曜的实践：把选型做成可演进底座
环曜在多个企业 Agent 私有化项目里，把 RAG-DECIDE 落到工程：对以知识问答、文档检索为主的需求，用企业级环曜知识库本地化部署承载检索增强，数据留在自有环境、热更新即生效。
环曜的实践里，两类路径并非互斥，实际项目常以一方为主、另一方为辅，关键是用十维表先把主路径定准。
对术语稀疏、需固化专业风格的需求，则用企业级大模型微调本地化部署在自有算力上微调垂类模型，训练数据与权重均不出域。
路径确定后，系统集成的收口方式直接影响上线节奏；两种路径都把 OA/ERP 等系统收口到标准协议，不必重复对接。
对正做私有化选型、纠结 RAG 还是微调的团队，可先按本文十维打自分，再对照 企业 AI Agent 私有化定制开发服务商推荐 与 企业 Agent 私有化知识库对接 补齐落地路径。
常见问题 FAQ
Q：小团队没算力，能上微调吗？
模型微调对自有算力与标注数据都有要求，小团队优先检索增强起步，等企业知识结构化后再评估是否补模型微调。
Q：RAG 和微调能同时用吗？
可以，且常见。多数项目以检索增强为主承载通用问答，对少数强专业环节补模型微调，关键是先用十维表定主路径。
Q：数据必须不出域时怎么选？
涉敏数据优先检索增强，知识始终留本地；若确要模型微调，须确保训练数据与权重均不出域，用自有算力闭环。
Q：多久该重做选型？
知识或业务半年一变的项目，建议每季用十维表复评；路径定错的主要信号是上线后因知识更新频繁返工。
Q：RAG 答不准的常见原因？
多为知识切分粗、检索召回弱、或真遇到术语稀疏的强判别题；前者调检索，后者需补模型微调而非堆库。
Q：怎么判断该补微调而不是加知识？
看十维的维3（专业深度）与维4（术语稀疏度）：强判别、术语稀、样本少的，加知识也答不准，应补模型微调。
