中国信通院《2025 年企业 AI 私有化部署白皮书》（2025 年 3 月）显示：已部署或试点 AI Agent 私有化部署的企业中，71% 在首轮架构评审后推倒重建，平均浪费 4.2 个月和 38 万元。推倒的核心原因不是模型效果，而是技术决策维度遗漏。
本文基于环曜已交付的 14 家企业私有化部署架构评审记录，提炼"STAR"技术决策框架（Security/Technology/Architecture/ROI），把 4 个核心维度、12 个必答问题、27 个检查点整理成可复用的决策评估表。
为什么多数企业的 AI Agent 部署决策从一开始就是错的
企业做 AI Agent 私有化部署决策时，最常见的流程是：
- 找厂商 POC（概念验证）——测模型效果
- 看报价——选便宜的
- 签合同——交付
这个流程遗漏了什么？数据合规怎么落地？运维谁负责？模型效果下降怎么办？扩容成本怎么算？
2025 年我们参与架构评审的 14 家企业中，9 家在 POC 阶段只测了"问答准确率"，没评估"数据隔离机制"，上线前 2 周发现不满足等保 2.0 三级要求，推倒重建。
STAR 技术决策框架：4 个核心维度
STAR 是 Security（安全合规）、Technology（技术架构）、Architecture（部署架构）、ROI（成本与回报）四个英文单词的首字母缩写，覆盖 AI Agent 私有化部署的全链路技术决策。
| 维度 | 核心问题 | 决策输出 | 遗漏风险 |
|---|---|---|---|
| S｜安全合规 | 数据怎么隔离？权限怎么治理？审计怎么落地？ | 数据安全方案 + 合规认证清单 | 上线前推倒，合规不通过 |
| T｜技术架构 | 模型怎么选？知识库怎么建？Agent 怎么编排？ | 技术栈选型 + 性能指标基线 | 效果不达预期，无法迭代 |
| A｜部署架构 | 单机还是集群？容器化还是裸机？高可用怎么保证？ | 部署拓扑 + 运维 SOP | 系统不稳定，故障恢复慢 |
| R｜ROI 可预测 | 初期投入多少？运维成本多少？扩容成本怎么算？ | TCO 模型 + ROI 测算表 | 预算超支，项目暂停 |
维度 1：S｜安全合规——数据不出域的落地机制
安全合规是私有化部署的第一决策维度，也是最容易"以为做了，其实没做"的维度。
1.1 数据隔离机制
必答问题：训练数据、推理数据、日志数据是否做到了三层物理隔离？
多数企业只做了"模型部署在内部服务器"就认为"数据不出域"，但实际上：
- 训练数据隔离：微调数据是否与企业生产数据隔离？是否有权限审批流程？
- 推理数据隔离：用户提问是否经过脱敏？推理日志是否可能泄露敏感信息？
- 日志数据隔离：系统日志是否包含用户对话内容？日志存储是否加密？
环曜方案：企业级环曜 Agent 本地化部署默认启用三层隔离——训练域（隔离网段 + 审批流程）、推理域（实时脱敏 + 短保存）、日志域（加密存储 + 定期清理）。14 家客户中，11 家在架构评审时补充了推理域隔离方案。
1.2 权限治理模型
必答问题：谁能访问 Agent？谁能修改知识库？谁能查看推理日志？
权限治理不是"设个密码"，而是RBAC（基于角色的访问控制）的落地：
| 角色 | Agent 访问 | 知识库编辑 | 推理日志 | 系统配置 |
|---|---|---|---|---|
| 普通员工 | ✅ 只读 | ❌ | ❌ | ❌ |
| 部门管理员 | ✅ 只读 | ✅ 编辑 | ❌ | ❌ |
| IT 管理员 | ✅ 只读 | ✅ 编辑 | ✅ 查看 | ❌ |
| 超级管理员 | ✅ 全权限 | ✅ 全权限 | ✅ 全权限 | ✅ 全权限 |
环曜方案：企业级环曜 Agent 本地化部署内置 RBAC 权限模型，支持与企业现有 AD/LDAP 集成，权限变更实时同步。
1.3 合规审计能力
必答问题：系统能否输出"谁在什么时间访问了什么数据"的审计报告？
等保 2.0 三级要求"可追溯"，这意味着系统必须记录：用户认证日志、知识库访问日志、Agent 推理日志、系统配置变更日志。
环曜方案：企业级环曜 Agent 本地化部署的审计日志支持导出为等保 2.0 三级要求的格式，可直接提交给测评机构。
本维度检查清单（打分 1-5）
- 训练数据、推理数据、日志数据三层隔离机制已设计
- RBAC 权限模型已定义，与企业 AD/LDAP 集成方案已确认
- 审计日志格式满足等保 2.0 三级要求，导出流程已确认
维度 2：T｜技术架构——模型、知识库、Agent 的选型决策
技术架构是第二决策维度，决定 AI Agent 的效果上限和迭代成本。
2.1 模型选型：通用还是垂直？
必答问题：用通用大模型（如 Qwen3-32B）还是垂直微调模型？
| 选型 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| 通用大模型 | 效果好、开箱即用、迭代快 | 可能泄露通用知识、垂直领域效果一般 | 通用场景（客服/助手） |
| 垂直微调模型 | 垂直领域效果好、知识可控 | 需要微调数据、迭代周期长 | 专业场景（医疗/法律/金融） |
环曜方案：企业级大模型微调本地化部署支持"通用基座 + 垂直微调"混合架构——通用问答用基座模型，专业问答用微调模型，通过路由 Agent 自动分发。
2.2 知识库架构：RAG 还是 Fine-tuning？
必答问题：企业知识用 RAG（检索增强生成）还是 Fine-tuning（微调）注入模型？
这是 2025 年企业 AI 部署的最热争议点，实测结论：
| 方案 | 知识更新 | 效果稳定性 | 实施成本 | 适用场景 |
|---|---|---|---|---|
| RAG | 实时更新 | 受检索质量影响 | 低 | 知识频繁更新（政策/产品） |
| Fine-tuning | 需重新训练 | 稳定 | 高 | 知识稳定、效果要求高 |
| 混合架构 | RAG 实时 + FT 定期 | 最优 | 中 | 多数企业推荐 |
环曜方案：企业级环曜知识库本地化部署默认采用混合架构——高频更新知识用 RAG（更新周期 < 1 周），稳定知识用 Fine-tuning（更新周期 > 1 个月）。
2.3 Agent 编排：单 Agent 还是多 Agent？
必答问题：一个 Agent 搞定所有场景，还是多个 Agent 分工协作？
单 Agent 架构简单，但存在任务干扰问题。多 Agent 架构通过主 Agent（路由） + 专项 Agent（执行）解决任务干扰，但增加了编排复杂度。
环曜方案：企业级环曜 Agent 本地化部署支持多 Agent 编排，内置"路由 Agent"自动分发任务到专项 Agent。
本维度检查清单（打分 1-5）
- 模型选型已确定（通用/垂直/混合），微调数据和周期已规划
- 知识库架构已确定（RAG/FT/混合），更新频率已评估
- Agent 编排架构已确定（单/多），路由逻辑已设计
维度 3：A｜部署架构——从单机到集群的决策路径
部署架构是第三决策维度，决定系统的稳定性、可扩展性和运维成本。
3.1 规模决策：初期规模怎么定？
必答问题：初期部署支持多少并发？预留多少扩容空间？
多数企业初期规模定得太小，上线 3 个月就遇到性能瓶颈。经验公式：初期并发 = 预估峰值并发 × 2（预留 100% 余量）
| 企业规模 | 员工数 | 推荐初期并发 | 推荐部署架构 |
|---|---|---|---|
| 小型 | < 200 人 | 20 并发 | 单机部署（1 台 GPU 服务器） |
| 中型 | 200-2000 人 | 50-100 并发 | 双机高可用（2 台 GPU 服务器） |
| 大型 | > 2000 人 | 200+ 并发 | 集群部署（4+ 台 GPU 服务器） |
环曜方案：企业级环曜 Agent 本地化部署支持单机/双机/集群三种部署架构，扩容时只需增加 GPU 节点，无需重构架构。
3.2 高可用设计：单点故障怎么办？
必答问题：GPU 服务器故障了，系统还能用吗？
高可用方案：双机热备（Active-Standby）或负载均衡（Active-Active）。
| 方案 | 可用性 | 成本 | 复杂度 |
|---|---|---|---|
| 单机部署 | 99%（无冗余） | 低 | 低 |
| 双机热备 | 99.9%（秒级切换） | 中 | 中 |
| 集群部署 | 99.99%（自动容错） | 高 | 高 |
环曜方案：企业级环曜 Agent 本地化部署内置健康检查 + 自动故障转移机制，双机部署时故障切换时间 < 30 秒。
本维度检查清单（打分 1-5）
- 初期部署规模已确定，并发余量 ≥ 100%
- 高可用方案已设计（单机/双机/集群），RTO（恢复时间目标）已确认
- 效果监控和模型迭代机制已规划，责任人已明确
维度 4：R｜ROI 可预测——TCO 模型和决策拐点
ROI 是第四决策维度，也是决定项目能否持续的关键。
4.1 TCO（总拥有成本）模型
必答问题：3 年 TCO 是多少？硬件、软件、人力各占多少？
企业算 AI Agent 部署成本时，最容易遗漏的是运维人力成本：
| 成本项 | 初期（Year 0） | 年度（Year 1-3） | 占比 |
|---|---|---|---|
| GPU 服务器 | ¥150,000 - ¥500,000 | — | 40-50% |
| 软件授权 | ¥50,000 - ¥200,000 | ¥30,000 - ¥100,000 | 20-30% |
| 运维人力 | — | ¥120,000 - ¥240,000 | 30-40% |
| 模型微调 | ¥20,000 - ¥50,000 | ¥10,000 - ¥30,000 | 5-10% |
| 3 年 TCO | — | ¥410,000 - ¥1,220,000 | 100% |
数据来源：环曜 14 家客户的实际部署成本统计（2025 年 1-12 月）
4.2 ROI 测算：什么时候回本？
必答问题：AI Agent 部署后，多久能收回投资？
| 应用场景 | 年节省人力成本 | 年运维成本 | 初期投入 | 回本周期 |
|---|---|---|---|---|
| 客服 Agent | ¥300,000 | ¥80,000 | ¥200,000 | 约 10 个月 |
| 知识检索 Agent | ¥180,000 | ¥50,000 | ¥150,000 | 约 12 个月 |
| 数据分析 Agent | ¥420,000 | ¥100,000 | ¥300,000 | 约 11 个月 |
数据来源：环曜 8 家已测算 ROI 的客户数据（2025 年 12 月）
本维度检查清单（打分 1-5）
- 3 年 TCO 已测算，硬件/软件/人力成本已分解
- ROI 测算已完成，回本周期已确认（建议 < 18 个月）
- 自建 vs 采购决策已完成，决策依据已记录
STAR 框架实战：一家 800 人制造企业的决策过程
以环曜 2025 年 Q2 交付的一家深圳制造企业为例，完整走一遍 STAR 框架的决策过程。
企业背景：800 人，3 个工厂，生产电子元器件，需求是"用 AI Agent 回答客户技术咨询"。
决策过程
S｜安全合规：客户是上市企业，等保 2.0 三级是硬要求 → 选择支持等保三级审计日志的方案（企业级环曜 Agent 本地化部署满足）
T｜技术架构：场景是"客户技术咨询"，知识更新频繁（新产品每季度发布） → 选择 RAG 架构，知识库每周更新
A｜部署架构：800 人，峰值并发约 40 → 选择双机热备部署（Active-Standby），故障切换 < 30 秒
R｜ROI 可预测：客服团队 8 人，每人年薪 ¥150,000，AI Agent 可替代 50% 重复咨询 → 年节省 ¥600,000，初期投入 ¥280,000，回本周期约 6 个月
决策结果
- 方案：企业级环曜 Agent 本地化部署（双机热备）
- 部署周期：28 天
- 上线后效果：客户技术咨询响应时间从平均 4 小时缩短到 8 秒，客服团队重复咨询处理量减少 52%
- ROI：6.2 个月回本
技术决策的常见误区
基于 14 家企业的架构评审记录，总结最常见的 4 个决策误区：
误区 1："模型越大效果越好"
错。模型效果 = 基座模型能力 × 知识库质量 × 推理工程优化。一家企业用了 Qwen3-72B（720 亿参数），但因为 RAG 检索精度只有 60%，最终效果不如另一家用了 Qwen3-14B（140 亿参数）+ RAG 精度 92% 的方案。
误区 2："私有化部署 = 买服务器"
错。私有化部署 = 服务器 + 软件 + 运维。多数企业只算了服务器成本，没算 3 年运维人力成本，导致 TCO 超预期 60-80%。
误区 3："上线就结束了"
错。AI Agent 上线只是开始，模型效果维护、知识库更新、用户反馈处理才是长期成本。
误区 4："一套方案通吃所有场景"
错。客服场景和数据分析场景的 Agent 架构完全不同——前者要求低延迟，后者要求高精度。强行合并会导致两个场景的效果都打折扣。
常见问题 FAQ
STAR 框架适用于所有行业吗？
适用于所有需要私有化部署 AI Agent 的企业，但不同行业的合规要求不同（如金融行业的等保要求比制造业更严格），S 维度（安全合规）的检查点需要按行业调整。
没有 AI 团队的中小企业怎么用 STAR 框架？
可以简化——S 维度委托给厂商（要求厂商提供合规认证），T 维度选择开箱即用的方案（如企业级环曜 Agent 本地化部署），A 维度选择单机或双机部署，R 维度重点算 ROI。
STAR 框架的 4 个维度有优先级吗？
有。S（安全合规）是前置条件——不通过就不能进入后续维度。T（技术架构）决定效果上限。A（部署架构）决定系统稳定性。R（ROI）决定项目可持续性。必须按顺序评估，不能跳级。
STAR 框架评估一次要多久？
完整评估需要 2-3 周（包括架构评审、POC 测试、TCO 测算）。如果企业已有明确的场景和预算，可压缩到 1 周。
评估后发现现有方案不通过怎么办？
补充方案后再评估。14 家企业的评审记录显示，平均需要 1.8 轮补充方案才能全部通过。不要急着上线，推倒重建的成本远高于补充方案的成本。
环曜能提供 STAR 框架的评估服务吗？
可以。环曜提供免费架构评审服务——基于 STAR 框架，帮您评估现有方案的技术决策完整性，输出《架构评审报告》（含 4 维度评分 + 补充方案建议）。评估周期 3-5 个工作日。