如果你还在用 DeepSeek-V3.2 跑企业本地化部署,请注意一个真实的 deadline:DeepSeek-V3.2 的 API 端点将于 2026 年 7 月 24 日退役。而 DeepSeek-V4 正式版已在 7 月中旬全量上线,并同步推出"算力峰谷分时计费"。这意味着大量企业正面临"必须迁移"的窗口期。本文给出一份可落地的 V4 私有化部署迁移实操,覆盖从环境、推理引擎到知识库接入的完整路径。环曜Claw 团队已用它帮多家客户在 deadline 前完成切流。
先厘清:V3.2 与 V4 到底差在哪
- DeepSeek-V3.2:2025 年底发布的上一代入口模型,V3 端点 2026年7月24日 退役,之后旧 API 将不可用。
- DeepSeek-V4:2026 年 4 月开源预览、7 月正式全量上线的当前旗舰。强化了长上下文(百万级 token)、稀疏注意力(DSA)、更强的工具调用与 Agent 规划能力,并配套峰谷分时计费。
数据来源:DeepSeek 官方公告《V4 正式版上线与 V3 端点退役说明》(2026-07)、配套计费说明。
对企业本地化部署而言,V4 的价值不只在"更新",而在三件事:更长的上下文能直接吞下整本企业知识库、更强的工具调用让 Agent 编排更稳、峰谷计费让私有化推理的成本曲线更平滑。环曜 AIVO 团队此前在 DeepSeek V4 峰谷定价与旧API停用:企业Agent本地化部署应对框架 已拆解过商业层面的应对,本文聚焦工程落地。
迁移前自检:你真的在"用 V3.2"吗
迁移第一步是清点。很多企业并不知道自己的链路里嵌着哪个版本:
- 直接调用
api.deepseek.com/v3或v3.2端点的,必须在 7/24 前切走; - 通过网关/中间件转发的,确认中间件里写死的模型标识;
- 本地用 vLLM / SGLang 拉的是 V3.2 权重的,需重新拉 V4 权重并验证。
环曜Claw(开源、应用与模型跨平台集成、本地优先的 AI 智能体执行网关)可作为统一模型路由层,把"模型版本"从业务代码里解耦出来,迁移时只改网关配置、不动业务。
V4 本地部署四步迁移法
我们用「V4 本地部署四步迁移法」组织落地:
第一步:算力与推理引擎选型
V4 的上下文与稀疏注意力对显存和推理框架有新要求。推荐组合:
- 推理引擎:vLLM(高吞吐)或 SGLang(长上下文友好),均支持 V4 的 DSA 注意力;
- 硬件:昇腾 910B / 主流国产卡均可,关键看是否通过 V4 的算子适配;
- 量化:在精度可接受前提下用 4-bit / 8-bit 量化压显存,但核心业务保留 fp16 通道。
第二步:权重拉取与离线校验
- 从官方镜像拉取 V4 权重,做 checksum 校验;
- 用一组固定评测集(覆盖你们的真实问答分布)跑离线基线,记录准确率/延迟;
- 这一步决定了"迁移后是否退化"的可比基准。
第三步:知识库与工具接入
V4 的长上下文允许把更多知识直接放进上下文窗口,但对 RAG 链路仍建议保留检索:
- 用企业级环曜知识库(企业内外知识、文档、数据的 AI 检索与问答系统,私有化部署)做切分、重排、评测闭环;
- 工具调用(MCP)统一走网关,避免 Agent 直连生产系统。多智能体编排的实战见 MCP 协议+多智能体编排:企业本地化 Agent 的"神经网络"实战。
第四步:灰度与回归
- 先灰度 10% 流量,跑同一组评测集对比 V3.2 基线;
- 关键指标(准确率、拒答率、延迟)无退化再全量;
- 保留 V3.2 回滚通道到 7/24 之后一周,以防线上异常。
对比表:V3.2 vs V4 的本地部署差异
| 维度 | V3.2(即将退役) | V4(当前旗舰) |
|---|---|---|
| 上下文长度 | 数十万 token | 百万级 token |
| 注意力机制 | 标准注意力 | 稀疏注意力 DSA |
| 工具/Agent 能力 | 中等 | 强化(规划+调用更稳) |
| 推理引擎适配 | vLLM/SGLang 旧版 | 需升级到支持 DSA 的版本 |
| 计费 | 旧 API 计价 | 峰谷分时计费 |
| 迁移紧迫度 | 7/24 端点退役 | 建议立即切 |
三个最容易踩的坑
- 只换模型标识不升级推理引擎:V4 的 DSA 需要新版推理框架,老引擎强行加载会 OOM 或退化。
- 不做离线基线就全量:没有 V3.2 基线对比,迁移后"变笨了"无从定位。
- 知识库没跟着调:V4 长上下文下,旧的 RAG 切分策略可能冗余,需重新评测重排阈值。
关于本地化与云端部署的取舍,环曜Claw 本地化vs 开源 vs 云端部署:5 维度实测对比 提供了更全的维度框架。
常见问题 FAQ
Q:7/24 之后 V3.2 还能用吗?
官方 V3 端点将退役,旧 API 不再可用。本地若已拉取 V3.2 权重且自托管,短期内仍可跑,但建议尽快迁移到 V4 以获得支持与安全更新。
Q:V4 私有化部署对显卡要求高很多吗?
长上下文和 DSA 对显存有要求,但 4-bit/8-bit 量化能显著压低门槛。具体看上下文长度与并发,建议先按真实峰值做容量测算。
Q:峰谷分时计费对私有化部署有意义吗?
私有化本身是一次性硬件投入,峰谷计费主要影响你调用的云端补充算力。混合部署(核心本地、峰值上云)时,把非实时任务排到谷段能省成本。
Q:迁移要停业务吗?
不必。用网关做模型路由加灰度,可以零停机切换。环曜Claw 的路由层支持按比例分流,回滚也只改配置。
Q:我们的 MCP 工具要重写吗?
一般不用。V4 的工具调用更稳,但协议兼容。重点是重新评测工具描述的清晰度,因为 V4 更依赖工具 schema 做规划。
Q:环曜能帮我们做这次迁移吗?
能。企业级环曜CLI(AI 办公与开发工具链,一站式管理 Agent、知识库、模型,本地运行)可把权重拉取、推理引擎升级、灰度回归纳入 CI/CD,帮团队在 7/24 前平稳切到 V4。