AI 本地部署：从算力到应用的完整交付
本地部署不是把模型文件拷进机房。尚合AI 按「算力—模型—平台—应用」四层交付，配套安全策略与运维体系，让 AI 真正进入生产流程。
四个理由，让核心业务必须留在内网
如果 AI 只是用来写文案，公有云足够；一旦涉及图纸、客户、合同与产线数据，架构选择就没有余地。
数据主权
核心数据一旦离开内网，就不再完全可控。本地部署从物理上消除外传路径。
合规要求
等保、行业监管与客户保密条款，通常直接要求涉密资料不得出境、不得上公有云。
业务时延
产线、门店、庭审等现场场景对响应敏感，内网直连比公网往返稳定得多。
长期成本
高频调用下，按 token 计费的成本会持续攀升；本地部署是一次性投入加固定运维。
四层架构，责任边界清晰
每一层都有明确的交付物与验收标准。企业 IT 只需提供机房、网络与系统接口，其余由尚合AI 负责。
不挑环境，也不推翻现有投资
我们不要求企业为 AI 重建一套基础设施。现有 GPU、虚拟化平台、目录服务与业务系统，能复用的都会复用。
- 算力 支持主流国产 GPU 与 NVIDIA 卡，混合部署时按模型分流。
- 系统 适配国产服务器与信创操作系统，容器化交付。
- 账号 对接 AD / LDAP / 企业微信 / 钉钉组织架构，单点登录。
- 数据 只读接入业务库，写入操作全部经由企业既有系统。
三种形态，覆盖不同规模
可以从一台一体机起步，验证后再扩展到私有云；也可以直接接入集团算力平台。
| 形态 | 适用场景 | 算力来源 | 参考周期 | 扩展方式 |
|---|---|---|---|---|
| 私有化一体机 | 单厂区、单团队快速验证；IT 人力有限 | 随设备交付 | 约 2 周 | 加节点 / 迁移至私有云 |
| 企业私有云 | 集团多部门共用；已有 GPU 资源池 | 复用现有资源池 | 3–6 周 | 按并发水平扩容 |
| 边缘节点 | 厂区、门店、分支；弱网或需离线 | 节点本地算力 | 2–4 周 | 多节点统一纳管 |
部署前，先确认这五件事
以下清单来自实际项目的前置检查项，通常在环境评估阶段一天内即可完成核对。
| 类别 | 适配范围 | 需要企业提供 |
|---|---|---|
| 算力硬件 | 主流国产 GPU、NVIDIA 数据中心卡；单机 4–8 卡起步 | 服务器型号、显存规格、机房机位与供电 |
| 操作系统 | 主流 Linux 发行版、国产信创操作系统 | 系统版本与内核信息、是否可容器化 |
| 网络环境 | 内网可达、可分配独立网段；支持完全离线 | 网段规划、代理策略、防火墙开放清单 |
| 数据与文档 | PDF / Word / Excel / 图片扫描件 / 结构化业务数据 | 首批 200–500 份核心文档（可脱敏） |
| 业务系统 | ERP / MES / OA / CRM / 邮箱 / 合同系统，提供只读接口 | 接口文档或数据库视图权限 |
把安全做成默认配置，而不是可选项
本地部署解决了「数据在哪」的问题，权限、审计与内容安全仍需逐项落实。
网络隔离
部署于独立网段，仅开放必要端口；支持完全离线运行模式。
权限分级
部门、角色、知识库三级授权，敏感文档可设仅检索、不展示原文。
全量审计
问答、检索、导出、配置变更均留痕，日志可对接企业 SIEM。
内容安全
内置敏感词与合规策略，输出前过滤；可按行业要求定制拦截规则。
六个阶段，每一步都有交付物
典型项目从启动到首个场景验收约 4–8 周，具体取决于文档准备与系统对接复杂度。
需求诊断与场景排序
访谈业务部门，列出候选场景并按「价值 × 可行性」排序，输出场景清单与优先级建议。
环境评估与算力测算
核查硬件、网络与安全策略，按并发与文档量测算显存需求，输出配置建议。
方案设计与评审
确定部署形态、模型规格、接口清单与验收指标，形成可内部评审的技术方案。
部署实施
硬件上架、系统初始化、模型加载、知识库导入、系统对接与权限配置。
场景调优与验收
用真实业务样本反复测试，调整检索策略与提示词，按约定指标完成验收。
运维与迭代
监控告警、模型与知识库更新、新场景复制，按季度复盘使用效果与投入产出。
交付之后，我们还在
本地系统的价值随时间增长，前提是有人持续维护知识库与场景。
响应时效
工作日 4 小时内响应，紧急故障 2 小时内介入；重大场景提供现场支持。
版本升级
模型与平台版本按季度评估升级，升级前在内网测试环境验证，不影响生产。
能力转移
提供管理员培训与操作手册，让企业 IT 能独立完成日常管理与知识库维护。