「私有化部署一套大模型要多少钱？」——这是机构决策人最关心也最难得到直接回答的问题。原因在于报价差异极大：同样叫「私有化」，从几万元到几百万元的方案都存在。这篇文章把钱到底花在哪里讲清楚，给出可以直接拿去比价的框架。
钱花在四个地方
- 硬件：跑模型的服务器。是否需要 GPU、需要几张，取决于模型大小、并发人数和响应速度要求。
- 模型：主流开源大模型本身免费商用，成本在于选型、量化、部署与调优的工程工作。
- 工作台软件：机构真正每天用的东西。裸模型只是一个聊天框，合同审查、文书起草、OA 答复这些能力来自行业工作台。
- 服务：数据清洗与资产导入（模板、规则、台账）、全员培训、持续运维。这部分最容易被低估，却直接决定「用不用得起来」。
硬件三档，对号入座
- 起步档（几万元级，常规服务器）：跑量化后的中型开源模型，支撑 10~30 人机构的日常审查与起草。多数中小律所、代理所从这一档起步就够。
- 进阶档（十几万元级，单卡 GPU 服务器）：模型更大、响应更快，适合 30~80 人、并发高或对生成速度敏感的机构。
- 集群档（几十万元起，多卡 GPU）：大所或集团型机构，多模型并行、知识库规模大、全员高频使用。
一个诚实的判断：大部分机构第一年用不到集群档。合理路径是按当前案量配置、预留扩展位，用起来之后再按数据加配。
成本形态：一次性 + 年度
私有化总成本 = 一次性建设费（部署 + 资产导入 + 培训） + 年度维护费
云端 SaaS 总成本 = 席位数 × 年费 × 年数（持续累积，资产留在服务商）
机构规模越大、使用年限越长，私有化的总账越划算；更重要的是沉淀方向——模板、规则、知识库攒在自己服务器上，是机构资产；攒在 SaaS 平台上，是别人的护城河。
四条省钱建议
- 先试用再部署：用供应商的在线试用环境把流程跑通，确认团队真的会用、愿意用，再投硬件。
- 按场景选模型，不是越大越好：审查、起草这类有规则和模板约束的任务，中型模型装配行业知识后表现已经很好；把预算从「追大模型」挪到「建知识库」，回报高得多。
- 业务系统集成放二期：先让工作台独立跑起来见效，再谈与 OA、案管系统对接，避免一期工程无限膨胀。
- 把验收写进合同：溯源能不能点回原文、导出文书有无 AI 痕迹、看板数据是否真实——用可验证的标准验收，而不是演示效果。
常见问题
开源模型免费，为什么方案还要收费？
模型只是发动机，机构买的是整车：部署调优、行业工作台、资产导入、培训运维。恰恰是这些决定了 AI 是「买回来吃灰」还是「进入每天的案头工作」。
预算有限，最低多少能启动？
保密要求高但预算有限的小机构，可以先用试用环境验证价值，再以起步档硬件部署核心场景（如合同审查或交底书撰写），后续按效果扩展。具体数字与机构规模相关，建议按需求出方案而不是套报价单。
关于昕岩科技 为律师事务所、专利代理机构等专业机构提供私有化 AI 部署与行业工作台：数据不出机构，模板、规则与经验沉淀为机构自己的数字资产。律所 AI 工作台已上线（law.xinyandigital.com，可申请试用码），知识产权工作台已上线（ip.xinyandigital.com）。电话/微信：15927056589，邮箱 contact@xinyandigital.com，或直接在官网预约演示。