「上一套本地 AI 要多少钱？」这个问题，你在网上能查到两个答案，都挺极端：一种是「一台一体机四万八，双 4090 跑 70B 模型，随插随用」；另一种是「八卡服务器八十到一百五十万，年运维二十五到七十万」。差了三十倍。
两个数都没撒谎，但它们服务的是完全不同的需求。左右这笔钱的不是「要不要上 AI」，而是「你要跑多大的模型」。而这一项，恰恰是律所自己在签合同前就该想清楚、却很少有人算明白的。
这篇不讲情怀，只算账：钱花在哪几块、三档配置分别要多少、哪一档对你其实是浪费、以及四个几乎所有人都漏算的隐性成本。
一、为什么你看到的报价差三十倍
先看两组真实存在的公开报价，来源不同，口径也不同。
厂商口径（硬件价）：市面上标价四五万私有 AI 一体机的方案不少，典型配置是双路 4090（合计 48G 显存）加 Llama-3-70B 级别开源模型，再套一层知识库框架，报价约 ¥48,500 一套。另一类整机报价按显存分档：单卡 40G 的基础版约 ¥3.5 万至 5.5 万，80G 级标准版约 ¥8 万至 15 万，多卡集群 ¥20 万起。
律所口径（全账）：有律所自己写过的成本分析（万商天勤，2026），按 30 至 50 人规模、部署 DeepSeek 满血版（总参数 671B 级）测算：一台 8 卡企业级推理服务器加机房网络配套，一次性投入约 ¥80 万至 150 万；每年硬性成本含电费制冷、运维人力、等保三级与安全审计、维保，约 ¥25 万至 70 万；按三年折旧分摊，年总成本约 ¥50 万至 120 万，折合每人每年 ¥1 万至 4 万。
为什么差这么多？因为前者卖的是「一台能跑模型的机器」，后者算的是「一个能承担实质法律推理的系统」。差的不是水分，是模型规模。
显存是硬门槛：70B 级模型经过量化，48G 显存勉强能跑；671B 级满血模型，即使采用 MoE 架构每次只激活少量参数，全部权重仍要完整载入显存，单机 8 卡是起步配置。硬件价格随显存台阶式上涨，这不是谁想多赚你钱。
二、成本由什么决定：一个变量、三个隐藏项
把一份律所 AI 的报价拆开，能拆成五块：
| 构成 | 包含什么 | 随什么变化 | 占比感受 |
|---|---|---|---|
| 算力硬件 | 服务器或工作站、显卡、内存、存储 | 模型规模决定显存，显存决定整机价 | 最显眼，但常常不是最大头 |
| 部署与调优 | 模型部署、推理加速、知识库搭建、接入现有系统 | 要接几个系统、要接什么格式的卷宗 | 容易被低估 |
| 数据整理 | 历史卷宗电子化、脱敏、切分、标注 | 卷宗数量与扫描质量 | 最容易被漏掉，也最可能超支 |
| 使用培训与流程改造 | 律师怎么用、什么活交给 AI、结果谁复核 | 所里愿不愿意改工作习惯 | 几乎没人报价，但决定成败 |
| 年运维 | 电费、机房、维保、故障处理、模型更新 | 硬件功耗与是否要等保 | 长期看会超过硬件 |
真正决定总价的，就只有「模型规模」这一个变量；另外三项是被这个变量带出来的连锁反应。所以算账的顺序应该是：先定要跑多大，再算要花多少，而不是反过来。
三、三档配置，各自的真实账
下面三档是按「律所实际要干的活」分的，不是按厂商产品线分的。价格区间综合了公开报价与行业测算，硬件行情波动大，实际以实时报价为准。
| 档位 | 能干哪些活 | 一次性投入 | 年成本 | 适合谁 |
|---|---|---|---|---|
| 轻量档 | 卷宗分类与要素抽取、合同条款比对、文书套模板生成、所内知识库问答 | 约 4 万至 8 万（整机 3 万至 5 万，部署调优 1 万至 3 万） | 约 0.5 万至 1.5 万 | 10 人以下小所；或大所里先拿一个团队试 |
| 主力档 | 在轻量档基础上，加长文书初稿、多轮案情梳理、跨卷宗检索与比对 | 约 12 万至 30 万（整机 8 万至 20 万，部署与知识库 4 万至 10 万） | 约 2 万至 5 万 | 10 至 50 人所，有稳定案源 |
| 满血档 | 复杂法律推理、超长文档深度分析、全所统一推理服务 | 约 80 万至 150 万（8 卡服务器加机房网络） | 约 25 万至 70 万 | 50 人以上，且有专职 IT 或机房 |
轻量档跑的是 7B 到 32B 的量化模型。别被「小模型不行」这话带偏——7B、14B、32B 的实际差别要看任务：做卷宗摘要、抽取当事人与金额、把散乱笔录整理成时间线，这个档位已经够用；让它做需要多步推理的复杂法律论证，那是另一回事。
主力档是多数 10 至 50 人所的现实选择。显存到 80G 级之后，能跑 70B 级量化模型，长文书初稿的质量明显上一个台阶，处理一份几万字的卷宗不用来回切段。
满血档的账要特别注意：那 25 万至 70 万的年成本里，包含电费制冷、专职运维人力、等保三级测评与安全审计、维保。它不是一次性投入买回来就完事的东西，是一个每年要交钱的运行项目。
四、哪一档是浪费钱
这个问题要分两头说，因为浪费有两种。
第一种浪费：小所上满血档
年成本 25 万至 70 万、需要机房和专职 IT、人均每年 1 万至 4 万——对一个 20 人的所来说，这笔钱换来的能力，日常案子基本用不上。前面提到的律所成本分析给过一个很实在的判断：对绝大多数律所，不自建全量前沿超大模型，在经济和技术上都是更优的默认选择。
更现实的问题是：满血档要的是「全所统一的高质量推理服务」，可 90% 的日常需求是「把这份卷宗理清楚」。用大炮打蚊子，账永远算不平。
第二种浪费：小档位硬扛大活
这种浪费更常见，也更隐蔽。为了省钱买一台四万的一体机，指望它做深度文书生成和复杂论证，结果输出质量达不到律师可用的标准，律师试两次就不用了。钱花了，设备在角落吃灰，还落下一句「AI 不行」。
判断标准其实很简单：先想清楚你要用它做的第一件事是什么，那件事的质量底线在哪。如果第一件事是「把三百份卷宗按案由分类并抽出关键要素」，轻量档完全胜任；如果第一件事是「给我写一份能直接改改就交的代理词」，那轻量档一定让你失望。
五、四个容易漏算的隐性成本
硬件报价是明面上的钱，下面这四项才是让预算失控的地方。
1. 数据整理，通常比硬件贵
律所的卷宗是扫描件、PDF、Word 混在一起，还有大量手写笔录。要让 AI 能读，得先做电子化、OCR、脱敏、切分、分类。这项工作没有技术捷径，全是人工加时间。很多项目卡在这里，不是模型不行，是数据没准备好。签合同前一定要问清：知识库建设包含多少份卷宗的处理，超出部分怎么算。
2. 人的习惯，决定投入是不是零
系统装好了，如果律师觉得「还不如我自己写快」，三个月后就没人打开。行业里有个普遍现象：同一套系统，20% 的人在用在创造价值，70% 的人在观望——这中间差的是培训与流程改造的投入，不是技术。这一项在报价单上几乎从来没有，但它决定前面所有钱是不是白花。
3. 硬件折旧，可能比会计折旧快
按三年折旧分摊是会计上的算法，不等于真实寿命。模型能力是台阶式跃升的，今天刚好能跑 70B 的显卡，一年后可能因为新模型的显存要求被直接淘汰，残值归零。算投资回报时，别按五年摊。
4. 合规成本，取决于你要不要过等保
如果律所服务的是政府、国企客户，或者自身业务要求，可能需要按网络安全等级保护相关要求建设：日志留存、权限最小化、双因素认证、定期审计。这些不是买台机器就能满足的，得单独安排预算。（具体等级要求以主管部门与测评机构意见为准。）
六、账要怎么算才不算自欺欺人
常见的算法是「一个律师每天省半小时，一年省多少小时，折成多少钱」。这个算法听着性感，但基本不成立——省下来的时间不会自动变成收入，很可能只是让人早点下班。
更靠谱的算法是找一件原来做不了、或者做起来成本高到不划算的事，看它现在能不能做了：
- 以前接不了的批量小标的案件，现在能不能用 AI 做初步筛查和文书批量生成，把人效提到能接？
- 以前不敢承诺的短周期交付，现在能不能因为卷宗梳理提速而敢承诺？
- 以前全靠资深律师做的案例检索与要点提取，现在能不能交给 junior 加 AI，腾出资深的时间？
这三类都是能直接对应到业务增量的，算出来的回报才站得住。如果一条都对不上，那这套系统对你就是成本，不是投资。
七、常见问题
十个人以内的小所，值得上本地部署吗？
如果确实要处理当事人信息、卷宗不能外传，值得，但选轻量档。一次性五六万、年成本一万出头，比很多人想象的低。前提是想清楚第一件事做什么，别一上来就想全覆盖。如果涉密需求不强，用云端工具加内部管理规范，成本更低。
能不能先买便宜的，以后再升级？
硬件可以加卡，但要想清楚两件事：一是电源和机箱能不能支撑加卡，二是主板和整机是不是按扩展设计的。更常见的做法不是升级，而是三年后整机换新。所以第一台别买成「刚好够用、无法扩展」的极限配置，留一点余量比省那几千块值。
四万八的一体机，能直接用吗？
能开机、能对话，但「能用」和「好用」之间隔着部署调优、知识库建设和流程适配。那四万八买的是硬件加框架，不含把你们所的卷宗跑通这件事。签之前问清楚：含不含知识库建设、含多少份卷宗、含不含与现有办公系统对接、后续调优怎么收费。
开源模型免费，为什么还要花钱？
模型本身不要钱，要钱的是让它在你所里稳定跑起来：硬件、部署、调优、数据准备、日常维护。免费的是模型权重，付费的是把它变成生产力的那部分工作。这部分工作省不掉，只能选择自己做还是买。
电费和机房要多少钱？
轻量档一台工作站，空调房里正常用电，一年几百到一两千块，可以忽略。满血档是另一个量级：8 卡服务器满载功率高，加上制冷，是持续支出，这也是为什么满血档的年成本会到几十万。选档时就要把这项算进去。
如果最后没人用，钱是不是白花了？
有这个风险，而且不低。降低风险的办法不是买更贵的设备，而是先小范围试：选一个团队、一类任务、跑一个月，看真实使用频率和效果，再决定要不要扩到全所。这也是为什么建议小所从轻量档起步——试错成本低。
卷宗数据安全怎么保证？
本地部署的本质是把数据留在你自己的机器和网络里，不出内网。但要配套做几件事：账号权限分级（实习律师看不到合伙人的案子）、操作日志留存、导出行为管控。硬件不联网只是第一步，管理不跟上，数据照样会出去。
八、下一步
如果你已经在看报价，最有用的一步不是继续比价，而是先把三件事写下来：第一件要用它干的事是什么、这类卷宗有多少份、谁能负责把它跑起来。这三项定了，档位就定了，价格区间也就定了。
拿不准自己该在哪一档，可以把所里人数、主要案由、卷宗大概数量告诉我们，我们出一份配置建议和成本测算，不用先付款。电话 0758-2773716，手机 13827550139（微信同号）。
想先弄清部署本身怎么走，可以看律所 AI 私有化部署怎么做；还在犹豫该买哪种形态，看律所 AI 工具怎么选。
