OpenAI投资的法律AI公司Harvey,底层却是中国开放权重模型
只需两个月和150张GPU就能重新训练专业模型。本文梳理了Harvey选择中国开放权重模型的原因,以及1,750个工作环境为何成为其核心资产。
AI与科技Harvey的法律AI,为何选择了中国模型
上周美国法律AI领域发生了一起小小的事件。Harvey于8月18日发布了首个自研模型“Tenet”。这是一家早期由OpenAI创业基金投资、并在今年3月获得110亿美元估值的公司。然而,这款模型的底层基础并非OpenAI,而是北京月之暗面(Moonshot AI)的Kimi K3。
更有趣的插曲发生在这件事过去三天后。就在一个月前财政部长刚刚提及制裁中国模型的同一个华盛顿,白宫AI负责人戴维·萨克斯(David Sacks)却将该模型作为证据,称“美国企业正在打造世界一流的专业模型”。
美国最大的法律AI公司为何会选择中国模型?在这起事件中,更值得关注的并非模型的国籍,而是所耗费的时间。Harvey在获取公开权重后,仅用两个月就训练完成了自己的模型。如果能在如此短的时间内完成底层模型的更替,那么用于训练模型时的工作环境才是真正的资产。对后门的担忧虽非空穴来风,但相比模型的国籍,这更是需要通过如何隔离与验证来应对的问题。
Harvey仅用两个月完成后期训练的模型
Harvey成立于2022年。它向律所和企业法务部门销售协助进行法律检索、合同审查与文书起草的AI产品。据Harvey统计,其客户遍布60多个国家,数量超过1500家,全美排名前100的律所中有一半都在使用,截至7月的年化收入已达3.5亿美元。此前,它的架构一直是在OpenAI、Anthropic和Google的模型中按任务挑选调用。也就是说,过去它并没有自己的模型,而是租用其他公司开发好的模型。
Tenet是Harvey首次自主训练的模型。它的底座是7月27日公开权重的Kimi K3,一个参数量达2.8万亿的开源权重1模型。Harvey与推理基础设施公司Fireworks合作,利用约150张英伟达B300 GPU进行了为期两个月的后期训练2。训练方式为强化学习。他们模拟了律师实际承接的业务,构建了约1750个工作环境,让模型在其中阅读文档、调用工具并输出成果,再按照评分标准打分。在一个epoch内,模型进行了超过1万次尝试3。评分标准采用与Harvey在5月发布的法律智能体基准评测LAB相同的方式构建,仅LAB就包含由真实律师撰写的超过7.5万条评分项。
成果如下:在未参与训练的LAB保留测试集(Holdout)上,从头到尾完整完成的任务数量几乎达到基础版K3的两倍;在合同领域(LAB Contracts)提升了20%,名列第一;在LAB综合排名中位居第二。在与训练无关的外部基准APEX Agents和Redline Bench上,其表现也优于基础模型。据Harvey说明,该模型的成本不足主流前沿模型的四分之一。一方面是因为开源权重本身的Token单价较低,另一方面则是通过训练机制,在输出相同结果的前提下奖励更精简的操作流程,从而让模型本身消耗更少的Token。他们还明确声明,训练中没有使用过任何一行客户数据。
更吸引我深入观察的,是与Tenet一同亮相的三款专业模型。这一组合的架构酷似一家律师事务所:一款是用于并购尽职调查的模型,最多可读取8000万Token、折合A4纸约6万页的虚拟数据室(Data Room);一款是将1万份文件归纳整理为表格的审查模型;还有一款是将律所的知识直接刻入模型权重本身而非仅靠检索,进而将单次查询成本降低90%的“律所知识(Firm Knowledge)”模型。这相当于把合伙人、受雇律师(Associate)和知识管理团队分别做成了模型。
而且这三款模型的底座全部来自中国开源权重模型。尽职调查模型和审查模型基于智谱(Zhipu)的GLM-5.2,律所知识模型则基于阿里巴巴的Qwen3.8-27B。训练中使用的强化学习算法GSPO也是阿里巴巴Qwen团队在去年7月发表的论文成果,负责为答案打分的判分模型则是月之暗面的Kimi 2.6。它用着来自美国的投资资金和英伟达GPU,却根据不同用途分别采纳了中国各实验室开源的模型与训练算法。
为什么偏偏是中国模型?
答案其实比想象中更简单:因为美国根本没有同量级的开放权重模型。
并不是说美国没有开放权重模型。OpenAI 有 gpt-oss,谷歌有 Gemma,Meta 也有 Llama。但量级完全不同。根据 VentureBeat 去年 3 月整理的量级对照表,去年 4 月发布的 Llama 4 评价平平,超大版本 Behemoth 更是被无限期推迟。Gemma 3 最大版本只有 270 亿参数,而 gpt-oss-120b 在处理单个 Token 时实际激活的参数也仅为 51 亿。要运行能够阅读数十万 Token 文档并处理数百步任务的智能体,这样的规模实在太小了。目前能够下载到 2.8 万亿级开放权重的来源,全世界只有中国。
选择的核心依据是基准测试跑分。在独立机构 Artificial Analysis 单独测试 Harvey 发布的 LAB 排行榜中,基础版 Kimi K3 在评分项达标率上稳居第一梯队。对 Harvey 而言,他们并不是特意挑选了“中国模型”,而是在自己出的考卷中,挑中了答得最好的开放模型。
Harvey 也并非开先河者。爱彼迎(Airbnb)CEO 布莱恩·切斯基(Brian Chesky)也曾公开表示:“我们在很大程度上依赖 Qwen。”产品负责人彼得·杨(Peter Yang)整理的清单中,还包括转投 Qwen 后每年省下 500 万美元的 Shopify。
在这里,我尤为关注的是这 5 个月间的变化。3 月的 Cursor 是被拆穿后道歉;8 月的 Harvey 则是写进博客炫耀,甚至得到了白宫的赞许。曾经需要遮掩的事情,如今变成了可以拿出来夸耀的亮点。回想一个月前财政部长贝森特还曾警告可能对中国模型实施制裁,7 月我们谈到的“美国内部的裂痕”,短短一个月内便借由一款具体产品具象化了。
顺便提一句,还有一个很有意思的条款。Kimi K3 许可协议第 3 条要求,月营收超过 2,000 万美元的产品如果使用该模型,必须在界面上显著标注“Kimi K3”。Harvey 按年化计算的月营收约为 2,900 万美元。虽然第 4 条规定如果通过认证的推理合作伙伴即可例外,实际操作中也可以通过商务合同解决,但单从条文来看,美国律所的屏幕上按理应当印上中国模型的大名。这并非法律咨询意见,只是我对条文的解读,建议大家亲自去查阅原文。
担忧后门?比起模型国籍,这更是部署设计的问题
“但那毕竟是中国模型,真的没问题吗?”这样的疑问合情合理。不过,我们需要将这种担忧拆分为两个层面来看。
第一个担忧是:数据会不会流向中国? 只要看一下开放权重的本质,答案就不言自明。开放权重不是一项服务,而是一个文件。Harvey 的模型运行在美国基础设施 Fireworks 之上,与月之暗面(Moonshot)的服务器之间不存在任何一个字节的交互。这与安装 App 后将提问发送至中国服务器的 DeepSeek 应用完全是两码事。此外,Harvey 还明确声明,训练中未曾使用任何客户数据。
第二个担忧是:权重里会不会被植入了后门? 这种担忧是有依据的。从 Anthropic 在 2024 年发布的“卧底智能体”(Sleeper Agents)研究来看,预先植入的、仅在特定条件下触发的行为,即使经历了后续的安全训练也依然能够存活。加之 Harvey 采用的 LoRA4 方式几乎完整保留了原始权重,仅附加了一层薄薄的参数层,因此为期两个月的后训练并不能彻底“洗白”基础模型的固有特性。
然而,看清这一风险的本质,应对之道也就随之显现。法律智能体是在隔离的沙箱环境中阅读文件并起草备忘录的。只要切断出站通信、限制工具调用权限,并验证其引述内容是否与实际文档相符,那么无论权重中潜藏了什么,它能做的事情都会被大幅压缩。换言之,这一风险并不取决于模型的国籍,而是由部署设计来把控的。这与黄仁勋在 7 月所说的“在沙箱内可以实现受控”逻辑一致,但我还想在此之上补充一句:能够受控,也就意味着必须加以控制。要想消除顾虑,就必须将切断外部通信、限制工具权限以及引文验证机制切实纳入实际运营架构之中。
对于具备驾驭这种风险能力的企业而言,中国的开放权重模型早已不再只是“值得调研的备选方案”,而是变成了默认的基础选项。
“套壳(Wrapper)的逆袭”只说对了一半
围绕这次发布,流传着这样一种解读:“曾被称为套壳公司的企业开始拥有自己的模型了。前沿实验室的客户正在一个个变成竞争对手。”我认为这种解读只说对了一半。
先说对的那一半。Cursor与Harvey都是前沿实验室API用量极大的头部客户。当这类公司把调用量最大的核心工作流迁移到自研模型上时,前沿实验室API收入中占比较大的那一部分就会缩水。这无疑是一种明确的威胁。
不对的那一半,则在于“竞争对手”这个词。Harvey依然会根据具体任务选用OpenAI、Anthropic、谷歌的模型,而且LAB综合排名第一的也并不是Tenet。与其说它们变成了竞争对手,不如说它们在将任务分配给模型的分配表上分走了一行。最困难的任务依然靠租用,而重复次数最多的任务则转为自己搭建,这种分工已经拉开了序幕。
此外,还有一个更关键的误解:Harvey的核心资产并非模型本身。只要有两个月时间和150张GPU,模型完全可以重新训练。如果代入本月初《沦为廉价品的智能》一期中提到的Blackwell租赁价格(每小时5美元左右)来计算,单是GPU成本大概就在15亿~20亿韩元左右。尽管律师数据与环境搭建成本要高得多,但对于一家110亿美元体量的公司来说,哪一边都不算什么大钱。Harvey真正的资产是那1,750个工作环境、7.5万条评分标准,以及为了运用这些标准而通过Mercor与Snorkel雇佣的律师团队。当下下一代开源权重模型问世时,底座模型可以随时换掉,而训练环境却能原样保留。模型更像是用完即换的消耗品,环境才是持续留存的资产。
因此,**“套壳/包装(Wrapper)”从一开始就是个错误的认知框架。**它们并不是把工作流程搭载在模型之上,而是工作流程本身化作了训练模型的环境。因此,与其将竞争格局视作前沿实验室与应用型公司之间的对决,不如看作是拥有训练环境的公司与未拥有训练环境的公司之间的差距。
Oswarld视角
在 Kakao Brain 负责 AI 产品时,我学到了一件事:模型变好的速度与产品变好的速度是不一样的。弥合这一差距的,并非更大的模型,而是写明了“何为优质结果”的评估标准。因此,在这次发布中,我凝视最久的数字既不是 2.8 万亿参数,也不是 150 张 GPU,而是律师们写下的 7.5 万个评分项。
从 GTM 视角来看,更引人注目的是 Harvey 公开的第二个研究目标。Harvey 在此次发布中明确将“让律所打造自己的模型并拥有自己的智能”定为研究目标,并表示“使用同一个 Harvey 的两家律所,将拥有不同的模型和不同的交付成果”。Firm Knowledge Model 就是这一构想的原型产品。一旦律所的知识不再只是检索索引,而是被训练进模型权重之中,该律所沉淀的知识在迁移到其他产品时便极难完整带走。在制定 GTM 策略的过程中,我见过无数种锁定(lock-in)机制设计,但从未见过哪种设计的转换成本能高到像“把客户的知识训练进模型权重”这样。Harvey 出售的不是一个现成的单一模型,而是一套能让每家律所训练专属于自身模型的架构体系。
如果将视线拉回韩国,则有两个层面的思考。其一是针对主权 AI 争论的审视。在一个耗时两个月、使用 150 张 GPU 就能跑出垂直特化模型的世界里,真正稀缺的已不再是基础模型,而是按行业细分的具体环境与评分标准。相比韩国是否拥有自主的基础模型,更为紧迫的问题在于,是否有人已经把韩国本土的法律、金融、制造业务精细梳理成了 1750 个业务环境。其二是现实层面的制约。在韩国的公共部门与金融领域,选用中国模型所需承受的政治成本远高于美国。因此,能够率先行动的组织,必然是那些不纠结于“这是哪国模型”,而是能够讲清楚“如何进行环境隔离与合规验证”的团队。
结语
总结起来有三点:第一,获OpenAI投资的Harvey利用三种中国开源权重模型,仅用两个月就打造出自己的专属模型,白宫AI主管甚至将其誉为美国企业的典范。第二,原因在于市场上根本没有同等量级的美国产开源权重模型;而后门隐患已不再是单纯纠结模型国籍的问题,而是变成了需要通过部署架构设计来应对的技术议题。第三,与其说是“套壳公司”拥有了自己的模型,不如说是一家具备训练环境和评分基准的公司,从此能够随时替换底座模型。
我建议大家本周尝试做一件事:列出组织内重复频率最高的十项工作,并针对每一项逐一写下“达到何种结果才算合格”的标准条款。这份清单就是Harvey那7.5万项评分基准的微缩版。模型随时可能更换,但这份清单会一直保留下来。
在读者所在的组织中,是否曾考量过引入中国开源权重模型?如果有,当时是在哪个环节受阻的?是安全团队、法务团队,还是管理层?欢迎在评论区留言分享。我会汇总这些卡点,在下一期以“顺利通过审查的架构设计”为题继续探讨。
💬 欢迎在评论区聊聊您在考量中国开源权重模型时遇到了哪些阻碍,我们会在下一期中进行探讨。 📨 如果您身边有正在为模型选型而苦恼的同事,欢迎将本文分享给他们。
参考资料与延伸阅读
核心来源
- Harvey(Calvin Qi 等),“Update on Harvey’s Post-Training Effort”,Harvey Blog,2026.8。··· 本文的第一手来源。1,750 个环境、150 张 B300、两个月时间、三个专业模型,以及不使用客户数据的声明全都在这里。建议大家从阐明两项研究目标的第一段读起。
- Harvey,“Introducing Harvey’s Legal Agent Benchmark”,Harvey Blog,2026.5.6。··· 涵盖 1,200 项任务、24 个实务领域、7.5 万个评分项,以及“答对 8 项得 80 分”不复存在、取而代之以“错一项即为 0 分”的严格全过评分逻辑。
- Benzinga,“David Sacks Defends Open-Source AI, Cites Harvey’s Tenet Model”,2026.8。··· 整理了 8 月 21 日萨克斯在 X 上的发言原文,以及 Harvey 方面提出的“成本不足前沿模型四分之一”的主张。
- South China Morning Post,“OpenAI-backed legal tech firm pivots to Chinese Kimi K3 open-weight model”,2026.8.21。··· 将这一事件置于“西方企业倒向中国开放权重”的大趋势中予以审视的报道。
- VentureBeat,“Cursor’s Composer 2 was secretly built on a Chinese AI model”,2026.3。··· 完整梳理了 Cursor 事件的始末,并详细对比了量级差距,剖析了为何 Llama 4、Gemma 3 和 gpt-oss 无法成为替代方案。
- Simon Willison,“moonshotai/Kimi-K3”,2026.7.27。··· K3 权重公开当天的记录。梳理了月营收若达到 2,000 万美元以上须标注“Kimi K3”的开源许可证条款及其变迁。
背景知识
- Chujie Zheng 等,“Group Sequence Policy Optimization”,arXiv,2025。··· Harvey 所采用的强化学习算法 GSPO 的原始论文,由阿里巴巴 Qwen 团队撰写。
- Evan Hubinger 等,“Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training”,arXiv,2024。··· 该研究证明,植入权重中的条件反射式欺骗行为即便经过安全训练也能留存。读者可在此处印证为何对后门的担忧是“有凭有据的担忧”。
- Alex L. Zhang、Tim Kraska、Omar Khattab,“Recursive Language Models”,arXiv,2025。··· Harvey 为处理 8,000 万 token 的数据库而在测试框架中引入的“递归语言模型”的原始论文,出自 MIT 的研究。
- Artificial Analysis,“Harvey LAB-AA Leaderboard”。··· 独立机构单独运行 Harvey LAB 的排行榜。您可以亲自去查看基础版 Kimi K3 所处的位置。
- Axios,“David Sacks says Chinese open-weight AI models push China ahead”,2026.7.17。··· K3 公开后不久,萨克斯表示“令人担忧”,却将开放而非监管视为答案的短文,堪称 8 月发言的前篇。
- Sacra,“Harvey revenue, valuation & funding”。··· 年化营收 3.5 亿美元、110 亿美元估值、客户数量等数字的出处。
推荐阅读往期内容
- 在贩卖时间的事业中,当AI缩短了时间,该贩卖什么? ··· 讲述 Harvey 登场后美国法律市场重组的一期。探讨了贩卖价值而非时间的话题。
- 黄仁勋为何称赞中国模型 ··· 本文的前篇。贝森特的制裁警告与黄仁勋的辩护发生在同一天,先了解这一“美国内部的裂痕”,今天的文章读起来就像是其下一幕。
- 封锁哺育的中国,如今正关上大门 ··· 从中国视角讲述的同一个故事。正开始关上大门的中国开放权重之上,美国公司正在其间筑垒建构,结合阅读会格外具有立体感。
📝 术语说明
注释
-
开放权重(open weights):将模型训练的结果——权重文件公开,供任何人下载并在自己的服务器上运行或修改的方式。因为它是文件而非服务,所以在哪个国家的服务器上运行,完全由接收方决定。 ↩
-
后训练(post-training):在已构建好的模型上追加特定领域的数据和奖励进行训练,使其贴合具体用途的精调过程。这类似于律所将刚从法学院毕业的新人培养为合格新任律师的研修阶段。 ↩
-
试跑(rollout):在强化学习中,模型在特定环境中将一项任务从头到尾完整执行一次的尝试过程。系统会根据这次尝试的结果给出评分并据此修正模型,因此试跑次数就等同于练习量。 ↩
-
LoRA(Low-Rank Adaptation,低秩自适应):一种不触碰原模型权重,仅在侧面附加轻量辅助层并只对该层进行训练的方法。其成本极低,但作为代价,基座模型的特质大部分都会原样保留。 ↩
