OpenAI가 투자한 법률 AI, 속은 중국 모델이에요

들어가며

구독자님, 지난주 미국 법률 AI 업계에 작은 사건이 하나 있었어요. 하비(Harvey)가 8월 18일 첫 자체 모델 ‘테넷(Tenet)‘을 내놨거든요. OpenAI 스타트업 펀드가 초기에 투자했고, 지난 3월 110억 달러 가치로 평가받은 회사예요. 그런데 이 모델의 바탕은 OpenAI가 아니라 베이징 문샷AI의 Kimi K3였어요.

더 흥미로운 건 사흘 뒤예요. 한 달 전 재무장관이 중국 모델 제재를 입에 올렸던 바로 그 워싱턴에서, 백악관 AI 책임자 데이비드 색스가 이 모델을 “미국 기업이 세계 수준의 특화 모델을 만들고 있다”는 증거로 들어 올렸거든요.

여기서 질문이 하나 생겨요. 미국 최대 법률 AI 회사는 왜 하필 중국 모델을 골랐을까요? 결론부터 말씀드리면, 이 사건에서 봐야 할 단어는 ‘중국’이 아니라 ‘두 달’이에요. 모델은 두 달이면 다시 빚을 수 있는 소모품이 됐고, 그 모델을 훈련시키는 업무 환경이 진짜 자산이 됐어요. 백도어 걱정은 틀린 게 아니라, 과녁이 틀렸고요.

---

하비가 두 달 만에 빚은 모델

하비는 2022년에 세워진 회사예요. 로펌과 기업 법무팀에 리서치, 계약 검토, 문서 작성을 돕는 AI를 팔아요. 하비 집계로 60여 개국 1,500곳 넘는 고객이 있고, 미국 매출 상위 100대 로펌의 절반이 쓰며, 7월 기준 연환산 매출은 3억 5,000만 달러예요. 지금까지는 OpenAI, 앤스로픽, 구글의 모델을 작업에 따라 골라 쓰는 구조였어요. 남의 지능을 빌려 쓰는 회사였던 거죠.

테넷은 그 회사가 처음으로 직접 빚은 지능이에요. 바탕은 7월 27일 가중치가 공개된 Kimi K3, 2조 8,000억 파라미터짜리 오픈웨이트¹ 모델이에요. 하비는 추론 인프라 회사 파이어웍스(Fireworks)와 함께 엔비디아 B300 GPU 약 150장으로 두 달 동안 사후학습²을 돌렸어요. 방식은 강화학습이에요. 변호사가 실제로 받는 일을 본뜬 약 1,750개의 업무 환경을 만들고, 모델이 그 안에서 문서를 읽고 도구를 쓰며 결과물을 내면 채점 기준에 따라 점수를 주는 식이에요. 한 에폭에 1만 번 넘는 시행³을 돌렸고요. 채점 기준은 하비가 5월에 공개한 법률 에이전트 벤치마크 LAB와 같은 방식으로 만들었는데, LAB만 해도 실제 변호사들이 쓴 채점 항목이 7만 5,000개가 넘어요.

결과는 이래요. 학습에 쓰지 않은 LAB 홀드아웃 문제에서 끝까지 완수한 과제 수가 기본 K3의 거의 두 배로 늘었고, 계약 분야(LAB Contracts)에서는 20% 올라 1위를 기록했어요. LAB 전체에서는 2위예요. 학습과 무관한 외부 벤치마크인 APEX Agents와 Redline Bench에서도 기본 모델보다 좋아졌고요. 하비 설명으로는 비용은 주요 프런티어 모델의 4분의 1 이하예요. 오픈웨이트라 토큰 단가가 싼 데다, 같은 결과라면 더 짧게 일하는 쪽에 보상을 줘서 토큰 자체를 덜 쓰게 훈련했거든요. 고객 데이터는 한 줄도 쓰지 않았다고 명시했어요.

제가 더 오래 들여다본 건 테넷 옆에 같이 나온 세 개의 전문 모델이에요. 구성이 로펌을 닮았어요. 최대 8,000만 토큰, A4로 치면 6만 장 분량의 데이터룸을 읽는 M&A 실사 모델이 하나, 문서 1만 건을 표로 정리하는 검토 모델이 하나, 로펌의 지식을 검색이 아니라 가중치 자체에 새겨 넣어 질의당 비용을 90% 줄인 ‘펌 날리지’ 모델이 하나예요. 파트너, 어소시에이트, 지식관리팀을 각각 모델로 만든 셈이에요.

그리고 이 셋의 바탕도 전부 중국 오픈웨이트예요. 실사와 검토 모델은 즈푸(Zhipu)의 GLM-5.2, 펌 날리지 모델은 알리바바의 Qwen3.8-27B예요. 학습에 쓴 강화학습 알고리즘 GSPO도 알리바바 Qwen 팀이 작년 7월에 낸 논문이고, 답안을 채점한 모델도 문샷의 Kimi 2.6이에요. 미국 자본과 엔비디아 GPU 위에, 중국 연구실 세 곳의 결과물을 조립한 거예요.

왜 하필 중국 모델이었을까

답은 생각보다 단순해요. 그 체급의 미국산 오픈웨이트가 없어요.

미국에 오픈웨이트가 없는 건 아니에요. OpenAI의 gpt-oss, 구글의 Gemma, 메타의 llama가 있죠. 그런데 체급이 달라요. 벤처비트가 지난 3월 정리한 체급표를 보면, 작년 4월 나온 Llama 4는 평가가 좋지 않았고 대형 버전 Behemoth는 기약 없이 미뤄졌어요. Gemma 3는 가장 큰 버전이 270억 파라미터고, gpt-oss-120b는 토큰 하나를 처리할 때 실제로 움직이는 파라미터가 51억에 그쳐요. 수십만 토큰짜리 문서를 읽고 수백 단계를 일하는 에이전트를 올리기엔 얇아요. 2조 8,000억짜리 오픈웨이트를 내려받을 수 있는 곳은 지금 중국뿐이에요.

그리고 벤치마크가 골랐어요. 하비의 LAB를 독립 기관 Artificial Analysis가 따로 돌린 리더보드에서, 기본 Kimi K3는 채점 항목 충족률 기준으로 최상위권이에요. 하비 입장에서는 ‘중국 모델’을 고른 게 아니라, 자기가 낸 시험에서 가장 잘 푼 오픈 모델을 고른 거예요.

하비가 처음도 아니에요. 지난 3월, 코딩 도구 커서(Cursor)의 자체 모델 Composer 2가 Kimi K2.5 위에 만들어졌다는 사실이 드러났어요. 한 개발자가 API 트래픽을 뜯어보다 모델 이름에 ‘kimi-k2p5’가 박혀 있는 걸 발견했거든요. 커서는 몇 시간 만에 인정했고, 공동창업자는 “처음부터 밝히지 않은 건 실수였다”고 했어요. 코그니션(Cognition)의 SWE-1.6은 즈푸의 GLM 위에 만들어진 것으로 추정되고, 에어비앤비 CEO 브라이언 체스키는 “우리는 Qwen에 많이 기대고 있다”고 공개적으로 말했어요. 프로덕트 리더 피터 양이 정리한 목록에는 Qwen으로 갈아타 연 500만 달러를 아낀 쇼피파이도 올라 있고요.

여기서 제가 주목하는 건 5개월 사이의 변화예요. 3월의 커서는 들켜서 사과했어요. 8월의 하비는 블로그에 써서 자랑했고, 백악관이 칭찬했어요. 숨기던 일이 내세울 일이 된 거예요. 한 달 전 재무장관 베센트가 중국 모델을 제재할 수 있다고 경고했던 걸 떠올리면, 7월에 다룬 ‘미국 안의 균열’이 한 달 만에 구체적인 제품 하나로 모습을 드러낸 셈이에요.

덧붙여 재미있는 조항이 하나 있어요. Kimi K3 라이선스 3조는 월 매출 2,000만 달러가 넘는 제품이 이 모델을 쓰면 화면에 ‘Kimi K3’를 눈에 띄게 표시하라고 요구해요. 하비의 월 매출은 연환산 기준으로 약 2,900만 달러예요. 인증된 추론 파트너를 거치면 예외라는 4조가 있어서 실제로는 계약으로 풀릴 문제지만, 조문대로라면 미국 로펌의 화면에 중국 모델의 이름이 박혀야 해요. 법률 자문이 아니라 제가 조문을 읽은 해석이니, 이 대목은 원문을 직접 확인해보시길 권해요.

백도어 걱정은 과녁이 틀렸어요

“그래도 중국 모델인데 괜찮을까”라는 질문은 정당해요. 다만 걱정을 두 개로 나눠야 해요.

첫 번째 걱정은 데이터가 중국으로 가지 않느냐는 거예요. 이건 오픈웨이트의 성질을 보면 답이 나와요. 오픈웨이트는 서비스가 아니라 파일이에요. 하비의 모델은 미국 인프라인 파이어웍스 위에서 돌고, 문샷의 서버와는 한 바이트도 주고받지 않아요. 앱을 설치해 중국 서버로 질문을 보내는 DeepSeek 앱과는 완전히 다른 문제예요. 여기에 하비는 학습에 고객 데이터를 쓰지 않았다고 못 박았고요.

두 번째 걱정은 가중치 안에 뭔가 심어져 있지 않느냐는 거예요. 이건 근거가 있는 걱정이에요. 앤스로픽이 2024년에 낸 ‘슬리퍼 에이전트’ 연구를 보면, 특정 조건에서만 발동하도록 심어둔 행동은 이후의 안전 학습을 거쳐도 살아남을 수 있어요. 게다가 하비가 쓴 LoRA⁴ 방식은 원래 가중치는 거의 그대로 두고 얇은 층만 덧대는 방식이라, 두 달의 사후학습이 바탕 모델의 성질을 ‘세탁’해주진 않아요.

그런데 이 위험의 성질을 보면 대응도 보여요. 법률 에이전트는 격리된 샌드박스 안에서 문서를 읽고 메모를 쓰는 존재예요. 외부로 나가는 통신을 막고, 도구 권한을 제한하고, 인용이 실제 문서와 맞는지 검증하면 가중치에 뭐가 들어 있든 할 수 있는 일이 줄어요. 즉 이건 모델의 국적이 아니라 배치 설계가 관리하는 위험이에요. 젠슨 황이 7월에 “샌드박스 안에서 통제할 수 있다”고 한 말과 같은 논리인데, 저는 거기에 한 줄을 보태고 싶어요. 통제할 수 있다는 말은 통제해야 한다는 말이기도 해요. 걱정이 없다는 뜻이 아니라, 걱정을 다루는 부서가 보안팀에서 아키텍처팀으로 옮겨간다는 뜻이에요.

그래서 진짜 시그널은 이거예요. 이 위험을 다룰 역량이 있는 회사에게 중국 오픈웨이트는 이미 ‘검토할 선택지’가 아니라 ‘기본값’이 됐어요.

‘껍데기(Wrapper)의 역습’은 절반만 맞아요

이번 발표를 두고 이런 해석이 돌아요. “래퍼라 불리던 회사들이 직접 모델을 갖기 시작했다. 프런티어 랩의 고객이 하나씩 경쟁자가 되는 중이다.” 저는 이 해석이 절반은 맞고 절반은 과녁이 어긋났다고 봐요.

맞는 절반부터요. 커서와 하비는 둘 다 프런티어 랩의 가장 두꺼운 고객이었어요. 이런 회사들이 가장 많이 돌리는 핵심 작업을 자기 모델로 옮기면, 프런티어 랩 API 매출에서 제일 두꺼운 층이 얇아져요. 그건 분명한 위협이에요.

어긋난 절반은 ‘경쟁자’라는 단어예요. 하비는 여전히 OpenAI, 앤스로픽, 구글 모델을 작업에 따라 골라 쓰고, LAB 전체 1위는 테넷이 아니에요. 경쟁자가 됐다기보다, 작업을 모델에 배분하는 표에서 한 줄을 가져간 거예요. 가장 어려운 일은 여전히 빌리고, 가장 많이 반복되는 일은 직접 짓는 분업이 시작된 거예요.

그리고 더 중요한 어긋남이 있어요. 하비가 가진 자산은 모델이 아니에요. 모델은 두 달과 GPU 150장이면 다시 빚을 수 있어요. 이달 초 ‘헐값이 된 지능’ 편에서 본 블랙웰 임대료(시간당 5달러대)를 넣어 계산하면 GPU 비용만 15억~20억 원 안팎이에요. 변호사 데이터와 환경 구축 비용이 훨씬 크겠지만, 110억 달러짜리 회사에겐 어느 쪽도 큰돈이 아니에요. 하비의 자산은 1,750개의 업무 환경과 7만 5,000개의 채점 기준, 그리고 그걸 쓰려고 머서(Mercor)와 스노클(Snorkel)을 통해 고용한 변호사들이에요. 다음 오픈웨이트가 나오면 바탕 모델은 갈아 끼우고 환경은 그대로 써요. 소모품은 모델이고 자본재는 환경이에요.

그러니 ‘껍데기/포장지(Wrapper)‘라는 말이 처음부터 틀린 프레임이었어요. 워크플로우를 모델에 씌운 게 아니라, 워크플로우가 곧 훈련장이었던 거예요. 진짜 전선은 프런티어 랩 대 응용 회사가 아니라, 환경을 가진 회사 대 없는 회사예요.

---

오스왈드의 시선

카카오브레인에서 AI 제품을 맡았을 때 배운 게 하나 있어요. 모델이 좋아지는 속도와 제품이 좋아지는 속도는 다르다는 거예요. 그 간극을 메운 건 더 큰 모델이 아니라 “무엇이 잘한 결과인지”를 적어둔 평가 기준이었어요. 그래서 이번 발표에서 제가 가장 오래 본 숫자는 2조 8,000억도 150장도 아니고, 7만 5,000개였어요.

GTM 관점에서는 하비의 두 번째 목표가 더 큰 이야기예요. 하비는 이번 발표에서 “로펌이 자기 모델을 만들고 자기 지능을 소유하게 한다”를 연구 목표로 못 박았고, “같은 하비를 쓰는 두 로펌은 다른 모델과 다른 결과물을 갖게 될 것”이라고 했어요. 펌 날리지 모델이 그 시제품이에요. 로펌의 지식이 검색 색인이 아니라 가중치에 새겨지면, 그 로펌은 다른 제품으로 옮길 때 자기 지능을 들고 갈 수 없어요. GTM 전략을 짜면서 수많은 락인 설계를 봤지만, 고객의 지식을 가중치로 굳히는 것보다 두꺼운 전환 비용은 본 적이 없어요. 하비가 파는 건 모델이 아니라 모델 공장이에요.

한국 이야기로 가져오면 두 가지예요. 하나는 소버린 AI 논쟁에 대한 질문이에요. 두 달과 GPU 150장이면 특화 모델이 나오는 세계에서 희소한 건 파운데이션 모델이 아니라 업종별 환경과 채점 기준이에요. 한국에 독자 파운데이션 모델이 있느냐보다, 한국의 법률·금융·제조 업무를 1,750개 환경으로 적어둔 곳이 있느냐가 더 급한 질문이에요. 다른 하나는 현실적인 제약이에요. 한국의 공공과 금융에서 중국 모델을 고를 때 치러야 하는 정치적 비용은 미국보다 높아요. 그래서 먼저 움직이는 조직은 “어느 나라 모델이냐”가 아니라 “어떻게 격리하고 검증하느냐”를 설명할 수 있는 곳일 거예요.

---

마치며

정리하면 세 가지예요. 첫째, OpenAI가 투자한 하비가 중국 오픈웨이트 세 종류로 두 달 만에 자기 모델을 만들었고, 백악관 AI 책임자가 이를 미국 기업의 모범으로 들었어요. 둘째, 이유는 그 체급의 미국산 오픈웨이트가 없어서예요. 백도어 걱정은 모델의 국적이 아니라 배치 설계로 다루는 문제가 됐고요. 셋째, 래퍼가 모델을 갖게 된 게 아니라, 환경을 가진 회사가 모델을 소모품으로 만든 거예요.

이번 주에 해볼 일 하나를 제안할게요. 조직에서 가장 자주 반복되는 업무 열 개를 적고, 각각 “어떤 결과가 나오면 합격인지”를 항목으로 써보세요. 그 목록이 하비의 7만 5,000개 채점 기준의 축소판이에요. 모델은 바뀌어도 그 목록은 남아요.

구독자님의 조직에서는 중국 오픈웨이트 모델을 검토해보신 적이 있나요? 있다면 어디서 막혔는지, 보안팀이었는지 법무팀이었는지 경영진이었는지 댓글로 들려주세요. 막힌 지점을 모아서 다음 호에서 ‘검토를 통과하는 설계’ 편으로 이어가볼게요.

---

💬 중국 오픈웨이트 검토가 어디서 막혔는지 댓글로 들려주세요. 다음 호에 반영해볼게요. 📨 모델 선정을 고민하는 동료가 있다면 이 글을 공유해 주세요.

---

📎 참고자료 & 더 읽기

핵심 출처

• Harvey (Calvin Qi 외), “Update on Harvey’s Post-Training Effort”, Harvey Blog, 2026.8. ··· 오늘 글의 1차 출처예요. 1,750개 환경, B300 150장, 두 달, 세 개의 전문 모델, 고객 데이터 미사용 선언이 모두 여기 있어요. 두 가지 연구 목표를 밝힌 첫 문단부터 읽어보시길 권해요.
• Harvey, “Introducing Harvey’s Legal Agent Benchmark”, Harvey Blog, 2026.5.6. ··· 1,200개 과제, 24개 실무 분야, 7만 5,000개 채점 항목, 그리고 ‘8개 맞히면 80점’이 아니라 ‘하나라도 틀리면 0점’인 전수 통과 채점의 논리가 담겨 있어요.
• Benzinga, “David Sacks Defends Open-Source AI, Cites Harvey’s Tenet Model”, 2026.8. ··· 8월 21일 색스의 X 발언 원문과, ‘프런티어 모델 4분의 1 이하 비용’이라는 하비 측 주장이 여기 정리돼 있어요.
• South China Morning Post, “OpenAI-backed legal tech firm pivots to Chinese Kimi K3 open-weight model”, 2026.8.21. ··· 이 사건을 ‘서구 기업의 중국 오픈웨이트 이동’이라는 큰 흐름 안에서 본 기사예요.
• VentureBeat, “Cursor’s Composer 2 was secretly built on a Chinese AI model”, 2026.3. ··· 커서 사건의 전말과 함께, Llama 4·Gemma 3·gpt-oss가 왜 대안이 되지 못하는지 체급 비교가 잘 정리돼 있어요.
• Simon Willison, “moonshotai/Kimi-K3”, 2026.7.27. ··· K3 가중치 공개 당일의 기록이에요. 월 매출 2,000만 달러 이상이면 ‘Kimi K3’를 표시하라는 라이선스 조항과 그 변천이 정리돼 있어요.

배경 지식

• Chujie Zheng 외, “Group Sequence Policy Optimization”, arXiv, 2025. ··· 하비가 쓴 강화학습 알고리즘 GSPO의 원 논문이에요. 알리바바 Qwen 팀이 썼어요.
• Evan Hubinger 외, “Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training”, arXiv, 2024. ··· 가중치에 심은 조건부 행동이 안전 학습을 거쳐도 살아남는다는 걸 보인 연구예요. 백도어 걱정이 왜 ‘근거 있는 걱정’인지 여기서 확인하실 수 있어요.
• Alex L. Zhang, Tim Kraska, Omar Khattab, “Recursive Language Models”, arXiv, 2025. ··· 하비가 8,000만 토큰짜리 데이터룸을 다루려고 하네스에 넣은 ‘재귀 언어 모델’의 원 논문이에요. MIT 연구예요.
• Artificial Analysis, “Harvey LAB-AA Leaderboard”. ··· 하비의 LAB를 독립 기관이 따로 돌린 리더보드예요. 기본 Kimi K3가 어디쯤 있는지 직접 확인해보세요.
• Axios, “David Sacks says Chinese open-weight AI models push China ahead”, 2026.7.17. ··· K3 공개 직후 색스가 “우려스럽다”면서도 규제가 아니라 개방을 답으로 꼽은 글이에요. 8월 발언의 전편이에요.
• Sacra, “Harvey revenue, valuation & funding”. ··· 연환산 매출 3억 5,000만 달러, 110억 달러 가치, 고객 수 같은 숫자의 출처예요.

함께 읽으면 좋은 지난 호

• 시간을 파는 사업에서, AI가 시간을 줄여버리면 무엇을 팔 것인가? ··· Harvey가 등장하며 미국의 법률 시장이 재편되는 이야기를 한 호에요. 시간이 아닌 가치를 파는 것에 대해서 이야기 해요.
• 젠슨 황은 왜 중국 모델을 칭찬했을까 ··· 오늘 글의 전편이에요. 베센트의 제재 경고와 황의 옹호가 같은 날 나온 장면, 그 ‘미국 안의 균열’을 먼저 보시면 오늘 이야기가 그 다음 장면으로 읽혀요.
• 봉쇄가 키운 중국, 이제 문을 잠근다 ··· 중국 쪽에서 본 같은 이야기예요. 문을 잠그기 시작한 중국의 오픈웨이트 위에 미국 회사들이 집을 짓고 있다는 점에서 같이 읽으면 입체적이에요.

---

📝 용어 설명

---

필자 안광섭은 세종대학교 경영학과 교수이자 INLEVEL9 리드 컨설턴트이다. 대학에서 경영데이터 관리, 비즈니스 애널리틱스 등 통계 및 데이터 분석을 가르치는 한편, 현장에서는 GTM 전략과 인공지능 전략 컨설팅을 이끌며 기술과 비즈니스의 접점을 설계하고 있다. AI 대화 시스템의 기억 아키텍처(HEMA) 연구로 학술 논문을 발표했으며, 매일 글로벌 AI 논문을 큐레이션하는 Daily Arxiv 프로젝트를 운영하고 있다. 고려대학교 기술경영전문대 석사과정과 KMBA를 졸업했다. 지은 책으로 《생각을 맡기는 사람들: 호모 브레인리스》가 있다.

각주

1. 오픈웨이트(open weights): 모델의 학습 결과물인 가중치 파일을 누구나 내려받아 자기 서버에서 돌리고 수정할 수 있게 공개하는 방식이에요. 서비스가 아니라 파일이라서, 어느 나라 서버에서 돌리느냐는 받는 쪽이 정해요. ↩

2. 사후학습(post-training): 이미 만들어진 모델에 특정 분야의 데이터와 보상을 추가로 학습시켜 용도에 맞게 다듬는 과정이에요. 대학을 졸업한 사람을 신입 변호사로 훈련시키는 로펌의 연수 과정에 가까워요. ↩

3. 시행(rollout): 강화학습에서 모델이 환경 안에서 과제 하나를 처음부터 끝까지 수행해보는 한 번의 시도예요. 이 시도의 결과에 점수를 매겨 모델을 고치기 때문에, 시행 횟수가 곧 연습량이에요. ↩

4. LoRA(Low-Rank Adaptation): 원래 모델의 가중치는 건드리지 않고, 옆에 얇은 보조 층을 붙여 그 층만 학습시키는 방법이에요. 비용이 적게 드는 대신, 바탕 모델의 성질이 대부분 그대로 남아요. ↩