추론 마진이 80%를 넘었는데 AI 가격은 왜 그대로일까요
AI 원가는 내려가고 있어요, 마진도 50%p나 올랐죠. 근데 우리가 내는 돈은 같아요.
들어가며
구독자님, 인공지능 회사가 100달러를 벌면 그중 35~40달러는 곧바로 다른 회사 통장으로 들어가요. AWS, 애저, 구글 클라우드예요. 추론1을 돌리는 계산 비용이거든요. 클라우드 3사는 이 돈에서 10~20달러를 영업이익으로 남겨요. 영업이익률로는 35~45% 수준이에요.
바클레이즈가 8월 28일에 낸 AI 산업 단위 경제 보고서의 숫자예요. 산업 요약 도표를 직접 확인했고, 표에 적힌 대로 전부 바클레이즈의 추정치예요. 2026년 이후 값은 예측이라 실현된 수치가 아니에요.
같은 보고서에 이런 대목도 있어요. AI 랩의 유료 추론 이익률이 2025년 십몇 퍼센트에서 2026년 50~65% 이상으로 뛰었고, 조정 매출총이익률은 1년 만에 30~50%p 올랐다고요. 직접 API는 80%를 넘었고요.
여기서 이상하죠. 100달러 중 40달러가 계산 비용으로 빠져나가는데 어떻게 이익률이 80%가 될까요. 결론부터 말씀드릴게요. 두 숫자는 분모가 다르고, 그 사이 공간에 오늘의 진짜 이야기가 들어 있어요. 마진이 이만큼 올랐는데 우리가 내는 돈은 왜 그대로인지에 대한 이야기예요.
숫자 두 개가 어긋나 보이는 이유
먼저 분모를 갈라놓을게요. 바클레이즈의 산업 요약 추정치를 옮기면 이렇게 돼요.
| 단위: 십억 달러 | 2024 | 2025 | 2026E | 2027E | 2028E |
|---|---|---|---|---|---|
| AI 랩 매출 | 7 | 26 | 137 | 376 | 690 |
| 추론 원가 (매출 대비) | 4 (57%) | 17 (66%) | 58 (42%) | 157 (42%) | 292 (42%) |
| 훈련 원가 (매출 대비) | 7 (96%) | 19 (70%) | 66 (48%) | 132 (35%) | 210 (30%) |
| 하이퍼스케일러 AI 매출 | 11 | 36 | 124 | 289 | 502 |
| AI 랩 매출 대비 | 153% | 136% | 90% | 77% | 73% |
바클레이즈 리서치 추정이고, 2026년부터는 예측치예요.
2026년 칸을 보면 추론 원가가 매출의 42%, 훈련 원가가 48%예요. 이 둘을 더한 1,240억 달러가 그대로 하이퍼스케일러의 AI 매출이 돼요. AI 랩 매출의 90%죠.
“100달러 중 35~40달러”는 이 중 추론 몫만 뗀 숫자예요. 훈련은 빠져 있어요.
“추론 이익률 80%“는 한 겹 더 좁아요. 이미 만들어진 모델을 돌려서 받은 API 매출에서, 그 요청을 처리한 직접 계산 원가만 뺀 값이거든요. 훈련비도 연구 인력도 데이터 비용도 여기엔 안 들어가요.
그러니까 앞의 숫자는 회사 전체의 손익이고, 뒤의 숫자는 생산 라인 하나의 공헌이익이에요. 둘 다 맞지만 같은 선에 놓으면 안 되는 숫자죠. 참고로 ICONIQ이 집계한 AI 제품의 실제 매출총이익률은 2024년 41%, 2025년 45%, 2026년 52% 수준이에요. 개선되고 있지만 80%와는 거리가 멀어요.
표의 왼쪽 끝을 보면 이 구조가 더 선명해져요. 2024년에는 추론과 훈련을 합친 계산 비용이 매출의 153%였어요. 계산 비용만으로 매출을 넘겼다는 뜻이에요. 하이퍼스케일러가 AI 랩보다 더 벌던 시절이었죠.
그리고 이 표는 잘못 읽기도 쉬워요. “하이퍼스케일러 AI 매출의 90%가 AI 랩에서 나온다”는 식의 해석이 도는데 방향이 반대예요. 분모는 AI 랩 매출이에요. AI 랩이 1달러를 벌 때 하이퍼스케일러가 90센트를 번다는 뜻이지, 하이퍼스케일러 매출의 90%가 AI 랩에서 온다는 뜻이 아니에요. 후자는 이 표로 알 수 없어요. 오늘 글이 계속 붙들고 있는 게 이 분모 문제예요.
제일 안 남는 상품이 구독이에요
여기서부터가 흥미로운 지점이에요.
바클레이즈는 제품 라인별 추론 이익률을 이렇게 갈라놨어요. 직접 API가 80% 초과, 간접 API가 그 사이, 구독 제품이 약 70%예요. 클로드 코드나 코덱스 같은 정액 구독 상품이 세 라인 중 가장 적게 남아요.
상식과 반대죠. 보통은 묶어 파는 쪽이 마진이 좋으니까요.
이유는 단순해요. AI 랩이 구독 사용자의 토큰 원가를 일부러 보조하고 있어서예요. 붙잡아 둬야 할 사용자거든요. API 고객은 이미 그 모델 위에 제품을 올려서 옮기기 어렵지만, 구독 사용자는 다음 달에 그냥 해지할 수 있으니까요.
최근 구독 상품의 사용량 한도가 자주 리셋되는 것도 같은 맥락으로 읽을 수 있어요. 모델 효율이 좋아진 덕도 있지만, 이탈을 막으려는 압력이 함께 작동한 결과로 보여요. 이건 바클레이즈의 관측이지 확정된 사실은 아니에요.
정리하면 이렇게 돼요. AI 가격표는 원가를 반영한 게 아니라, 누구를 붙잡아야 하는지를 반영하고 있어요. 원가가 가장 무거운 쪽이 아니라 가장 잘 떠나는 쪽에 돈이 흘러가고 있거든요.
사업 구성이 다르면 장부도 다르게 보여요
바클레이즈는 가상의 프론티어 랩 두 개를 만들어서 비교했어요. 실제 회사가 아니라 모델이에요.
실험실 A는 매출의 70%가 API, 30%가 구독이에요. 실험실 B는 반대로 80%가 구독, 20%가 API예요. 같은 산업, 비슷한 제품인데 조정 매출총이익률은 A가 약 55%, B가 약 38%로 나와요. 17%p 차이예요.
차이의 절반은 방금 본 마진 구조에서 오고, 나머지 절반은 회계에서 와요. 실험실 A는 간접 API 매출을 총액법2으로 잡고, 실험실 B는 순액법으로 잡거나 전략적 파트너가 대신 운영하는 몫은 아예 매출로 인식하지 않아요. 바클레이즈는 이걸 우버와 리프트의 관계에 빗댔어요. 같은 사업인데 인식 기준이 달라서 보고 숫자가 달라 보이는 상황이죠.
클라우드 쪽에서 보면 그림이 또 뒤집혀요. 실험실 A 매출 100달러에 대응하는 클라우드 매출은 35달러, 영업이익 11.8달러, 이익률 34%예요. 실험실 B는 파트너 수익 분배가 붙어서 클라우드 매출 41달러, 이익 19.1달러, 이익률 47%가 나와요.
여기서 바클레이즈가 붙인 단서가 중요해요. 분배가 밀어 올린 건 겉으로 보이는 이익률이지, 토큰 하나당 실제로 남는 돈은 같다고요. 그리고 그 분배는 2028년 이후 사라질 것으로 봐요.
한 가지 더 짚고 갈 대목이 있어요. 에이전트형 구독 상품은 클라우드 쪽에 추가 가치를 만들어요. 채팅 한 번 주고받고 끝나는 게 아니라 상태를 들고 계속 돌아가는 런타임이라, 데이터베이스나 스토리지 같은 상위 자원을 함께 부르거든요. 매출 1달러당 딸려 오는 소비가 더 많다는 뜻이에요. 일부 구간에서는 클라우드와 AI 랩이 이 몫을 나눠 갖는 계약도 있고요.
이건 도입하는 쪽에도 그대로 옵니다. 에이전트를 붙일수록 모델 호출료만 늘어나는 게 아니라 그 뒤에 매달린 인프라 소비가 함께 늘어요. 견적서에 모델 단가만 적혀 있다면 절반만 본 거예요.
AI 랩들이 GAAP 재무제표를 공시하기 시작하면 이 격차는 투자자에게 그대로 넘어가요. 지표를 있는 그대로 믿기 어려워지는 국면은 이미 한 번 다룬 적이 있어요. 그때는 ARR 산출 방식이 문제였고, 이번엔 마진의 분모예요.
그런데 원가는 한 방향으로만 움직이지 않아요
지금까지의 이야기는 “원가가 내려간다”를 전제로 했어요. 토큰당 추론 원가는 실제로 내려가고 있어요. 같은 작업을 끝내는 데 필요한 토큰이 줄었고, 양자화와 추측 디코딩 같은 기법이 붙었고, 새 세대 계산 자원이 들어왔거든요.
그런데 그 계산 자원을 사 오는 값은 반대로 가고 있어요. 가령 CCL[^3]과 같은 하이엔드 반도체가 주류가 되면서 이러한 양상은 더욱 심화되고 있어요.
| 구분 | 인상률 | 비고 |
|---|---|---|
| 메모리 | +45% q-q | 2026년 2분기 |
| CCL | +12~22% | M8/M9 하이엔드 |
| MLB | +15% | AI 가속기향 |
| 패키지 기판 | +15% | 메모리향 |
| MLCC | +15~35% | AI 서버향 고용량 |
| AI 서버 | +15% 이상 |
삼성증권이 언론 보도를 정리한 자료예요. 메모리 인상률은 트렌드포스가 2분기 전망으로 제시했던 범용 D램 58~63%보다 낮은데, 제품군을 섞은 실현치에 가까운 값으로 보여요.
두 개의 원가가 반대로 움직이고 있는 거예요. 토큰 한 개를 만드는 값은 내려가고, 토큰을 만드는 기계를 사 오는 값은 오르고 있어요. 그리고 이 상승분은 아직 AI 랩의 손익계산서에 다 반영되지 않았어요. 서버는 한 번 사면 몇 년에 걸쳐 감가상각으로 흘러 들어가니까요.
지금 보이는 80%는 그래서 여유가 아니에요. 앞으로 들어올 조달 원가 상승을 흡수할 방어선에 가까워요.
왜 중요한가
이 구조에서 실무적으로 따라 나오는 게 세 가지 있어요.
첫째, 가격 인하를 예산의 전제로 깔면 안 돼요. AI 도입 계획을 세울 때 “어차피 토큰 값은 계속 내려간다”를 깔고 3년 치를 잡는 조직이 많아요. 그런데 지난 1년 동안 마진이 30~50%p 개선되는 사이 구매자가 받은 인하는 그에 한참 못 미쳤어요. 원가 하락분은 고객에게 내려오지 않고 회사 안에 남았어요. 명목 API 단가는 오히려 올라간 구간도 있고요.
바클레이즈의 전망도 같은 방향이에요. 매출 대비 추론 원가 비중은 2025년 66%에서 2026년 42%로 크게 떨어지는데, 2027년과 2028년에도 계속 42%로 잡혀 있어요. 큰 폭의 원가 하락은 이미 지나갔다고 보는 거예요. 앞으로 개선되는 건 훈련비 비중이지 추론 단가가 아니에요.
둘째, 벤더의 사업 구성을 보면 협상 여지가 보여요. API 매출 비중이 높은 곳은 마진 여력이 크지만 그만큼 가격을 지킬 유인도 커요. 구독 비중이 높은 곳은 마진이 얇은 대신 이탈에 민감해요. 볼륨 약정보다 해지 옵션이 협상 카드가 되는 쪽은 후자예요. 같은 요구를 해도 어느 쪽에 하느냐에 따라 답이 다르게 옵니다.
셋째, 지금 클라우드가 받는 돈은 영구 임대료가 아니에요. 하이퍼스케일러 AI 매출을 AI 랩 매출로 나눈 비율은 2024년 153%에서 2026년 90%, 2027년 77%, 2028년 73%로 내려가요. 훈련 지출 비중도 2024년 96%에서 2027년 35%, 2028년 30%로 떨어지고요. 다만 금액 자체는 계속 커져요. 하이퍼스케일러의 AI 매출은 2026년 1,240억 달러에서 2028년 5,020억 달러로 늘어나요. 줄어드는 건 몫이지 규모가 아니에요.
산업 전체 매출은 2024년 70억 달러에서 2026년 1,370억 달러, 2028년 6,900억 달러로 전망됐어요. 전부 예측치이고, 이 규모가 실현되지 않으면 위의 비율도 함께 무너져요.
마치며
세 가지만 남기고 싶어요.
첫째, AI 마진 숫자를 볼 때는 분모를 먼저 확인해야 해요. 추론 이익률 80%와 매출총이익률 52%는 둘 다 맞는 숫자예요. 90%도 마찬가지고요. 무엇을 무엇으로 나눴는지만 확인하면 돼요.
둘째, 지금 가격표는 원가표가 아니라 정책표예요. 누가 잘 떠나는지가 가격을 정하고 있어요.
셋째, 원가는 한 방향으로만 가지 않아요. 토큰 값이 내려가는 동안 기계 값은 오르고 있고, 그 청구서는 아직 도착하지 않았어요.
혹시 최근 1년 사이에 쓰시는 AI 도구의 단가가 실제로 내려간 경험이 있으신가요. 아니면 한도만 늘어나고 청구서는 그대로였나요. 어느 쪽인지 궁금해요.
참고자료 & 더 읽기
- 바클레이즈 리서치 AI 산업 요약 추정 (Barclays Research Estimates, 2026년 8월 28일) 본문 표는 이 자료의 수치를 재구성한 거예요. 비공개 리서치라 링크는 없어요.
- AI 이익 구도: 모델 기업 매출 100달러의 행방 (신랑차이징, 2026년 8월 29일) 같은 노트를 다룬 보도예요. 제품 라인별 이익률과 실험실 A/B 비교가 여기 있어요.
- The next wave of AI (Barclays Investment Bank) 바클레이즈 리서치의 공개 요약이에요. 단위 경제가 개선된다는 큰 그림을 확인할 수 있어요.
- AI COGS와 SaaS 매출총이익률 압축 (SaaS Magazine) ICONIQ 집계 기준 AI 제품 매출총이익률 추이가 정리돼 있어요. 분모 비교에 유용해요.
- 2분기 D램 계약가 전망 (한국경제) 메모리 인상률의 전망치 쪽 근거예요.
용어 설명
각주
SEND A COFFEE
이 관점이 좋았다면, 다음 글에 커피 한 잔
오스왈드에게 커피와 함께 짧은 쪽지를 보내주세요. 응원은 다음 취재와 집필에 보탭니다.
여러분의 생각이 다음 호를 만듭니다
이번 호에서 가장 공감했거나, 다른 경험을 한 지점은 무엇인가요?