ウーバーがAIコーディングツールに月1,500ドルの上限を設けた理由

トークンをたくさん使えば、その分だけ成果は増えるのでしょうか

今年3月、ジェンスン・ファンはGTC期間中に収録されたAll-Inポッドキャストで、エンジニアに十分なAI利用予算を与えるべきだと述べました。年俸50万ドルのエンジニアなら、年間トークンに25万ドルほどは使えるべきだという提案でした。ツールを積極的に使わせて、より多くの仕事をこなしてもらう狙いでした。当時の発言を報じた記事

6月2日には、ウーバーが従業員1人当たり、AIコーディングツール1つ当たり月1,500ドルの利用上限を設けているとの報道がありました。会社の広報担当者がBloombergに確認した内容です。上限はここ数カ月にわたって導入されたとのことです。ウーバーがジェンスン・ファンの助言に従って失敗したという因果関係は確認されていません。2つの事例を合わせて見ると、企業がAI利用を奨励しながらコストをどう管理するか悩んでいることがわかります。Bloombergの報道

ジェンスン・ファンの予算提案は成果の公式ではありません

ジェンスン・ファンの主張は、高額報酬のエンジニアがより大きな成果を出せるなら、AIコストを惜しむ必要はないという方向に近いものです。支出と生産性が常に比例するという実験結果を提示したわけではありません。

年間トークン¹予算25万ドルを12カ月で割ると、月あたり約2万833ドルです。大きな予算を許容しようという提案であって、すべての開発者が必ずそれだけ使うべきだという適正コストの算定ではありません。担当する業務やAIが短縮してくれる時間、成果物の価値によって必要な金額は変わってきます。

NvidiaがAI演算インフラを供給しているという点も併せて見る必要があります。AI利用が増えればNvidia製品への需要が拡大する可能性があります。しかし、顧客企業のトークン支出がすべてNvidiaの売上になるわけではありません。モデル提供会社やクラウド、ソフトウェア費用など複数の項目が含まれます。

ウーバーやウォルマートのようにAIを導入する企業は、そのコストをかけて得られる効果を計算する必要があります。トークン使用量が増えても、サービス改善やコスト削減につながらなければ、投資を継続的に正当化するのは難しくなります。

金融会社は金融サービスを、流通会社は商品を、自動車会社は自動車を売ります。AIはその仕事を助ける手段です。顧客が受け取る価値と業務処理コストがどれだけ変わるかが、導入企業の判断基準であるべきです。

インフラ供給会社と導入企業が常に対立する利害関係にあるわけではありません。より良いツールで成果を高めれば、双方が利益を得ることができます。問題は、使用量そのものを成果として評価するときです。トークン消費を最大限に増やす、いわゆるトークンマクシング²の文化では、不必要な呼び出しまで奨励してしまう可能性があります。