2026.08.30第224号

ノートPCが考え込むばかりで止まってしまいました

Qwen 3.8 27BをノートPCで実行して返答を得られなかった体験を取り上げました。高い推論デフォルト値と実行ツールのコンテキスト上限が、結果にどのような影響を与えるのかを検証します。

AI・テック

ノートPCから返答はなく「思考中」の表示だけが続きました

先週末、ノートPCにオープンモデルを1つダウンロードしました。8月14日にアリババが公開したQwen 3.8 27Bです。ファイルサイズは17GBです。最近のゲーム1本よりも小さな容量で、コーディングを行い、画像を見て、ツールまで呼び出すモデルが動くということが新鮮で、早速試してみました。

しかし、質問を投げていくら待っても返答は返ってきませんでした。画面には「思考中」という表示がぐるぐると回り続けるばかりでした。ggufで動かしても、Mac用のmlxで動かしても同じでした。落ちたというべきかタイムアウトしたというべきか、判然としない状態のまま止まってしまっていたのです。

原因を調べてみると、モデルが壊れていたわけではありませんでした。初期設定が個人のノートPC環境に合わせられていなかったことが問題でした。そこで、このモデルのデフォルト値がどのような条件を基準に決められたのかを調べてみました。

円を1つ頼んだらアニメーション図形が出てきました

私だけに起きたことではありませんでした。

開発者のサイモン・ウィリソンが8月16日に、同じモデルを2台のマシンで動かしてみた記録を公開しました。128GBのMacBook ProとNvidia DGX Spark、どちらも17GBの4ビット量子化¹ビルドでした。

彼が最初に投げたプロンプトは、自転車に乗ったペリカンをSVGで描いてほしいというものでした。その生成結果は、彼がローカルモデルから出力させたものの中で最高だったそうです。自転車のフレームの形状は正確で、脚が両側に1本ずつ付き、翼はハンドルまで届いていました。

問題は、その結果が出るまでに21分もかかったことでした。推論に22276トークンを使い、出力は3,223トークンでした。推論に使ったトークンが出力の約7倍に達していたのです。同じプロンプトを推論なしで実行したところ、137秒で終わりました。品質は落ちたものの、21分待つほどのものではなかったというのが彼の評価でした。

さらに印象的だったのは、その次の実験でした。彼は今度はごくシンプルに依頼しました。円を1つSVGで描いてほしい、と。モデルの思考記録は次のように始まります。

単純なリクエストだが、丹精込めて作った作品に仕上げたい。単なる円タグを超えた何か、幾何学の習作のような趣に、繊細なアニメーションと何重ものリング、独特の色彩を取り入れてみよう。

数分後に出てきたのは、同心円のガイド線と目盛り、グラデーション、ゆっくりと回転する点線のリングが入ったアニメーション図形でした。見た目は見事でしたが、求めたのは円が1つだけでした。

同様の傾向は、コードを書かせたときにも現れました。写真の上に座標ボックスを描く簡単なWebツールを作ってほしいと頼むと、モデルは要求に含まれていなかった機能を自ら追加しました。テスト用の写真を持っていないユーザーのために、自分で絵を描き込めるサンプル画面まで用意していたのです。思考記録を見ると、「自己完結していて実演も可能だから面白いだろう」というくだりが出てきます。指示されていない作業を、モデルが勝手に追加したのです。

私が経験したフリーズも、まさにこれと同じ点に関係しています。ウィリソンは、LM Studioのデフォルトのコンテキスト上限である8,192トークンですぐに行き詰まったと記しています。ごく些細な質問に対しても、モデルがその上限を推論プロセスだけで使い果たしてしまったからです。上限を262144トークンに引き上げると、その問題は解消しました。モデルが答えを作れなかったのではなく、コンテキスト上限を推論にすべて使い切ってしまい、回答を収めるスペースが残っていなかったのです。

推論のデフォルト値が最高段階に設定された理由

ここで大半の記事は「中国製モデルの完成度の問題」へと片づけてしまいます。私はその解釈には同意しません。私が見る限り、作り込みの甘さによるミスではなく、評価条件に合わせて意図的に選ばれた設定です。

Qwen 3.8は、推論の深さを調整する設定を公式にサポートしています。xhigh、medium、lowの3段階があり、デフォルト値は最も高いxhighになっています。ドキュメントにも、複雑なタスクを徹底的に分析するためのものだと明記されています。

なぜこれをデフォルト値にしたのでしょうか。ベンチマークの測定条件を見れば答えが出ます。

前世代であるQwen 3.6のモデルカードには、評価条件が詳細に公開されています。ターミナルタスクのベンチマークは、3時間のタイムアウトにCPU 32基、RAM 48GB、最大出力8万トークン、コンテキスト25万6,000トークンで実行し、5回の平均を算出しました。ソフトウェアエンジニアリングのベンチマークでは、20万トークンのコンテキストで独自のエージェントハーネス²を使用しました。

この条件下での最適戦略は明確です。できる限り長く、できる限り深く考えることです。3時間与えられているのに、3分で終わらせる理由はありません。採点者はかかった時間を見ず、正解したかどうかだけを見るからです。

そして、その戦略は実際に功を奏しました。Qwenの独自発表ベースで、3.8は直前世代と比べてターミナルベンチマークで10点、コンピュータ操作評価で20点、Webタスクで16点、Androidタスクで12点スコアが向上しました。単一のハーネスで測定した自己申告の数値である点は割り引く必要がありますが、方向性は明白です。

ここで、ユーザー側の条件を並べてみましょう。ノートPCが1台、デフォルトのコンテキストは8,192トークン、試行は1回、待てる時間は長くて数分。ベンチマーク環境でスコアを引き上げてくれる設定が、ノートPC環境では返答を得られない原因になるのです。

興味深いのはコミュニティの反応です。3.8がベンチマークで上回っているにもかかわらず、ローカルユーザーの間では4カ月前に登場した3.6がいまだにデイリードライバーと呼ばれています。3.6のほうが落ち着いており、答えを出せないまま推論を際限なく引き延ばすことが少ないという理由からです。実際に3.6は4カ月間でダウンロード数700万回を超えました。ベンチマークのスコアが高いモデルと、ローカルで実際に愛用されるモデルが乖離し始めているのです。

繰り返しを防ぐ設定が言語混入を招く問題

デフォルト値が評価条件に合わせられているという手がかりは、モデルのドキュメントにもあります。

Qwen 3.8のモデルカードには、次のような案内があります。無限ループが発生した場合は、反復抑制値³を0から2の間に引き上げてみてください、と。そしてすぐ次の文で、その値を引き上げると断続的に言語混入が発生し、性能がわずかに低下する可能性があると警告しています。

私は、この2つの文章が並んで書かれていることこそが、今回のリリースの性格を最も的確に表していると考えます。ループを防ぐ処方箋が別の症状を引き起こすことをベンダー自身が把握しており、その状態のままリリースしたことを意味しているからです。

実際、私が韓国語で質問した際にも、回答に日本語やアラビア語が混ざり込んで出力されるのを目にしました。これがなぜ発生するのかについては、参考になる研究があります。バイリンガル推論における言語混入を定量化した論文によると、ある推論モデルの数学問題解決において、中国語で質問したとき回答の77.4%に言語混入が見られ、問題あたり平均7.22回言語が切り替わっていました。英語で質問したときはわずか0.6%でした。この系統のモデルにおける支配的な思考言語が英語であることを示しています。

cozy 言い換えれば、韓国語で質問するユーザーは、回答に別の言語が混ざる問題により頻繁に遭遇することになります。しかし、この問題はベンチマークの測定項目には入っていません。測定されない以上、デフォルト値を決める際に考慮される理由もないのです。

デフォルト値の問題は、モデル本体だけに留まりません。モデルを動かす実行ツールの設定も、結果を大きく左右します。

同じモデルを丸一日さまざまな設定で実行したあるユーザーの記録を見ると、RTX 5090を1台使った環境で、1秒あたり12トークンから137トークンまで10倍以上の開きが出ました。さらに、複数のトークンを先読みして速度を上げる機能⁴を有効にしたセットアップでは、すべてタイムアウトになったといいます。実行環境の互換性の問題であり、モデル自体の不具合ではないと本人が補足していますが、逆にウィリソンは同じ機能を有効化することで、デフォルトのビルドと比べて72%高速な結果を得ています。

同じ機能をオンにしたとき、一方では72%高速化し、他方ではリクエストがすべてタイムアウトで終わりました。私がggufとmlxの双方で経験したフリーズも、ここに起因していた可能性が高いでしょう。オープンウェイトモデルの実際の性能は、重みそのものではなくその上に載せる実行スタックによって決まりますが、そのスタックのデフォルト値を決める主体はまた別のところにあります。モデルを作ったチーム、量子化ビルドをアップロードしたチーム、実行ツールを作ったチームがすべて異なるのです。誰も私のノートPCを基準に設定を決めてはいません。

もし今、このモデルをご自身で動かしていらっしゃるなら、次のような手順で設定されることをお勧めします。まずコンテキスト上限を十分に引き上げ、推論段階を下げて過剰思考を抑え、サンプリングの上位候補数⁵を明示的に20に指定してください。反復抑制値によってループを防ぐのは、最後の手段として後回しにしてください。その値こそが言語混入を招く引き金になるからです。

もちろん、公平を期すために補足しておく必要があります。考えすぎる現象は、このモデルだけの問題ではありません。コミュニティの実験では、Google Gemma 4 26Bが同じ質問に対してむしろさらに多くのトークンを消費しました。またHugging Face上では、この現象は重み自体の構造的欠陥であるという主張と、その分析は捏造だという反論がいまも飛び交っており、いまだ決着はついていません。重みがすべて公開されているモデルであるにもかかわらず、です。

Oswarldの視点

私はGTM戦略を策定するなかで、製品のデフォルト値をめぐって激しく議論する会議に何度も同席してきました。そのたびに繰り返される構図があります。

**デフォルト値を決める場には、常に2つの圧力がかかります。**1つは「初めて触るユーザーを成功させよう」という側であり、もう1つは「私たちが最もよく見える状態にしておこう」という側です。そして後者が勝利することが、思いのほか多いのです。デモで見栄えのする設定、レビュアーが有効にするであろう設定、比較表で勝てる設定が、そのまま出荷時のデフォルト値になります。

問題は、この選択が外からは見えにくい点にあります。機能を削ったわけでも、性能を偽ったわけでもありません。設定を1つどこに合わせるかという違いにすぎないからです。しかし、ユーザーの立場から見れば、デフォルト値とは事実上その製品そのものです。大半の人は設定画面など開かないからです。

だからこそ私は、デフォルト値を見れば、その製品が誰に向けられたものかが最もよく分かると考えています。マーケティングの宣伝文句は複数のターゲット層を同時に狙えますが、デフォルト値は1つしか決められないからです。

今回の事例では、その選択が特に如実に表れています。オープンウェイトモデルがアピールできる根拠は、ベンチマークのスコアにほぼ限られます。営業組織も、流通契約も、蓄積されたユーザーデータもないため、リーダーボードの順位によって性能を証明するほかないのです。そうした企業が、採点条件に最適化したデフォルト値を選ぶのは何ら不思議なことではありません。むしろその状況下では、自然な選択とすら言えます。

ただ、その事情を理解することと、デフォルト値をそのまま使い続けることは別の問題です。私は今週、ノートPCから返答を得られず何度もフリーズを経験するなかで、そのことを身をもって実感しました。

おわりに

今回の検証で確認できた点は3つあります。

Qwen 3.8 27Bの推論デフォルト値は、最高段階であるxhighです。円を1つ頼んだだけでもアニメーションの入った複雑な図形を生成し、コンテキスト上限が狭いと推論にトークンを使い切ってしまって回答を収めるスペースが残りません。
これはミスではなく、採点条件に合わせた選択です。3時間のタイムアウトと8万トークンの出力を許容する評価では、長く考え抜くほうが勝つからです。
個人ユーザーの条件はその正反対です。そのためベンチマークで優位に立つモデルとローカルで実際に愛用されるモデルが乖離し、4カ月前に登場した3.6がいまだに常用モデルとして使われています。

同様の点検は、このモデルだけに当てはまるものではありません。いまお使いのAIツールの設定画面を、一度開いてみてください。**このデフォルト値は自分のために設定されたのか、それともこの製品を評価する誰かのために設定されたのか。**その2つの答えが食い違っているツールが、想像以上に多いはずです。

読者さんは、AIツールを初期設定のまま使っていて損をした経験はありますか？どんなツールのどのような設定だったのか、変更したことで何が変わったのか、ぜひコメントでお聞かせください。

💬 初期設定にまつわる体験談をコメントでお聞かせください · 📨 ローカルモデルの導入を検討している同僚がいれば、ぜひこの記事を共有してください

参考資料と関連リンク

主要出典

Simon Willison, “Qwen 3.8 27B is excellent, but it defaults to wildly overthinking things”, Simon Willison’s Weblog, 2026. 8. 16. リンク ··· 21分と2万2,276トークンの出典です。円を描く事例の思考記録全文へのリンクも記載されていますので、それだけでもご一読をお勧めします。
Qwen, “Qwen3.8-27B Model Card”, Hugging Face, 2026. 8. 14. リンク ··· 推論段階のデフォルト値と反復抑制値の警告が記載された原文です。ベンダーが何を把握していたかを確認するのに最適です。
Qwen, “Qwen3.6-27B Model Card”, Hugging Face, 2026. 4. リンク ··· 3時間のタイムアウトと8万トークンというベンチマーク測定条件がここに記されています。本稿の中核をなす根拠です。
“Why Qwen3.8-27B overthinks? Here the reason”, Hugging Face Community Discussion #76, 2026. 8. リンク ··· 構造的欠陥の主張と反論が交わされているスレッドです。重みが公開されていても、その振る舞いに対する合意形成がいかに難しいかを示す事例でもあります。

背景知識

Yihao Wang et al., “The Impact of Language Mixing on Bilingual LLM Reasoning”, arXiv:2507.15849, 2025. リンク ··· 言語混入比率77.4%と0.6%の出典です。非英語圏のユーザーがなぜ異なる体験を強いられるのかを解説しています。

あわせて読みたいバックナンバー

著者 アン・グァンソプ（Oswarld） は世宗大学校兼任教授、INLEVEL9 戦略コンサルタントです。経歴、研究、著書、最近の活動は著者紹介で更新しています。最近の活動 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

📝 用語解説

각주

量子化（Quantization）：モデルの数値をより低い精度に落とし、ファイルサイズとメモリ使用量を削減する処理のことです。高解像度の写真を画質を少し落として保存するのに似ています。これにより27Bモデルが17GBに圧縮され、ノートPCに収まるようになります。 ↩
ハーネス（Harness）：モデルを評価または実行する際に外側を包む枠組みのことです。どのツールを使わせるか、何回試行させるか、いつ停止させるかをここで定めます。同じモデルでもハーネスが異なればスコアも変わります。 ↩
反復抑制値（presence_penalty）：すでに出現した表現が再び現れる確率を下げる設定です。同じ言葉を延々と繰り返す症状を抑えてくれますが、値を高くするとモデルが本来使うはずだった単語を避けようとして、まったく関係のない言語の単語を選定してしまうことがあります。 ↩
マルチトークン予測（MTP, Multi-Token Prediction）：軽量な仕組みが後続の複数の単語を先回りして予測しておき、本体のモデルがその正誤を素早く検証する方式です。予測がうまく当たれば処理速度が大幅に向上しますが、実行環境がこの機能に正しく対応していない場合、かえってフリーズしてしまいます。 ↩
上位候補数（top_k）：次の単語を選ぶ際、確率の高い順に何個までを候補に残すかを決める値です。この値を制限しないと、確率が極めて低い珍しい単語まで候補に残ってしまい、時に予期せぬ文字が飛び出す原因になります。 ↩