AI與科技第 29 期

AI 代理已經準備好了，只是我們還不敢信任它

導入代理的真正瓶頸不是能力，而是信任

安光涉（Oswarld）· INLEVEL9 作者與編輯

AI 代理已經準備好了，只是我們還不敢信任它

前言

各位讀者，最近幾乎天天都能聽到「AI 代理」這個詞。能代寫程式、分類電子郵件，甚至執行金融交易的 AI。但實際上，真正測量人們到底把多少工作交給 AI 代理去做的研究，幾乎沒有。

Anthropic 在 2026 年 2 月發表了一項研究，分析了自家程式代理 Claude Code 以及透過公開 API 進行的數百萬次人機互動。標題是「Measuring AI Agent Autonomy in Practice」，直譯就是「在實際場景中衡量 AI 代理的自主性」。

這項研究有趣的地方在於，它測量的不是 AI “變得多聰明”，而是”人們實際上有把多少工作交給它”。而結果相當耐人尋味。今天我們就圍繞這項研究，聊聊 AI 代理時代真正的瓶頸到底在哪裡。

45 分鐘的意義：自主工作時間幾乎翻倍了

先來看 Anthropic 研究的核心數據。他們測量了 Claude Code 中 AI 在沒有人為干預下獨立工作的時間，也就是回合持續時間。

大多數回合都很短。中位數大約是 45 秒，這個數字在幾個月中幾乎沒有變化。隨著新使用者不斷加入，整體平均維持在穩定水準。

真正有趣的是尾部（tail）數據。最長的會話，也就是前 0.1% 的回合持續時間，從 2025 年 10 月到 2026 年 1 月之間，從不到 25 分鐘增長到超過 45 分鐘，幾乎接近翻倍。只用了 3 個月。

這裡值得注意的一點是，**這個增長與新模型發布無關，是平緩地發生的。**如果自主性完全是模型效能的函數，那每次發布新模型時都應該出現急劇跳升。但圖表呈現的是一條平滑的上升曲線。這意味著重度使用者隨著時間推移，越來越信任這個工具，開始交給它越來越有挑戰性的任務。

Anthropic 將這種現象稱為”部署懸掛（deployment overhang）“。意思是模型實際能承擔的自主性，遠比現實中發揮出來的自主性要大得多。

信任是累積出來的：經驗改變監督方式

使用者賦予代理自主性的模式也很有趣。

Claude Code 的新使用者（少於 50 個會話）只在約 20% 的工作中使用「自動核准」1​ 模式。但擁有 750 個以上會話的熟練使用者，這個比例上升到 40% 以上。隨著經驗累積，他們逐漸將更多裁量權交給 AI。

但這裡出現了一個矛盾的數據。熟練使用者雖然更多使用自動核准，同時中斷 AI 工作（interrupt）的比例也更高。新使用者的中斷率約為每個回合 5%，而熟練使用者則上升到約 9%。

看起來矛盾，但其實這反映的是監督策略的轉變。新使用者採用的是逐步核准的「事前核准」方式，所以很少需要中途打斷。而熟練使用者則轉為讓 AI 自主運行、出問題時才介入的「監控」模式。中斷率上升不是放任不管，而是主動監督的證據。

這個模式和職場上管理新人與老手的做法如出一轍。對新人，每個步驟都要確認；對信任的團隊成員，則是「你自己判斷，卡住了再說」。人與 AI 的關係中，同樣的結構在運作。

反而是 AI 先舉手：會自己停下的代理

不只是人在監督代理，Claude 也會自己停下。

在最複雜的任務中，Claude Code 向使用者請求確認的比例，是使用者中斷 Claude 的比例的兩倍以上。以最高難度任務為基準，Claude 主動提問的比例是 16.4%，而人的中斷率是 7.1%。

分析 Claude 主動停下的原因，呈現出以下模式：

  • 為了提供操作選項（35%）

  • 為了收集診斷資訊或測試結果（21%）

  • 為了釐清模糊或不完整的請求（13%）

  • 為了請求認證資訊或存取權限（12%）

  • 為了在行動前取得核准（11%） 而人主動中斷 Claude 的原因是：

  • 提供遺漏的技術背景或修正（32%）

  • Claude 動作太慢或過度操作（17%）

  • 已獲得足夠協助，可以自行處理（7%） 這是一個重要的安全特性。它表明代理能認識到自己的不確定性，在沒有把握時主動踩煞車，這種能力和外部安全機制同樣重要。Anthropic 表示他們在模型訓練過程中有意強化這個特性，並建議其他模型開發者採取相同做法。

程式之外的世界：代理正在走向哪裡

目前 AI 代理的使用版圖，壓倒性地集中在軟體工程領域。以 Anthropic 公開 API 為基準，約 49.7% 的工具呼叫與程式相關。其次是後台自動化（9.1%）、行銷（4.4%）、銷售/CRM（4.3%）、財務會計（4.0%）、數據分析（3.5%）。

80% 的工具呼叫都設有權限限制或人工核准要求等安全機制，73% 有某種形式的人為參與。不可逆的行動（如發送電子郵件）僅佔 0.8%。

但也能看到前沿領域。金融交易自動執行、患者醫療記錄查詢、安全權限提升等高風險、高自主性的小型集群確實存在。Anthropic 認為其中相當一部分可能是安全評估（紅隊演練），但也承認無法區分是否為實際生產環境。

軟體工程率先採用代理是有結構性原因的。程式碼可以執行來驗證對錯。跑測試、比較結果、部署前審查。而在法律、醫療、金融等領域，驗證代理的產出本身就需要專業知識。因此信任的建立必然更慢。

MCP vs CLI：圍繞代理「手和腳」的技術爭論

這裡稍微聊點技術性的話題。AI 代理與外部世界互動的方式，也就是工具連接的介面，正引發一場有趣的爭論。

MCP（Model Context Protocol）2​ 是 Anthropic 在 2024 年 11 月公開的開放標準。它是一個標準化 AI 代理與外部工具、資料庫、API 溝通方式的協議。可以把它想像成 USB-C 埠，接上之後就能使用任何工具的「萬用轉接器」。發布一年內，OpenAI、Google、Microsoft 全部採用，2025 年 12 月更移交至 Linux Foundation 管轄，成為業界標準的速度相當快。

但最近現場開發者之間出現了”CLI 比 MCP 更好”的聲音。

問題在於上下文效率。典型的 MCP 伺服器會將所有可用工具的 schema3​ 一次性載入代理的上下文視窗。例如，僅一個 GitHub MCP 伺服器暴露 93 個工具，其定義就消耗約 55,000 token。再加上資料庫、Jira、Microsoft Graph，僅工具定義就超過 15 萬 token。真正重要的推理空間被壓縮了。

而 CLI（命令列介面）4​ 方式則直接使用 gh、az、git 等現有的命令列工具。AI 模型在訓練數據中已經學習了這些工具的使用方法，因此無需額外 schema，僅憑命令和結果就能在 200 token 以內完成相同的操作。

一位工程師將「提取合規設備清單並匯出為 CSV」這個任務在兩邊做了比較。MCP 方式在 3~4 步推理後因上下文不足而必須拆分會話，CLI 方式則在單一會話中完成管線搭建並處理了邊界情況。

當然這不是「非此即彼」。MCP 的優勢在於標準化和生態系。數千個伺服器、跨平台支援、安全治理機制都已建立。Anthropic 自己也意識到這個問題，並提出了透過程式執行來進行 MCP 互動的方式。不再一次性載入所有工具定義，而是讓代理用程式碼檢索所需的工具，按需5​ 載入。

在我看來，這是代理架構的成熟過程。初期是「把所有工具一次展示出來」的思路，但在實際操作中撞上了上下文視窗這個物理限制，逐漸收斂到「需要時才載入需要的工具」這種效率導向的模式。不是 MCP 本身消失，而是在 MCP 之上疊加更聰明的工具探索方式。

Oz 的視角

讀完這項研究，最讓我印象深刻的是「部署懸掛」這個概念。AI 的能力已經足夠，但實際使用量卻跟不上。這個模式在科技產業中反覆出現。雲端運算如此，自動駕駛也是如此，這次也是同樣的結構。當科技的瓶頸從「效能」轉向「信任」時，決定成長曲線斜率的就不再是工程師，而是組織文化和治理6​。

特別值得注意的是，Anthropic 明確表示”要求所有行動都事前核准的規範並不恰當”。熟練使用者自然發展出的「監控 + 選擇性介入」方式反而更有效。這對監管討論提供了重要的啟示。

另外，作為數據專家，我想指出這項研究的局限性。Anthropic 只能分析自家產品的數據。公開 API 只能看到個別工具呼叫，無法重構完整的代理會話。Claude Code 的數據偏向軟體工程領域。此外，風險和自主性評分是 Claude 自己分類標註的，驗證上存在結構性限制。這項研究確實是有意義的第一步，但需要記住，全貌還只是拼圖的一部分。

在我看來，真正重要的問題是：“AI 代理的自主性由誰決定？“這項研究的回答很明確：不是模型、不是使用者、不是產品設計，而是三方共同構建的。Anthropic 稱之為”共同構建的自主性（co-constructed autonomy）“，我認為這個框架將成為未來 AI 治理討論的起點。

結語

總結來說。AI 代理的自主工作時間在 3 個月內幾乎翻倍，但促成這個增長的不是模型升級，而是使用者信任的累積。而代理自身在面對不確定性時主動停下的能力，正作為與外部安全機制同等重要的監督機制發揮作用。

如果您對這個主題更感興趣，建議從原研究的「Experienced users」章節開始閱讀。用數據呈現信任與監督關係的部分特別令人印象深刻。下次我們透過 Anthropic 近期發表的另一項研究，聊聊這個自主性擴展對勞動市場的影響。

參考資料 & 延伸閱讀

作者 安光涉（Oswarld） 現任世宗大學兼任教授，INLEVEL9 策略顧問。職涯經歷、研究、著作與近期活動會持續更新在作者介紹。 最新動態 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

각주

  1. 自動核准（Auto-approve）：在 Claude Code 中，AI 執行的每個動作（檔案修改、命令執行等）無需使用者逐一確認即自動允許的設定。預設為關閉，每次都需要手動核准。 ↩

  2. MCP（Model Context Protocol）：標準化 AI 模型與外部工具或數據源溝通方式的開放協議。就像 USB-C 將各種設備透過一個埠連接一樣，可以把它視為將 AI 連接至各種服務的「通用連接器」。 ↩

  3. Schema（結構定義）：定義數據或工具結構的說明文件。可以把它想像成一份使用手冊，詳細描述”這個工具需要什麼輸入、會產生什麼輸出”。 ↩

  4. CLI（Command Line Interface，命令列介面）：透過輸入文字命令來操作電腦的介面。與用滑鼠點擊的 GUI 不同，是直接輸入 git push 等命令的方式。 ↩

  5. 按需（On-demand）：需要時才取用所需量的方式。就像 Netflix 只串流你想看的電影一樣，代理只在需要時載入所需的工具。 ↩

  6. 治理（Governance）：指組織或系統的決策結構與責任體系。AI 治理是指關於”AI 能做什麼、誰負責”的規則與流程。 ↩

延伸閱讀

第 24 期AI與科技

為什麼企業社群幾乎都會失敗？

社群的本質不是「平台」，而是「持續地存在」

第 23 期AI與科技

SaaS 股價暴跌，真正的原因不是 AI

軟體產業正從「發散期」走向「收斂期」。能活下來的，是提供「行動」而非「摘要」的那一方

第 22 期AI與科技

預測失誤的人為何選擇賣會員制而非道歉

預測失誤是人性的，但拒絕承認失誤的結構卻是宗教性的