AI 企業劃下的「倫理紅線」，在戰爭面前崩塌
原則在和平時期建立，戰爭一旦開始便接受考驗
引言
訂閱者您好，上週的新聞中，您應該看到美國空襲伊朗的消息了。但我在看這條新聞時，注意到另一件事。在最初的 24 小時內打擊了超過 1,000 個目標的這場行動，其核心工具正是我們每天用來撰寫郵件草稿和編寫程式碼的 AI 模型。Anthropic 的 Claude 透過 Palantir 的 Maven Smart System1，被用於美軍的情報分析、目標識別和戰鬥情境模擬。而且，這發生在川普總統宣布禁用 Anthropic 的第二天。
AI 企業一直強調的「倫理原則」，在戰時是否仍然有效？這次事件所揭示的，是原則與現實之間巨大的落差。
從 Project Maven 到伊朗戰爭——八年的軌跡
這個故事的起點是 2017 年。美國國防部的 Project Maven 是一個利用 AI 從無人機影像中識別物件的專案，當時由 Google 承接了這份合約。
然而 2018 年 3 月，Google 內部有超過 4,000 名員工發起連署運動，內容是「Google 的技術不應該被用來殺人」，十幾名員工實際選擇了離職。最終 Google 通知國防部「我們做不到」，同年也在 100 億美元規模的五角大廈雲端合約競標中，以「無法確認是否符合本公司 AI 原則」為由退出了。
Google 退出後，Palantir 填補了這個空缺。他們與 AWS 組建聯盟負責軟體開發，但進展緩慢。轉折點在 2024 年。Anthropic 與 Palantir 建立合作關係後，Maven Smart System 才告完成。Claude 被部署在 Palantir 平台之上。
這裡有一件事需要特別指出。Anthropic 在 2024 年簽訂合作關係時，已經知道自家技術將被整合進國防部的無人機作戰系統中。這正是 Google 八年前拒絕的那個角色。
Anthropic 的兩條紅線，以及其中的矛盾
2025 年 7 月，Anthropic 與國防部簽訂了 2 億美元規模的合約。然後在 2026 年初，Anthropic CEO 達里奧・阿莫迪向五角大廈提出了兩個條件。
第一，禁止對美國公民進行大規模監控。第二，禁止開發完全自主武器——也就是說，不允許 AI 在沒有人類監督的情況下自行決定目標並發動攻擊。
國防部的回應非常堅定。「在所有合法用途中，這是我們自己該做的事，為什麼軟體公司要干預軍方的作戰決策？」國防次長艾蜜爾・麥可將此比喻為「鐵鎚向木匠抗議說『這樣敲不行』」。
但仔細審視阿莫迪的兩個條件，會發現其中的矛盾所在。只禁止對「美國公民」的監控，意味著允許對外國人的監控。只反對「完全自主」武器，也意味著部分自主武器是可以接受的。而且阿莫迪在訪談中表示，他並非原則上反對完全自主武器，而是說「目前的技術可信度還不夠」。這更接近技術上的保留態度，而非倫理紅線。
戰爭前夜的科技巨頭——四大巨頭，四種光譜
Anthropic 與五角大廈的談判在 2 月 27 日破裂，局勢急劇變化。
川普總統在 Truth Social 上指示所有聯邦機構停止使用 Anthropic。國防部長皮特・海格塞斯將 Anthropic 列為「供應鏈風險」。這個措施通常適用於華為等敵對國企業，但用於美國企業，這是史上首次。
就在當天晚上，OpenAI 宣布與五角大廈簽訂機密環境部署合約。CEO 山姆・奧特曼表示「我們與 Anthropic 共享相同的紅線」，但實際合約內容允許「所有合法用途」。奧特曼後來承認這筆交易「看起來機會主義且草率」。OpenAI 內部也出現反彈，機器人部門負責人因對自主武器和監控的擔憂而辭職。
另一方面，Google 早在 2025 年 2 月就已經悄悄從自家 AI 原則中刪除了武器和監控禁令條款。正是 2018 年 4,000 人發起連署運動的那份原則。官方聲明中以「日趨複雜的地緣政治環境」為由。
xAI（伊隆・馬斯克）從一開始就持無條件接受政府請求的立場，也是第二家獲得機密環境使用許可的企業。
整理這些資訊後，可以看到一個光譜。
2018 年時，「AI 不應該被用於戰爭」是矽谷的常識。2026 年時，連 Anthropic「只提出了兩個例外」的立場都引發了爭議。奧佛頓視窗2就這樣快速移動了。
戰爭揭示的供應鏈真相
這次事件中最諷刺的場景另有其處。
川普宣布禁用 Anthropic 的第二天，美軍在空襲伊朗時使用了 Claude。用於情報分析、目標識別和戰鬥模擬。據國防部相關人士透露，要替換 Claude 至少需要 3 到 6 個月。一位相關人士將此比喻為「開心手術」。
這對商業而言是一個重要的啟示。AI 模型一旦深度整合進軍方系統，它就不再是簡單的「軟體授權」，而是變成了基礎設施。替換成本成為阻礙轉換的壁壘。所以當 Anthropic 事後才提出條件時，國防部才如此憤怒。已經收了錢、系統也深度整合之後才要求變更條件，對任何客戶來說都是難以接受的。
同時，這也是 Anthropic 的悖論。這家企業以「AI 安全」為創業理念，倫理形象是其品牌資產。事實上，這次事件後一週內，每天有超過 100 萬人註冊使用 Claude，在超過 20 個國家的 App Store 上排名第一。 因為堅持原則而失去了政府合約，但在消費市場上，品牌反而更強了。
奧茲的視角
老實說，看到這次事件，我很難輕易偏袒任何一方。
從個人角度來看，Anthropic 的做法在商業上是順序錯誤的。2024 年與 Palantir 建立合作關係、深度進入國防部系統之後，2026 年才公開要求變更條件，時機和方式都有問題。如果私下與國防部協調，結果可能不同。但透過公開信和媒體訪談發動輿論戰，考慮到川普政府的性格，這等於自招可預見的反彈。 但如果我用 Claude 的話，也許會用稍微溫暖的眼光看待……
但退一步想，Anthropic 提出的問題本身仍然有效。AI 識別目標、排列優先順序、提供座標——只要最終按鈕由人按下，這就算「在人類的控制之下」嗎？在殺傷鏈3從幾天壓縮到幾秒的情況下，指揮官能有多麼有意義地審視 AI 的建議？這個疑問依然成立。
而且這也不是別人的故事。韓國因生育率下降，軍方人力持續減少。在邊境防務中投入 AI 和機器人，已經超越了討論階段。這次伊朗戰爭中，1,000 美元的自爆無人機使數百萬美元的戰車喪失戰力的場景，也對以自走砲和火箭砲為核心的現有軍力結構提出了根本性的質疑。
科技開始將人的性命放上秤盤。而決定秤盤傾斜方向的，不是 AI，最終是我們人類的決定。
結語
這次事件的核心可以歸納為三點。
第一，AI 企業的倫理原則是和平時期的定位策略，而非戰時也能維持的合約保護機制。第二，一旦深度整合進系統的 AI 就變成了基礎設施。替換成本比原則擁有更強的談判力。第三，「AI 不直接扣扳機就可以嗎」這個問題，是未來每個國家都必須回答的功課。
海外認為目前的伊朗戰爭將成為全球防務 AI 技術的博覽會，實際上確實有各種各樣的人工智慧技術被使用，包括偵測、追蹤、無人、推理、自主等 AI 技術。拿著怪異武器的軍人沒問題，拿著槍的人是人類所以沒問題嗎？當然，沒有戰爭的美麗世界是最理想的，但那太像童話般的想法，先放一邊的話，希望任何事都能快速且以最小代價結束。
如果想更深入探索這個主題，我推薦下方參考資料中 Lawfare 的法律分析。它細緻地探討了供應鏈風險指定的法律依據有多麼脆弱。
參考資料 & 延伸閱讀
- CNBC, “Pentagon Notifies Anthropic It’s Deemed a Supply-Chain Risk,” 2026.3.5.：最詳細地報導了供應鏈風險正式指定的前後脈絡。
- Lawfare, “Pentagon’s Anthropic Designation Won’t Survive First Contact with Legal System,” 2026.3.：逐條分析供應鏈風險指定法律依據的文章。理解此次事件法律層面不可或缺。
- Anthropic 官方聲明, “Where Things Stand with the Department of War,” 2026.3.：可直接查看 Anthropic 方面的官方立場。
- OpenAI, “Our Agreement with the Department of War,” 2026.3.：OpenAI 說明自家合約安全機制的文章。可以與 Anthropic 的合約進行比較。
- CBS News, “Anthropic’s Claude AI Being Used in Iran War,” 2026.3.3.：報導 Claude 在伊朗空襲中實際如何被使用的文章。
- Washington Post, “Pentagon Leverages AI in Iran Strikes,” 2026.3.4.：報導 Claude 在伊朗空襲中實際如何被使用的文章。
- CNBC, “Google Removes Pledge Not to Use AI for Weapons, Surveillance,” 2025.2.4.：有助於理解 Google AI 原則變更的背景。2018 年與 2025 年矽谷氛圍的差異清晰可見。
