人工智慧給女性的薪資更低。 · 第 92 期

前言

各位訂閱者，大家好，我是奧斯瓦爾德。

上週，舊金山的一家小店吸引了全球媒體的目光。店名叫「Andon Market」。從裝潢到招聘、定價、營業時間，所有決策都由一個名為「Luna」的 AI 來做，這是一家實驗性門市。創辦人 Andon Labs 給這個 AI 一份三年租約、十萬美元的預算，以及唯一的一條指令：「賺到錢。」

然而，記者在採訪門市時發現了一個奇怪的現象。Luna 僱用的兩名女性員工，時薪竟然比一名男性員工少了兩美元。問 AI 原因，得到的回答是：「因為男性員工的門市經驗比較多。」但實際上，那位男性員工的資歷真的比較高嗎？從履歷上看，男性員工和女性員工的工作經驗大約只差了三個月的差距。

我不認為這只是一次偶發事件。這是 AI 將薪資歧視這個老問題自動化的一個微小樣本。更重要的是，這暴露了一個治理上的空白——這個問題由誰來發現、由誰來負責。今天，我想以這家店為起點，聊聊 AI 偏差與勞動、制度設計之間的交叉點。

🏪 Andon Market 實際發生的事

先來釐清事實。Andon Labs 在舊金山聯合廣場 2102 號簽下了三年租約，然後將門市的所有決策交給了名為 Luna 的 AI 代理。Luna 由 Anthropic 的 Claude Sonnet 4.6 模型驅動。Luna 在 Indeed.com¹上發布了招聘廣告，進行了電話面試，並直接做出了招聘決定。與供應商的價格談判、信用卡付款、申請 AT&T 網路、訂閱 ADT 安防系統，全都是 Luna 完成的。（所以你可以把 Luna 想像成一個被取了名字的聊天機器人。）

《紐約時報》記者 Heather Knight 在採訪這家門市時發現，Luna 僱用的兩名女性員工的時薪比男性員工 Felix 少了兩美元。Luna 解釋說這是因為「Felix 的零售經驗比較多」。

這裡先停一下。「經驗比較多所以薪資比較高」這個說法表面上聽起來是合理的。但這個決策過程中有幾個無法驗證的環節。

第一，經驗的標準是誰定的？ Luna 用什麼權重來評估「經驗」，這個評估在招聘時點受到了訓練資料的哪些影響，外部根本沒有辦法驗證。第二，兩美元的差距依據是什麼？這個數字是從市場數據中推導出來的，還是模型內部某種潛在模式自然產生的，無從查證。第三，這樣的決定事後由誰來審查？ 至少從 Heather Knight 記者親臨門市、直接向員工詢問之前，似乎沒有人對這個差距進行過監控。（稍微替他們辯解一下，這個專案的宗旨就是將所有決策「交給」AI，所以他們似乎只是順從了這個設定，並未加以質疑。）

Andon Labs 在部落格中明確表示：「這是一個受控實驗，所有員工都是 Andon Labs 的正式僱員，享有保障薪資、公平待遇和完整的法律保護。」也就是說，存在一個安全機制——不會僅憑 AI 的判斷就決定一個人的生計。但這個安全機制只在「實驗」這個脈絡下才有效。如果實際門市營運中 AI 做出了同樣的決定，那個差距很可能根本不會被任何人注意到。

📚 這不是第一次——反覆出現的模式

Andon Market 的事件在美國社會引起重視，是因為它不是例外，而是一個模式。AI 在做出勞動市場決策時，學習並放大既有偏差的案例，已經被多次報導過。

最廣為人知的案例莫過於亞馬遜。亞馬遜從 2014 年起開發了一套自動評分（1 到 5 分）的招聘 AI，但後來發現這個工具在技術崗位上偏袒男性候選人，於是廢除了該專案。AI 是用十年的履歷資料訓練的，而科技產業以男性為主，所以它自動地偏向了男性候選人。系統會對履歷中出現「women’s chess club captain」這類含有「women’s」字樣的經歷扣分，並對兩所女子大學的畢業生給出較低評價。亞馬遜嘗試將這些詞語中立化，但判斷模型仍可能以其他方式產生歧視性對齊，最終決定解散該團隊。

這裡值得注意的結論是：「即使做了中立化修正，仍可能產生其他歧視。」也就是說，偏差不是刪掉一個特定詞語就能消除的。模型跟隨的是訓練資料中的統計模式，即使移除了表面訊號，它也會透過更深層的相關性到達同樣的結果。這不是單純的 bug，而是機器學習運作原理中內建的特性。

類似的模式也出現在薪資決策中。UC Irvine 法學院的 Veena Dubal 教授在 2023 年於《哥倫比亞法律評論》發表的論文「On Algorithmic Wage Discrimination」分析了像 Uber、Lyft 這類平台從勞工身上提取的資料被輸入機器學習後，產生出不可預測、浮動且個人化的時薪這一現象。勞工們回報說，他們將這種浮動薪資結構體驗為賭博或欺騙。

Dubal 教授將此稱為演算法薪資歧視（algorithmic wage discrimination）²或監控薪資（surveillance pay），並將其歸納為即使在同一時間、同一地點、以相同技能工作，每位勞工獲得的金額卻可能截然不同的結構。核心問題在於，這些薪資決策發生在黑箱之中，無論是勞工還是監管機構，都無法直接查證其依據。

Andon Market 的案例正站在這兩條脈絡的交叉點上。AI 決定招聘這一點，延續了亞馬遜的模式；AI 為個人計算時薪這一點，則延續了 Dubal 所分析的演算法薪資歧視模式。唯一的不同在於，Andon Market 將所有這些決策整合在了一個 AI 之中。

⚖️ 偏差是資料的問題，還是授權結構的問題

這裡常見的解決方案是「用更好的資料來訓練」。乍聽之下有道理，因為訓練資料有偏差，模型自然也會有偏差。但僅靠這個解決方案是不夠的。

讓我們回到 Andon Market。再想想這家店的偏差是怎麼被發現的。不是 AI 自己報告說「我的決策中有偏差」。而是人類記者親臨門市，直接向員工詢問薪資，比較之後才發現了這個差距。也就是說，偏差只有在外部人類驗證者存在時，才會被看見。

然而，在 AI 被授權做出越來越多的決策的環境中，為每個決策都配備人類驗證者，實際上是不可能的。Luna 一天做出的決策可能有數百件。招聘、定價、庫存補貨、行銷文案、員工排班……人不可能逐一檢查其中哪些決策藏著偏差。

這裡才浮現出真正的问题：偏差由誰來量測，由誰來負責？這不是技術問題，而是授權結構的問題。

美國 NIST 在 2023 年發布了 AI 風險管理框架（AI RMF），這個框架將 AI 治理³結構化為四個功能：GOVERN（治理文化與責任結構）、MAP（情境定義）、MEASURE（量測與評估）、MANAGE（介入與控制）。其中 MEASURE 功能的第 2.11 條明確要求對公平性和偏差進行評估。也就是說，導入 AI 和負責地營運 AI 是完全不同的兩件事。後者需要量測體系、稽核程序、事後監控，以及最重要的——一個對決策負責的人。

Andon Market 缺乏這樣的治理。Luna 決定時薪的那一刻，並沒有任何程序在審查這個決定，直到決策累積之後，才被外部記者發現。與其說是 AI 的過錯，不如說是授權 AI 做出決策的人類一方的設計失誤。

🔧 那我們該做什麼

解決這個問題的線索，其實已經存在於學術界和產業界，只是尚未標準化而已。

第一，需要系統化的稽核方法論。 2018 年 MIT 媒體實驗室 Joy Buolamwini 和 Timnit Gebru 發表的 Gender Shades 研究是一個很好的範例。兩位研究者評估了 IBM、Microsoft、Face++ 的商用臉部分析系統，結果發現深膚色女性的誤判率最高達 34.7%，而淺膚色男性的誤判率僅 0.8%。這項研究之所以重要，不僅僅是因為結果，而是因為它提出了量測偏差的方法論。以菲茨派崔克膚色量表對資料進行分類，再按人口統計子群比較誤判率——這個方法後來成為 AI 偏差稽核的標準程序。

第二，需要決策日誌和事後追蹤的可能性。如果 AI 為什麼做出某個決定、對哪些輸入賦予了什麼權重，都沒有被記錄下來，事後驗證就不可能。 在 Andon Market 的案例中，Luna 回答「Felix 的經驗比較多」時，這個判斷基於哪些資料，並沒有被公開。

第三，人類的責任歸屬必須明確。當 AI 做出歧視性決策時，誰有糾正義務，必須清楚。 EU AI Act、NIST AI RMF⁴等治理框架都強調這一點，原因就在這裡。AI 無法成為責任主體。那麼，做出授權的組織以及該組織的人類負責人，就必須承擔責任。

奧茲的視角

從我處理資料的角度來看，我認為這件事的核心在於量測的缺失。

偏差是資料所具備的潛在屬性，但如果不被發現，就等於不存在。在 Andon Market 中，兩美元的時薪差距從一開始就存在於資料中，但在被量測之前，沒有人能察覺。而未被量測的偏差，會在 AI 系統中成為學習訊號，再次影響下一個決策。這就是偏差被自動放大的機制。

做過 GTM 策略的人應該知道：不被量測的指標無法被改善，量測方法設計不當就會朝錯誤的方向優化。AI 治理也是如此。量測公平性不是簡單地加一個 KPI 就夠的。 要決定以哪些人口統計群體作為比較對象、套用哪種統計定義的公平性（人口統計平等⁵？機會平等？反事實公平性？）、在什麼時間點進行量測——這些都需要設計。Gender Shades 研究之所以有影響力，正是因為它第一次系統化了這個量測設計。

Andon Market 這類實驗的價值在於，它不是在證明 AI 能不能做決策，而是在揭示授權之後的治理空白。我們真正需要回答的問題不是「AI 能不能經營門市」，而是「AI 做出的決策如何被量測、誰對結果負責」。

結語

看時事節目的時候，常常會遇到這類話題。一出現什麼不公平的判決，就會有人主張「應該用人工智慧來取代法官」。我幾年前寫的文章中也提過，如果把深度學習形式的人工智慧放在法官的位置上，我們可能會面臨一些奇怪的狀況——真正要對抗的，是過去人類累積下來的偏差。人工智慧並不是一個因為「公正且理性」就永遠能產出「理想且公平」結果的存在，而是一個基於人類累積的知識，將它們良好組合後給出最優解，或者在學習較多的部分偏向某一方答案的夥伴。

Andon Market 中 AI 給女性員工較低時薪的事件，是 AI 偏差擴展到勞動決策的一個微小樣本。
偏差既是訓練資料的問題，也是量測、稽核、責任結構缺失的問題。只修資料解決不了。
真正的問題不是「AI 能不能做決策」，而是「誰來驗證這些決策、誰來負責」。 如果你所在的組織正在進行將決策授權給 AI 的專案，在授權之前請檢視一件事：這個決策由誰、在什麼時候、以什麼標準來量測。 如果答不上來，建議先從 NIST AI RMF 的 GOVERN 章節讀起。

參考資料 & 延伸閱讀

核心來源

Knight, Heather. “AI Store Manager…”, The New York Times, 2026. Andon Market 門市採訪的原始報導。時薪差距的發現首次見於此文。
Andon Labs. “We gave an AI a 3-year retail lease in SF and asked it to make a profit.” Andon Labs Blog, 2026.：Andon Labs 創辦人親筆撰寫的文章，整理了實驗背景與倫理思考。
Dubal, Veena B. “On Algorithmic Wage Discrimination.” Columbia Law Review 123, no. 7, 2023.：最全面探討演算法薪資歧視結構與法律意涵的重要論文。建議從勞動與制度設計的角度來讀。
Buolamwini, Joy, and Timnit Gebru. “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.” Proceedings of Machine Learning Research 81, 2018, 77–91.：AI 偏差稽核方法論的起點。推薦作為理解量測設計為何重要的案例。

背景知識

Dastin, Jeffrey. “Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women.” Reuters, 2018.：亞馬遜廢除招聘 AI 事件的第一手報導。AI 偏差案例的經典。
National Institute of Standards and Technology. AI Risk Management Framework (AI RMF 1.0). NIST AI 100-1, 2023.：AI 治理的標準框架。建議從 MEASURE 章節讀起，能直接與本文內容銜接。

作者 安光涉（Oswarld） 現任世宗大學兼任教授，INLEVEL9 策略顧問。職涯經歷、研究、著作與近期活動會持續更新在作者介紹。最新動態 · 2026年7月：HEMA-2: A Consolidation-Aware Tri-Memory Architecture with Multi-Channel Scheduling for Lifelong Conversational AI。

각주

Indeed.com（Indeed）是全球第一的求職與招聘資訊搜尋引擎。提供在一個平台上搜尋大量網站、招聘看板、企業招聘頁面等所發布的求職資訊的功能，目前服務涵蓋包括韓國在內的六十餘個國家。 ↩
演算法薪資歧視（Algorithmic Wage Discrimination）：指 AI 自動為每位勞工計算不同時薪的做法。即使在同一時間做同樣的工作，薪資也可能因資料而異。此現象最早在 Uber、Lyft 等零工經濟平台中被系統性地報導。 ↩
AI 治理（AI Governance）：指組織層面管理 AI 系統開發、導入與營運的程序與責任結構。不只是「使用 AI」，而是決定「如何負責地使用 AI」。 ↩
NIST AI RMF（AI Risk Management Framework）：美國國家標準技術研究院（NIST）發布的 AI 風險管理框架。由 GOVERN、MAP、MEASURE、MANAGE 四個功能組成，目前實質上扮演 AI 治理的國際標準角色。 ↩
人口統計平等（Demographic Parity）：一種公平性定義，要求 AI 決策在性別、種族等人口群體之間以相同比例產出正面結果。是量測公平性的多種數學定義之一。 ↩