Apple 和 EU 都停下的路，只有韓國還在走
7月起社群圖片全面掃描，費用全由業者負擔
這篇文章原本是有費訂閱者專屬內容，因訂閱者建議希望讓更多人看到，故轉為全面公開。敬請多多分享與訂閱。感謝提出分享建議的 James 先生。
前言
去年 4 月 30 日，Ruliweb 營運者鎮仁煥先生發布了一則公告：「7 月 1 日起，所有圖片都必須經過 AI 過濾。」在遊戲社群上傳一張照片，按下上傳按鈕後，AI 會先「看」一遍。
理由是防止非法偷拍物流通。對這個宗旨本身持否定態度的人並不多。然而這則措施一曝光，FM Korea、DC Inside、Cliegang 等主要社群便齊聲反彈。與此同時，海外 Hacker News 和 Privacy Guides 上開始流傳「韓國正以 AI 審查所有圖片」的討論。
先說結論。這不只是單純的國內監管議題。Apple 和 EU 都曾審視過同樣的技術，最終都選擇了停步。只有韓國還在走這條路。這條路究竟通往何方，今天我們一起來釐清。
7 月 1 日，韓國網際網路將發生什麼事
2026 年 4 月 28 日，《電氣通信事業法》施行令完成修訂。核心只有一句話：為防止非法偷拍物流通而設的事前阻擋對象，從影片擴大到了圖片。
7 月 1 日施行，並附有半年（至年底）的輔導期。廣播媒體通信委員會在去年 12 月的說明會上已告知施行日程，此後也多次發送公函，但現場仍不斷傳出「設備採購在現實上非常困難」的呼聲。
適用對象是年營業額 10 億韓元以上或日均使用者 10 萬人以上的約 80 家增值通信業者。 Google、Meta、X 等海外業者，只要國內使用者達 10 萬人即納入範圍。Ruliweb、FM Korea、DC Inside 等國內社群當然也在其列。運作方式如下：廣播媒體通信審議委員會將已審議・決議的非法偷拍物數位識別資訊（雜湊值）提供給業者，業者在使用者上傳圖片時，將該識別資訊進行比對。若吻合，則發布即被阻擋。並非 AI 判讀所有圖片的內容，而是與已確認的非法內容數位指紋進行比對的方式。不過，無論是比對還是判讀，所有上傳的檔案都必須在伺服器端進行比對，基礎設施的負擔並未減少。
問題在於執行此事所需的基礎設施。查看政府 2021 年公開的建議伺服器規格文件，相當令人吃驚：至少需要 1 顆 3.7GHz 16 核心 CPU、128GB RAM、48GB 以上 VRAM 的資料中心級 GPU。僅 GPU 功耗就達 250～300W，整台伺服器功耗超過 2,000W。此外還有一個重要條件：依據 NVIDIA 授權政策，一般消費者用 GPU——也就是 RTX 2060 或 RTX 3060 等 GeForce 系列——在資料中心的使用受到限制。政府文件也建議使用 Quadro 系列工作站產品。NVIDIA A6000 等型號即屬此類，在 2026 年半導體價格飆漲的情況下，單張 GPU 就要數百萬韓元，搭建一台伺服器的成本從數千萬到上億韓元不等。
而且這些費用全由業者自行負擔。政府不提供任何補助。伺服器運行的電費與維護費用也完全由業者承擔。
其實這個負擔並非一日之寒。針對影片的 AI 過濾率先實施時，2022 年 FM Korea 營運者就曾公開呼籲資源負擔相當沉重。如今擴大到圖片，成本又要再漲一輪。
Ruliweb 營運者指出：「能觸及非法偷拍物層級的圖片或影片，在義務對象網站上幾乎不會出現。」一針見血。FM Korea 營運者也在 5 月 28 日發表官方立場，正面提出了公平性問題。實際上，非法偷拍物流通的 Telegram 或 X（原 Twitter）同樣是監管對象。廣播媒體通信委員會也表示「已對 10 餘家海外業者下達改正命令」。但對於像 Telegram 這樣根本未在國內進行業者登記的平台，缺乏強制執行的現實手段。非法偷拍物的實際流通路徑集中於這些灰色地帶，這正是營運者們的核心反彈所在。
當然也有另一種觀點：「這些中大型社群長期以來完全沒有承擔任何責任。」海外主要平台至少自行運作著年齡驗證（age verification）或內容審核系統，而韓國社群卻是在缺乏這些安全機制的狀態下成長的。 長期對非法偷拍物放任不管才是更大的問題，現在至少應該承擔起這個層級的義務。這種觀點並非毫無道理。
但「應該負責」與「以什麼方式讓其負責」是兩回事。
整理起來就是這個格局：遵守規則營運的國內社群被課以數億韓元的基礎設施義務，而問題的源頭——海外平台——卻在法網之外。同樣的 GPU 本可用於本地 AI 服務開發或圖像生成模型運算，如今卻實質上被綁定在審查基礎設施上。
Apple 和 EU 在同樣的技術面前選擇了停步
自動掃描圖片以偵測非法內容的構想，並非韓國獨有。
2021 年 8 月，Apple 率先行動。發表了一項技術：在 iPhone 儲存的相片上傳至 iCloud 之前，先在裝置端與兒童性剝削物（CSAM）1 資料庫進行比對。這被稱為「端側掃描」（client-side scanning）。目的很明確——保護兒童。
發表後情況急轉直下。從密碼學家 Matthew Green 開始，安全研究者、EFF2、隱私團體齊聲發表反對聲明。核心關切只有一個：「一旦建立了掃描基礎設施，搜尋對象隨時可以被擴展。」今天是以兒童保護為名，明天就可能被用來搜尋政治異見或合法內容。
Apple 暫停了該計畫，此後也未曾正式恢復。
EU 也走了類似的路。2022 年，歐盟委員會提出了一項法案，強制要求自動掃描訊息與圖片，被稱為「Chat Control」。德國數位公民團體與歐洲數位權利機構 EDRi 組織性地反對，稱其「開啟了大規模監控的大門」。該法案漂流了超過 3 年，直到 2025 年底，以「風險緩解措施」這一迂迴表述取代強制掃描，實質上後退了。 強制掃描命令被移除，但平台自發監控內容的壓力空間仍被保留。表面上退了一步，但並未完全廢除。
Apple 和 EU 共同撞上的牆，是安全專家所稱的「任務蠕變」（mission creep）現象。最初以兒童保護這一狹窄目的而建立的工具，隨著時間推移，搜尋對象逐漸擴大。 從兒童性剝削物到恐怖內容，從恐怖內容到版權侵權物，再到政治表達。一旦掃描基礎設施建成，只需更換「搜尋什麼」的清單，就能變成完全不同的工具。
為這一趨勢提供學術依據的，是 2021 年 14 位國際安全研究者發表的論文「Bugs in our Pockets」。結論令人印象深刻：即便 Apple 投入了最高水準的安全與密碼學專家，仍未能達到安全、可靠且有效的系統設計。這證明了技術上「可行」與安全地「可運作」是完全不同層次的問題。
同樣的技術，不同的選擇……分歧在哪裡
Apple、EU、韓國。三方都擁有「阻擋非法內容」這一相同目的。欲使用的技術原理也幾乎一致：自動掃描上傳內容，與資料庫比對以判定是否違法。
結果卻截然不同。
在 Apple 和 EU，公民社會與技術社群的組織性反彈發揮了作用。安全研究者以論文發表技術風險，公民團體發起運動，媒體集中報導。「即使技術上可行，社會上也不可接受」的共識由此形成。
韓國則運作了不同的脈絡。2020 年 Telegram N 號房事件給社會留下了深重創傷，形成了對數位性犯罪強力對付的社會共識。 電氣通信事業法修正案（即「N 號房防止法」）於 2020 年 6 月經朝野合議公布，2021 年起施行影片過濾。而本次施行令修訂則進一步擴大到圖片。公民團體 OpenNet 提起憲法訴訟，但憲法法院於 2025 年 10 日以「不構成事前審查」為由駁回。
值得注意的是速度。圖片擴大的施行令於 4 月 28 日修訂，僅 2 週後的 5 月 14 日，相關追加法案便通過了國會全院會。出席 272 人中贊成 252 人、反對 12 人。壓倒性的多數。這意味著朝野雙方都認同這個方向，也意味著在這個議題上提出反對聲音本身在政治上就極為困難。
有趣的是圍繞此事的國內輿論溫度。僅在 GeekNews、Cliegang 等少數 IT 社群有討論熱度，主流媒體與一般輿論則安靜得令人驚訝。 反而是海外更沸騰。Hacker News 首頁出現了相關討論，Privacy Guides 上也在進行辯論。 國內反彈之所以安靜，原因很簡單：N號房事件後形成的共識太強了，「反對這項監管」的發言本身就可能被聽成「對數位性犯罪袖手旁觀」。這已成為一個政治上無法反對的議題。
社會共識越強，反對論據的生存空間就越窄。這是自然現象。問題在於，共識的強度並不能保證監管的有效性。
諷諷的是，從實際非法偷拍物的流通路徑來看，Telegram 或海外伺服器平台佔壓倒性多數。法律條文上海外業者也在對象之列，政府也有下達改正命令的案例。但對於根本未在國內進行業者登記的平台，實質上缺乏強制執行的工具。網撒得很密，但魚群最密集的海洋裡，網卻不生效。監管的實際重量，集中落在已經遵守規則的國內業者身上。
更令人擔憂的是，一旦這個結構固化，會發生什麼。國內社群營運成本上升，使用者便會流向無管制的海外平台。海外平台使用者增加，非法內容可流通的接觸點反而增多。監管正在削弱監管自身的目的，形成悖論。
Oz 的視角
老實說，看到這件事時，我從長期制定技術策略的經驗中，想起了一個反覆出現的失敗模式。
「把資源投入能控制的管道，而非客戶所在的管道。」
企業進入市場時最常犯的錯誤就是這個。真正的客戶聚集的管道難以觸及，於是把資源集中在自己能掌控的管道上。在可控的地方投資，報告寫起來很漂亮，但實際成效卻出不來。
本次監管也是同樣的結構。國內社群是政府能控制的領域，Telegram 則是控制不了的領域。在可控的地方課予義務，就能製造出「已採取行動」的行政績效。但問題實際發生的地方，依然觸及不到。
還有一點我想特別指出。國際社會的目光。您知道現在 Hacker News 上如何描繪韓國嗎？「民主國家中唯一實施全面圖片 AI 掃描的國家。」AI 產業是需要吸引全球人才與投資的領域，一旦「以 AI 監控公民的國家」這種印象在技術社群中蔓延，那是很難抹去的。
數位性犯罪必須根除。對監管的目的沒有異議。但如果效果未經驗證、成本卻全部轉嫁給民間、核心流通路徑卻觸及不到，那這就是以正當目的為名的錯誤設計。
結語
整理如下。Apple 和 EU 因隱私顧慮而停步的圖片自動掃描，韓國選擇了執行。但監管對象（國內社群）與問題所在（海外平台）錯位，國際社會正以「監控基礎設施先例」的眼光注視著韓國。
目的的正當性不能豁免設計的缺陷。想深入這個主題的讀者，推薦閱讀下方「Bugs in our Pockets」論文第 2 章起。
各位讀者對本次措施有何看法？在根除非法偷拍物的目的與全面監控的手段之間，界線應該畫在哪裡？歡迎在留言區分享您的想法。
參考資料 & 延伸閱讀
核心來源
- Hal Abelson et al., “Bugs in our Pockets: The Risks of Client-Side Scanning”, Journal of Cybersecurity, Oxford Academic, 2024. ：14 位國際安全研究者分析端側掃描技術風險的核心論文。第 2 章特別值得一讀。
- 電氣通信事業法施行令第 30 條之 6，[施行 2026.4.28]，大統領令第 36281 號。 ：本次爭議的法律依據原文。
- Privacy Guides Community, “South Korean Online Communities Will Need to Scan Every Images with AI Censorship Tools”, 2026. ：可了解海外隱私社群如何看待此事。
- 京鄉新聞，「非法偷拍照片阻擋擴大引『審查國家』反彈……政府：『僅針對已確認的非法物』」，金南熙 記者，2026.06.05. ：京鄉新聞對廣播媒體通信委員會業者說明會的採訪報導。
背景知識
- Tuta Blog, “EU Commission is planning what Apple stopped: Automatic CSAM scanning”, 2022. ：整理 Apple CSAM 掃描撤回與 EU Chat Control 脈絡的文章。
- Chambers & Partners, “Data Protection & Privacy 2026 — South Korea”, 2026. ：從全球視角整理 AI 基本法與韓國數據保護法制的報告。
