7月の画像フィルタリング拡大、コストと効果を検証すべき理由

コミュニティに投稿する画像も不法撮影物と照合する

7月1日から、一部のオンラインサービスで写真を投稿する際、不法撮影物かどうかを自動で照合する手続きが追加されます。韓国の放送メディア通信委員会が6月4日に発表した内容です。既存の動画フィルタリングを静止画像にまで拡大することで、コミュニティ運営者の間ではサーバーコストと制度の効果をめぐる論争が起きています。放送メディア通信委員会の案内

不法撮影物が一度アップロードされた後、繰り返し拡散すると、被害者は削除を要請しても同じ被害を受け続けます。すでに確認された不法物を投稿前に遮断しようという趣旨はここにあります。ただし、その目的を達成するには、どれだけうまく遮断できるか、正常な写真を誤って遮断しないか、運用コストは負担できるのかを併せて検証する必要があります。

海外では、Appleの写真検査計画とEUの児童性的搾取物対策法案が比較対象として取り上げられています。ですが、この三つの事例は検査対象と検査が行われる場所が異なります。韓国の公開投稿物フィルタリングを、個人端末や私的な通信の検査と同じ制度として説明してしまうと、本来批判すべき論点までぼやけてしまいます。

7月1日、韓国のインターネットで何が起きるのか

法的根拠は、電気通信事業法第22条の5および施行令第30条の6です。不法撮影物などの流通を防ぐための既存の義務に基づき、技術的措置の適用範囲を画像にまで広げるものです。

対象は、当該事業者が一般に公開して流通させる情報です。個人の携帯電話の写真アルバムや私的な一対一の会話をすべて検査するという意味ではありません。 どこに投稿するどの写真を照合するのかを、まず区別する必要があります。電気通信事業法第22条の5

政府が案内した事前措置義務事業者は約80社です。Google・Meta・Xなどの海外企業と、Naver・Kakaoなどの国内企業がともに含まれます。一般付加通信事業者は、施行令が定めるサービスの種類に該当し、かつ前年度の当該サービスの売上高10億ウォン以上、または前年度末3か月間の1日平均利用者数10万人以上などの基準を満たす必要があります。ウェブハードのような特殊類型事業者には別途の基準が適用されます。すべてのインターネット事業者が一律に対象となるわけではありません。施行令第30条の6

フィルタリングは、審議機関がすでに不法撮影物などと判断した資料の特徴情報と、アップロードされた画像を比較する方式です。ファイルが完全に一致するかどうかだけを確認する単純な照合とは区別されますが、AIが初めて見るすべての写真の違法性を独自に判定する制度でもありません。事業者のサーバーで比較手続きを行うという事実だけをもって、すべての元画像が政府に送信されると見なすこともできません。

事業者にとっては処理容量が問題になります。画像のアップロード速度を維持しながら追加の演算を行うには、サーバーの増設やソフトウェアの連携が必要になる場合があります。投稿数が多いサービスほど、処理量、遅延時間、障害対応人員を併せて計算する必要があります。写真を照合する技術の精度と、それをサービスに組み込むコストは、別に確認すべき項目です。

政府は、提供する技術の設置方法と性能評価手続きを案内し、技術支援を行うと発表しました。とはいえ、事業者が機器や運用人員にかけるコストがなくなるわけではありません。どのような機器がどれだけ必要か、導入費と維持費がいくらになるかは、サービスの実際の処理量を基準に計算する必要があります。

すでに動画フィルタリングを運用していた事業者であっても、画像が追加されれば処理すべきファイル数は変わります。既存の機器で対応できるのか、新たな機器が必要なのかは、サービスごとに確認する必要があります。ソフトウェアの提供を受けたという理由だけで、運用負担が解決されたと見なすのは難しいでしょう。

運営者たちが提起するもう一つの問題は公平性です。国内コミュニティには機器の設置や履行状況を確認しやすい一方、海外事業者から同水準の協力を確保するのはより難しい可能性があります。ただし、海外事業者も法的対象に含まれます。国内での事業者登録がないという事実だけで、あらゆる執行手段がないと断定することはできません。実際の履行率と是正措置の結果を比較すべき問題です。

プラットフォームが不法撮影物の流通防止に責任を負うべきだという主張にも一理あります。投稿後、通報を待つ間に被害が拡大する可能性があるからです。ただし、国内コミュニティがすべて安全装置なしに運営されてきた、あるいは海外プラットフォームはすべて十分な保護措置を備えているとひとくくりにすることはできません。既存の措置の水準と新たな義務の効果は、サービスごとに見る必要があります。

事業者に責任を求めるのであれば、その責任を履行できる具体的な方法も併せて示される必要があります。

私は、フィルタリングの必要性を主張する際にも、コストと効果を公開すべきだと考えます。追加コストによって再拡散をどれだけ減らせるのか、正常な投稿が誤って遮断された場合に誰がどれだけ早く復旧するのかを説明してこそ、事業者と利用者が制度を評価できます。