ハクスリーのインタビューを見て、レコメンドアルゴリズムの目標を考え直しました

オルダス・ハクスリーがジョン・モーガンと対話する1961年のBBCインタビュー映像を見ました。技術が進歩する方向と人が望む生活がずれることもあるという話が、長く心に残りました。データを扱う仕事をしている私にとっては、効率が上がったという理由だけである技術を良いと評価してよいのか、振り返らせる対話でした。

私が映像を見ながら思い浮かべたのは、レコメンドアルゴリズムでした。次に見る映像や読む記事を選ぶのに助けてもらいますが、時には最初に探していたものとは違うコンテンツを見続けることにもなります。サービスが良い成果として数える行動が、ユーザーにとっても良い経験なのかは、別に考えてみるべき問題です。

ハクスリーの警告を今日の技術と結びつけて読む

BBCの編成記録によると、このインタビューは1961年7月30日に放送されました。ハクスリーは当時、社会と技術、ユートピアについての考えを語っています。

ハクスリーが懸念したのは、技術を作った目的と、その技術が社会の中で拡張していく方向が、必ずしも一致しないという点です。便利だという理由で受け入れた方式が、後には人が生活を合わせなければならない条件になり得るということです。私は今日、サービスが選択肢を配列し、次の行動を勧める方式を、この観点から見るようになりました。

ジャック・エリュールの『技術社会』も併せて考えてみる価値があります。エリュールは、効率を高める技術と組織のあり方が社会のさまざまな領域に広がりながら、他の価値を押しのけうると分析しました。ここでいう技術は、機械一台だけを指す言葉よりも広い意味で使われています。

こうした議論をレコメンドシステムに結びつけるのは、今日の読者である私の解釈です。ハクスリーが強化学習やソーシャルメディアの具体的な設計をあらかじめ説明していたわけではありませんから。彼の懸念が今も考える材料を与えてくれるという点と、今日の技術が実際にどう作動しているのかは、分けて見るようにしています。

レコメンドシステムは何を良い結果と判断するのか

レコメンドシステムは、利用履歴のような情報をもとに、関心を持ちそうなコンテンツの順序を決めます。このとき、何を予測し評価するかはサービスが決めます。

例えばYouTubeは2021年の公式説明で、クリックと視聴時間だけでなく、満足度アンケート、共有、高評価と低評価などをレコメンドに活用していると明らかにしました。視聴時間が長いという理由だけでは、その時間がユーザーにとって価値があったとは言えないため、アンケートも使うという説明です。ニュースや情報分野では、コンテンツの品質と信頼性も考慮すると述べていました。

したがって、すべてのレコメンドアルゴリズムが、ひたすら滞在時間だけを伸ばすように設計されていると言ってしまうと、実際の構造を過度に単純化することになります。とはいえ、何を良い結果として測定するかという問題は依然として残ります。クリック、長時間視聴、高い満足度は、それぞれ利用体験の一部を示すだけですから。

ここで私が重要だと考えるのは、サービスの目標とユーザーの目的を併せて確認することです。必要な講義を見つけて長時間視聴した場合と、止めたかったのに次の映像が気になって見続けた場合とでは、利用時間が同じでも評価が異なるはずです。こうした違いを十分に区別できなければ、指標は良くなっても、ユーザーが望んだ結果からは遠ざかりかねません。