バーナーズ=リーが模範としたURLは、わずか4カ月で消え去りました
バーナーズ=リーが模範例に挙げたURLはわずか4カ月で消失しましたが、その文章自体は28年経った今も同じアドレスで読めます。リンクロットの原因とAI時代における意味を整理します。
AI・テックわずか4カ月で消えたリンク、28年生き続ける文章
1998年、ティム・バーナーズ=リーは「Cool URIs don’t change」という短い文章を書きました。日本語に訳すなら「優れたアドレスは変わらない」といったところです。ウェブの生みの親がウェブ管理者たちに宛てた小言に近い文章であり、その核心となる一文はこうでした。
「URI1は変わりません。人間がそれを変えてしまうだけです」
彼は文章の中で、優れたアドレスの具体例をいくつか挙げて紹介しました。その一つが米国の雑誌『Money』の記事のアドレスで、バーナーズ=リーはそこに「良さそうに見える」というコメントまで添えていました。ところが、そのアドレスが置かれていたサイト pathfinder.com は、1999年4月にタイム・ワーナーによって丸ごと閉鎖されてしまいました。彼が模範事例として指摘してから、わずか4カ月余りが過ぎた時点でのことでした。
読者さん、一方でバーナーズ=リー本人のその文章は、現在も1998年の公開当時と同じアドレスでそのまま閲覧できます。実に28年もの間です。
模範事例として挙げられたアドレスはわずか4カ月で消滅し、それを指摘した文章はそのまま残りました。リンクが消失する原因は技術ではなく、誰がそのアドレスを維持し続けると決めたのかにあります。そしてこの古くて新しい問題が、2026年になって突如として再び重要視されるようになりました。ウェブを読む主体が人間から機械へと移り変わるにつれて、リンクの役割が「アクセス経路」から「証拠」へと変化したからです。
ウェブは想像をはるかに超える速さで消えています
まず、どれほどの規模で失われているのかを見てみましょう。ピュー研究所が2024年に発表した調査は、この分野で最も引用に値する実測データです。コモン・クロール2のデータから年ごとに約90万ページを抽出し、2013年から2023年まで追跡した研究です。
その結果はこうでした。2013年時点で存在していたウェブページの38%が、2023年10月の時点でアクセス不能になっていました。 10年が経過すると、3ページに1ページ以上が消え去る計算になります。それどころか、2023年に作られたページでさえ8%がすでにアクセスできなくなっていました。わずか1年も経たないうちにです。
さらに目を引くのはウィキペディアです。ウィキペディアの5万本の項目を調査したところ、54%に少なくとも一つ以上のリンク切れの参考文献リンクが存在していました。私たちが何か事実を確認しようとするとき、真っ先に開くあのページの半数以上が、自らの論拠の一部をすでに失ってしまっている状態だということです。
法廷に目を向けると、状況はさらに深刻です。ハーバード・ロー・スクールのジョナサン・ジットレインとローレンス・レッシグのチームが2014年に発表した研究によれば、1996年から2011年までに米国連邦最高裁判所の判決文で引用されたURLの約50%が、本来の内容を保持していませんでした。『ハーバード・ロー・レビュー』の論文に引用されたリンクはさらに状況が悪く、元記事がそのまま残っていたのはわずか26.8%にすぎませんでした。
ここで、この研究が区別した二つの概念が重要になります。リンクロット(link rot)は、アドレスをクリックした際にエラーが表示されるケースです。リファレンスロット(reference rot)3は、アドレス自体は正常に開くものの、中身が書き換わってしまっているケースを指します。研究チームが発見したのは、後者の方がはるかに頻繁に起きているという事実でした。つまり、開かないリンクよりも、開くけれど内容が変わってしまったリンクの方がずっと多いのです。これがなぜ危険なのかについては、少し後で詳しくお話しします。
一つ注記しておくべきなのは、これらの数値がいずれも米国中心の標本である点です。韓国語ウェブの消失率を同様の手法で測定した公開データは、私自身まだ目にしたことがありません。ただ、ネイバーのブログやカフェのサービス終了、Daum Viewやme2dayのように丸ごと消失したプラットフォーム、さらには報道機関の記事データベースの刷新などを振り返ってみると、韓国側の方が優れている理由は特段見当たりません。
バーナーズ=リーの診断:これは技術ではなく組織の問題です
ここで、1998年の文章に再び立ち返ってみましょう。バーナーズ=リーの指摘で興味深いのは、彼がこの問題を技術的な欠陥とは見なさなかった点です。
彼は管理者たちが並べ立てる言い訳を一つひとつ書き留め、論破していきました。「サイトをリニューアルしました」「ファイルを移動する必要がありました」「そのファイルは今やジョンではなくジェーンが管理しています」「以前はCGIスクリプトを使っていましたが、現在はバイナリプログラムを使用しています」。そうした言い訳に対し、彼はこう問い返します。そもそもなぜ、アドレスの中にジョンの名前が入っていたのか、と。
彼の処方箋は一文に要約されます。アドレスを設計するとは、実のところ何を入れないかを決める作業なのです。
彼が削ぎ落とすべきだと挙げたリストは次のとおりです。執筆者名(人は退職します)、主題の分類(分類体系は常に変わります)、文書の状態(draft、latest、oldなど)、アクセス権限の区分(チーム専用、会員専用、一般公開)、ファイル拡張子(.htmlさえいつか変わります)、ソフトウェアの痕跡(cgi-bin、.pl)、さらにはディスク名に至るまで。残してよいのは事実上ただ一つ、公開日付だけです。日付だけは決して変わることがないからです。
このリストを改めて読み返すと、一つの共通点が浮かび上がってきます。削ぎ落とすべきとされた項目が、すべて組織内部の都合であるという点です。誰が担当なのか、どの部署に属しているのか、どの開発段階にあるのか、どのような技術スタックを使っているのか。アドレスが壊れるのはサーバーが故障するからではなく、組織が自身の内部構造を、外部に露出する名前に刻み込んでしまったからです。組織が変われば、名前もつられて崩壊してしまいます。
私はこれを、アドレスとは組織図の化石であると表現したくなります。ある企業のURL構造をざっと眺めると、その会社が何年にどのような組織改編を行ったのかがおおよそ読み取れます。/2019/newbiz/、/ai-innovation/、/dx-center/といったパスの数々です。そしてそのチームが解体された瞬間、それらのパスも一緒に消滅します。
バーナーズ=リーはこれを道徳的な義務にまで押し広げました。「2年後も、20年後も、200年後も守り続けられるアドレスを定めることこそが、ウェブマスターの義務である」と。1998年の基準で見てもやや大げさな表現に聞こえますが、今となってはむしろ控えめだったように思えてなりません。
AIがウェブを読み始めたことでリンクの役割が変わりました
過去28年間にわたり、切れたリンクは主に不便さの問題にとどまっていました。クリックして404が出れば不快になり、もう一度検索し直せば済む話だったからです。しかし現在、状況は一変しました。人間が直接検索する代わりにAIに問いかけ、AIがウェブを読み取って回答を生成し、その下に情報源を添付する構造へと変化したためです。この構造においてリンクは、「移動経路」ではなく、**「その発言が事実であるという証拠」**として機能します。
しかし、その証拠が適切に機能していません。
コロンビア大学ジャーナリズム大学院のトウ・センターが2025年3月に発表した調査があります。報道機関20社の記事から抜粋文を作成し、8種類のチャットボットに対して出典を尋ねました。合計1,600件の質問を行った結果、60%以上が誤った回答でした。 Grok 3は誤答率が94%に達し、引用として提示された200本のリンクのうち154本(77%)がエラーページにつながりました。GeminiとGrok 3では、回答の半数以上に存在しないURLや壊れたURLが含まれていました。
この調査で私が最も強い印象を受けたのは別の部分です。有料のプレミアムモデルの方が、むしろ誤答率が高かったのです。 わからないときに「わからない」と答えず、自信満々に誤った答えを出力したからです。出典リンクが添えられているために一見すると信頼できそうに思えますが、クリックしてみると存在しないページというわけです。
ここで、先ほど触れたリファレンスロットが再び姿を現します。リンクが404で完全に切れていれば、まだ私たちは異変に気づくことができます。問題は、アドレス自体は生きているのに中身がすり替わっているケースです。AIが3年前に学習した内容を現在のURLを根拠として提示した場合、人間はそのリンクをクリックして確かめない限り絶対に気づけません。そして大半の人は、わざわざ確認などしません。
そしてウェブは反対方向からも閉ざされつつあります
問題はもう一つあります。先ほどの話が「機械がウェブを誤読する」問題だとすれば、今回は「ウェブが機械に対して門戸を閉ざす」問題です。
クラウドフレアは2025年7月1日にポリシーを変更しました。新たに登録されるドメインはデフォルトでAIクローラーを遮断し、サイト所有者が明示的に許可して初めてアクセスできるようにしたのです。インフラ事業者がこの設定をデフォルトにしたのは史上初のことでした。同時に、クローリングに課金する「Pay Per Crawl」も打ち出しました。4
この決断の背景として、クラウドフレアは一つの指標を公開しています。クロール・トゥ・リファー比率5、すなわちAI企業があるサイトを何回スクレイピングすれば、そのサイトへ訪問者を1人送り返してくれるのかを示す数値です。2025年6月第4週の時点で、Anthropicは約70,900対1でした。7万回巡回して、ようやく訪問者を1人送り込む計算です。反対にMistralは0.1対1であり、巡回する回数の10倍もの訪問者をサイトに送っていました。企業によってあまりにも極端な格差があります。
ただし、この数字は慎重に読み解く必要があります。クラウドフレア自身が説明しているように、アプリ内で発生したトラフィックにはリファラーヘッダーが付与されないため、ウェブベースのツールの比率が実際よりも誇張されている可能性があります。それでも大局的な流れは明白です。この指標において大半のAI企業は、サイトをクローリングする回数に比べて、そのサイトへ送り返す訪問者の数が極めて少ないのが現実です。
その結果、何が起きるでしょうか。各サイトが扉を閉ざし始めます。robots.txt6でブロックし、有料化し、ログインの壁の向こう側へと隠します。これは合理的な選択です。しかしそうなると、事実を検証しようとする側は途方に暮れることになります。
- 人間が直接確かめようとリンクをクリックしても、そのリンクの相当数はすでに失われている
- AIに尋ねれば回答は返ってくるものの、その出典の60%以上が間違っている
- 原典を確認しようと現地を訪れても、クローラー遮断とペイウォールに阻まれる
三つの方向のすべてにおいて、検証の経路が失われつつあります。 これこそが、リンクロットが2026年の今、再び決定的に重要視されるようになった真の理由です。
Oswarldの視点
私は、この問題を単なる「アーカイブの問題」として片付ける見方には少々もどかしさを感じます。インターネット・アーカイブが熱心に保存してくれれば済む話ではないか、というような考え方です。アーカイブは、すでに消えてしまったページを後から探すための事後的な手段にすぎません。アドレス自体が破損することを防いではくれないのです。
コンサルティングを手がける中で、ウェブサイトのリニューアルプロジェクトを何度か間近で見てきましたが、URL構造の話題が俎上に載るタイミングはほぼ例外なく最後でした。ブランドを決定し、デザインを確定させ、CMSを選定し、その後にようやく開発者が「リダイレクトはどう設定しますか?」と尋ねるのです。その頃にはすでに、新しい組織図に沿って情報構造が組み直された後です。そしてリニューアル後の数カ月間、流入数が激減すると誰もがコンテンツのせいにします。実のところは、それまで何年もかけて積み上げてきた被リンクを、自らのリニューアル作業によって断ち切ってしまった結果にすぎないというのに。
GTM戦略を策定する際、私がよく口にする表現があります。「今つけているその名前の責任は、3年後のあなた自身が負わなければならない」。製品名、料金プラン名、機能名、そしてURL。すべて全く同じ原理で動いています。名前に現状の都合を詰め込めば詰め込むほど、現時点での説明は容易になりますが、将来必ず破綻します。/2024_最終_本当の最終.pptxと/cgi-bin/browse.plは、本質的に全く同じ失敗です。
しかしAI時代を迎えたことで、決定的な変化が一つ生じました。かつて安定したURLはSEO資産でした。今やそれは、AIが回答の根拠としてそのアドレスを提示できるかどうかという問題に発展しています。アドレスを長期にわたって維持し続ける組織と、改編のたびにアドレスを書き換える組織との間の格差は、今後さらに大きく開いていくはずです。リンクが維持されれば時間の経過とともに引用が蓄積され、引用が蓄積されればそのドメイン自体が確固たる根拠として扱われ始めるからです。
もちろんこれは私なりの解釈であり、これを裏付ける公開データは現時点ではまだ十分ではありません。AIの回答においてどのドメインがどれほど引用されているかを長期追跡する研究は、緒に就いたばかりです。それでも私は、この潮流に前もって備えておく価値は十分にあると考えています。リダイレクトのルールを一本維持し続けるためのコストなど、ゼロに等しいのですから。
おわりに
要点を整理すると、次のようになります。
- ウェブは急速に消え去っています。 2013年のページの38%がすでに消失し、ウィキペディアの項目の54%がリンク切れの参考文献を抱えています。
- 原因は技術ではなく組織にあります。 アドレスの中に担当者や部署、技術スタックといった内部の都合を刻み込むと、組織が変わるたびに名前も一緒に崩壊します。
- AIがウェブを読むようになったことで、切れたリンクの代償が跳ね上がりました。 リンクは今や人間が辿る移動経路であると同時に、AIの回答が提示する根拠でもあります。しかしトウ・センターの調査ではチャットボットが示す出典の60%以上が誤っており、同時にウェブはクローラーのアクセスを拒絶する方向へと向かっています。
今すぐ実践できる対策は、意外なほど小さなことです。次にサイトやドキュメント体系をリニューアルする機会があれば、新しいアドレスを決める前に、現在のアドレスから削ぎ落とせる要素からまずリストアップしてみてください。部署名、担当者名、ステータス、拡張子。それらを取り除くだけでも、次の組織変更を生き延びられる確率は劇的に跳ね上がります。バーナーズ=リーの原文は今なお同じ場所で公開されていますので(下記の参考資料を参照)、30分もあれば全文を読み通すことができます。
💬 サイトのリニューアルやデータ移行によって、過去のリンクを丸ごと吹き飛ばしてしまった経験はありませんか? そのとき何が一番悔やまれたか、ぜひコメントでお聞かせください。リンク維持のためのチェックリストを作成し、次号に反映させてみたいと思います。
📨 身近にサイトリニューアルを控えている方がいらっしゃいましたら、ぜひこの記事をシェアしてください。
参考資料と関連リンク
主要出典
- Tim Berners-Lee, “Cool URIs don’t change”, W3C Style Guide, 1998. 原文を見る ··· 今日のニュースレターの出発点です。28年間同じアドレスで生き続けている事実そのものが、この文章の強力な論証となっています。
- Athena Chapekis, Samuel Bestvater, Emma Remy, Gonzalo Rivero, “When Online Content Disappears”, Pew Research Center, 2024年5月17日. レポートを見る ··· リンクロットを語る上で最も堅牢かつ引用に値する実測調査です。方法論のセクションまで目を通されることをお勧めします。
- Jonathan Zittrain, Kendra Albert, Lawrence Lessig, “Perma: Scoping and Addressing the Problem of Link and Reference Rot in Legal Citations”, Harvard Law Review Forum, Vol. 127, 2014. 論文を見る ··· 「リンクロット」と「リファレンスロット」を明確に区別した研究です。本日の記事における最重要概念はここから出発しています。
- Klaudia Jaźwińska, Aisvarya Chandrasekar, “AI Search Has a Citation Problem”, Columbia Journalism Review / Tow Center, 2025年3月6日. 調査を見る ··· チャットボット8種を対象に計1,600件の検証を行った調査です。ツール別の誤答率をまとめた一覧表は必見です。
- Cloudflare, “The crawl before the fall… of referrals”, Cloudflare Blog, 2025年7月1日. 分析を見る ··· クロール・トゥ・リファー比率の概念と企業別の数値が整理されています。測定の限界についても本文で率直に言及されています。
背景知識
- Cloudflare, “Cloudflare Just Changed How AI Crawlers Scrape the Internet-at-Large”, 2025年7月1日. プレスリリースを見る ··· AIクローラーのデフォルト遮断への方針転換を告げる原文です。ウェブへのアクセスルールが根本から変わった分岐点として記録されるべき文書と言えます。
- “Pathfinder (website)”, Wikipedia. 記事を見る ··· バーナーズ=リーが模範例として挙げたあのサイトの顛末です。1999年4月にその幕を閉じました。
- Perma.cc, ハーバード・ロー・スクール図書館革新研究所. サービスを見る ··· 上記の論文で提案された解決策が実際のインフラサービスとして具現化した好例です。問題提起が基盤構築へと結実した稀有な事例として一見の価値があります。
📝 用語解説
각주
-
URI(Uniform Resource Identifier):ウェブ上のリソースを一意に識別するためのアドレス体系です。一般的に使われるURLはURIの一種にあたります。バーナーズ=リーは、「どこにあるか」よりも「何を指しているか」が重要であるという意味を込めてURIという表現を用いました。 ↩
-
コモン・クロール(Common Crawl):ウェブ全体を定期的にクロールして収集し、無償で一般公開している非営利のアーカイブプロジェクトです。大規模言語モデル(LLM)の学習用データの出発点としても広く活用されています。 ↩
-
リファレンスロット(reference rot):リンク自体は正常に機能してページは開くものの、その掲載内容が引用当時とは異なって書き換わってしまっている状態を指します。エラーが表示されないため異変に気づきにくく、通常のリンクロットよりも厄介な問題です。 ↩
-
Pay Per Crawl:AIクローラーによるサイトへのアクセスに対し、サイト所有者が料金を設定して課金できるようにしたクラウドフレアの機能です。クロールを全面的に遮断するか許可するかという二者択一ではなく、価格を設定して取引する仕組みを提供します。 ↩
-
クロール・トゥ・リファー比率(crawl-to-refer ratio):AIサービスがあるサイトを何回クロールした際に、そのサイトへ訪問者を1人送り返してくれるかを示した比率です。数値が大きいほど、「多くを吸い上げ、わずかしか還元していない」ことを意味します。 ↩
-
robots.txt:ウェブサイトの最上位ディレクトリに配置されるテキストファイルで、どの検索クローラーに対してどのディレクトリへのアクセスを許可・拒否するかを記述する慣例的なプロトコルです。法的な強制力はなく、クローラー側の自主的な遵守に委ねられた紳士協定に近い仕組みです。 ↩
