グーグル、ウェブクローリング作業の範囲を公表

　米国家安全保障局がGoogleに多くの誇れる権利を委ね、自身のコンピュータの問題について話すことができないのは残念なことだ。

　米国時間7月25日に投稿されたブログの中で、Googleは、検索結果をユーザーに提供する前に行う必要があるウェブのインデックス作成と処理という検索業務の課題について詳しく説明した。内容を短くまとめると、Googleには大きなことを考える以外に選択肢はないということだ。

　最初に行われるのはネットサーフィンだ。ソフトウェアエンジニアであるJesse Alpert氏とNissan Hajaj氏は、「まず、巧妙なリンク構成の初期ページから各リンクをたどって新しいページに移動する。次に、それらの新しいページのリンクからさらに別のページに移動していき、最終的には膨大なリンクのリストが作られる。重複するリンクを削除した後でも、一意のURLが1兆もあり、ウェブページの数は1日数十億ページ増加している」と述べている。

　次に、どのページがどのページにリンクしているかを数学的に表現する「リンクグラフ」を解析する。これがGoogleの「PageRank」アルゴリズムの基礎で、他の重要なページからリンクされるページの重要度を割り当てるのが、Googleの検索エンジンの特徴だ。

　Googleでは当初、同社が集めた、たかだが2600万ページのPageRankの計算をワークステーションを使って「2時間」で終え、結果をかなり長い間使っていた。現在では、常にネットサーフィンを行い、「1日数回」リンクグラフを再計算している。

　「1兆のURLで構成されるこのグラフは、1兆の交差点で構成される地図に似ている。そのため、1日に何度も、米国内のすべての道路のすべての交差点を十分に探索するような計算を行っている。ただし、Googleが計算している地図には、米国よりも約5万倍大きく、5万倍の数の道路、交差点が含まれている」（同エンジニア）

　Googleは、選択肢はユーザー側にあり、クリック一つで競争相手を選べる、と言いたがる。これはもっともな指摘ではある。だが、ブログ投稿は、検索市場では、新規参入する際の障壁がいかに高いかということも明確に表している。このことは、Yahooの「BOSS（Build Your Own Search Service）」プログラムが関心を集めている理由の1つになっている。BOSSでは、検索市場の新規参入企業は、広告または利益分配提携と交換で、Yahooのクローリング、インデックス作成、検索テクノロジを活用できる。