グーグル、ウェブクローリング作業の範囲を公表

文:Stephen Shankland(CNET News.com)
翻訳校正:ラテックス・インターナショナル 2008年07月29日 13時26分

  • このエントリーをはてなブックマークに追加

 米国家安全保障局がGoogleに多くの誇れる権利を委ね、自身のコンピュータの問題について話すことができないのは残念なことだ。

 米国時間7月25日に投稿されたブログの中で、Googleは、検索結果をユーザーに提供する前に行う必要があるウェブのインデックス作成と処理という検索業務の課題について詳しく説明した。内容を短くまとめると、Googleには大きなことを考える以外に選択肢はないということだ。

 最初に行われるのはネットサーフィンだ。ソフトウェアエンジニアであるJesse Alpert氏とNissan Hajaj氏は、「まず、巧妙なリンク構成の初期ページから各リンクをたどって新しいページに移動する。次に、それらの新しいページのリンクからさらに別のページに移動していき、最終的には膨大なリンクのリストが作られる。重複するリンクを削除した後でも、一意のURLが1兆もあり、ウェブページの数は1日数十億ページ増加している」と述べている。

 次に、どのページがどのページにリンクしているかを数学的に表現する「リンクグラフ」を解析する。これがGoogleの「PageRank」アルゴリズムの基礎で、他の重要なページからリンクされるページの重要度を割り当てるのが、Googleの検索エンジンの特徴だ。

 Googleでは当初、同社が集めた、たかだが2600万ページのPageRankの計算をワークステーションを使って「2時間」で終え、結果をかなり長い間使っていた。現在では、常にネットサーフィンを行い、「1日数回」リンクグラフを再計算している。

 「1兆のURLで構成されるこのグラフは、1兆の交差点で構成される地図に似ている。そのため、1日に何度も、米国内のすべての道路のすべての交差点を十分に探索するような計算を行っている。ただし、Googleが計算している地図には、米国よりも約5万倍大きく、5万倍の数の道路、交差点が含まれている」(同エンジニア)

 Googleは、選択肢はユーザー側にあり、クリック一つで競争相手を選べる、と言いたがる。これはもっともな指摘ではある。だが、ブログ投稿は、検索市場では、新規参入する際の障壁がいかに高いかということも明確に表している。このことは、Yahooの「BOSS(Build Your Own Search Service)」プログラムが関心を集めている理由の1つになっている。BOSSでは、検索市場の新規参入企業は、広告または利益分配提携と交換で、Yahooのクローリング、インデックス作成、検索テクノロジを活用できる。

この記事は海外CNET Networks発のニュースをシーネットネットワークスジャパン編集部が日本向けに編集したものです。海外CNET Networksの記事へ

  • このエントリーをはてなブックマークに追加
関連キーワード
クラウドコンピューティング

関連ホワイトペーパー

SpecialPR

連載

CIO
ハードから読み解くITトレンド放談
大木豊成「仕事で使うアップルのトリセツ」
研究現場から見たAI
ITは「ひみつ道具」の夢を見る
内製化とユーザー体験の関係
米ZDNet編集長Larryの独り言
今週の明言
「プロジェクトマネジメント」の解き方
田中克己「2020年のIT企業」
松岡功「一言もの申す」
林 雅之「デジタル未来からの手紙」
谷川耕一「エンプラITならこれは知っとけ」
Fintechの正体
内山悟志「IT部門はどこに向かうのか」
情報通信技術の新しい使い方
三国大洋のスクラップブック
大河原克行のエンプラ徒然
コミュニケーション
情報系システム最適化
モバイル
通信のゆくえを追う
セキュリティ
企業セキュリティの歩き方
サイバーセキュリティ未来考
セキュリティの論点
ネットワークセキュリティ
スペシャル
Gartner Symposium
企業決算
ソフトウェア開発パラダイムの進化
座談会@ZDNet
Dr.津田のクラウドトップガン対談
CSIRT座談会--バンダイナムコや大成建設、DeNAに聞く
創造的破壊を--次世代SIer座談会
「SD-WAN」の現在
展望2017
IBM World of Watson
de:code
Sapphire Now
VMworld
Microsoft WPC
HPE Discover
Oracle OpenWorld
Dell EMC World
AWS re:Invent
AWS Summit
PTC LiveWorx
古賀政純「Dockerがもたらすビジネス変革」
さとうなおきの「週刊Azureなう」
誰もが開発者になる時代 ~業務システム開発の現場を行く~
中国ビジネス四方山話
より賢く活用するためのOSS最新動向
「Windows 10」法人導入の手引き
Windows Server 2003サポート終了へ秒読み
米株式動向
実践ビッグデータ
日本株展望
ベトナムでビジネス
アジアのIT
10の事情
エンタープライズトレンド
クラウドと仮想化