ヤフー、全社共通のHadoop基盤を構築--ノードは数千以上、国内最大級

NO BUDGET 2014年04月04日 13時42分

  • このエントリーをはてなブックマークに追加

 ヤフーは、全社で共通に使える、分散並列処理プログラミングフレームワーク「Apache Hadoop」基盤を新たに構築、その基盤ネットワークとしてイーサネットファブリック型のネットワークアーキテクチャを採用した。ブロケード コミュニケーションズ システムズが4月3日に発表した。

 ヤフーは運営する「Yahoo! JAPAN」を通じて得られる情報をサービス品質の向上や新サービス創出のためにHadoop基盤で分析している。早い時期からHadoop基盤を活用してきたが、近年では近年レコメンデーション機能やターゲット広告などの多くのサービスでデータ分析に対する社内ニーズが急速に高まってきたため、より大規模で全社で共用可能なHadoop基盤を新たに構築することとなった。

 新たなHadoop環境は複数のクラスタから構成され、その規模はサービス開始直後の時点で国内最大級とみられる数千ノード以上に及ぶ。Hadoop環境では、ノード間の高速通信を支える広帯域のネットワークに加え、ノードの増設に対して柔軟に拡張できるスケーラビリティが求められるが、従来の技術に基づくアーキテクチャでは柔軟に拡張するのが難しく、性能や運用の複雑さの点でも課題があった。

 今回の構築では、ネットワークアーキテクチャを見直し、高性能を実現しながら、同時にシンプルで柔軟なスケールアウト型のネットワークを実現できるというイーサネットファブリック型のネットワークアーキテクチャを採用することを決定した。厳しい条件で検証し、イーサネットファブリックをサポートする「Brocade VCS」ファブリックテクノロジとスイッチ「Brocade VDX」の採用を決定したという。

 新Hadoop基盤では、ラック群を集約するアグリゲーションスイッチにシャーシ型スイッチの「Brocade VDX 8770」を採用、スイッチ間でファブリックを構成している。上位ネットワークでも、コアスイッチとして導入実績があるというコアルータ「Brocade MLXe」とVDXスイッチ間は広帯域の“Multi-chassis Trunking(MCT)”で接続されている。

 MCTは、複数のスイッチを1台の論理スイッチとして見なして標準のリンクアグリゲーショングループ(LAG)を使用する別のスイッチに接続できる技術。標準のLAGトランクを使用するサーバやスイッチをMCTに対応する2台のスイッチに接続でき、トラフィックを動的に負荷分散できるという。

 STP(Spanning Tree Protocol)ベースで構築されていた従来のスタック型ネットワークでは数百ノードから千数百ノードまでしか対応できなかったが、イーサネットファブリック技術のVCSでは数千ノードレベルまで対応可能。スイッチを追加するごとに低下していた性能と安定性の課題も解決されたという。

 制限となっていたHadoop基盤のノード間を広帯域のイーサネットファブリックで接続することで、システム全体の処理能力を最大限に引き出せるという。柔軟なスケーラビリティでシンプルさを維持しながらノード間を接続できるネットワークの拡張性を確保できたとしている。

 ヤフーでは、今回のネットワーク構築で設計や運用の工数を従来の2分の1以下に削減できたと説明している。

ネットワーク構成図イメージ
ネットワーク構成図イメージ(ブロケード提供)

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

  • このエントリーをはてなブックマークに追加

この記事を読んだ方に

関連ホワイトペーパー

連載

CIO
シェアリングエコノミーの衝撃
デジタル“失敗学”
コンサルティング現場のカラクリ
Rethink Internet:インターネット再考
インシデントをもたらすヒューマンエラー
トランザクションの今昔物語
エリック松永のデジタルIQ道場
研究現場から見たAI
Fintechの正体
米ZDNet編集長Larryの独り言
大木豊成「仕事で使うアップルのトリセツ」
山本雅史「ハードから読み解くITトレンド放談」
田中克己「2020年のIT企業」
松岡功「一言もの申す」
松岡功「今週の明言」
内山悟志「IT部門はどこに向かうのか」
林 雅之「デジタル未来からの手紙」
谷川耕一「エンプラITならこれは知っとけ」
大河原克行「エンプラ徒然」
内製化とユーザー体験の関係
「プロジェクトマネジメント」の解き方
ITは「ひみつ道具」の夢を見る
セキュリティ
エンドポイントセキュリティの4つの「基礎」
企業セキュリティの歩き方
サイバーセキュリティ未来考
ネットワークセキュリティの要諦
セキュリティの論点
スペシャル
エンタープライズAIの隆盛
インシュアテックで変わる保険業界
顧客は勝手に育たない--MAツール導入の心得
「ひとり情シス」の本当のところ
ざっくり解決!SNS担当者お悩み相談室
生産性向上に効くビジネスITツール最前線
ざっくりわかるSNSマーケティング入門
課題解決のためのUI/UX
誰もが開発者になる時代 ~業務システム開発の現場を行く~
「Windows 10」法人導入の手引き
ソフトウェア開発パラダイムの進化
エンタープライズトレンド
10の事情
座談会@ZDNet
Dr.津田のクラウドトップガン対談
Gartner Symposium
IBM World of Watson
de:code
Sapphire Now
VMworld
Microsoft WPC
Microsoft Connect()
HPE Discover
Oracle OpenWorld
Dell Technologies World
AWS re:Invent
AWS Summit
PTC LiveWorx
吉田行男「より賢く活用するためのOSS最新動向」
古賀政純「Dockerがもたらすビジネス変革」
中国ビジネス四方山話
ベトナムでビジネス
日本株展望
企業決算
このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]