ビッグデータはストレージの重要性を高める--ビッグデータを支える技術(1)

栗原潔 (テックバイザージェイピー) 2011年09月05日 13時57分

  • このエントリーをはてなブックマークに追加

 本特集「ビッグデータとは何か」では、今回と次回で大量かつ非定型(かつ、場合によってはリアルタイム)という特性を有する「ビッグデータ」を適切に処理するためのテクノロジの動向について見ていこう。

「ビッグデータ」テクノロジの大原則

 まず、「ビッグデータ」を扱う際に用いられるテクノロジの一般的原則を見ていこう。

 最も重要な原則は分散処理だ。データを多数の機器(サーバやストレージ)に(重複を許しながら)配置し、処理することで、高いスケーラビリティと耐障害性を実現するという考え方だ。データ量が増えた場合には、機器のアップグレードではなく追加により対応できなければならない。いわゆるスケールアウト(水平スケーラビリティ)が実現されていなければならない。

 なお、機器のアップグレードにより性能を向上するスケールアップ(垂直スケーラビリティ)の考え方も、従来型のOLTP(オンライントランザクション処理)の世界においては依然として有効だ。しかし、「ビッグデータ」の世界では、スケールアップでは十分なスケーラビリティとコスト効率性を実現できないため、スケールアウトが必然的な選択肢となる。

 ここで言葉の問題になるが、「分散処理」とはあくまでもサーバやストレージ間での処理やデータ保管の分散を指すのであって、地理的な分散を指すとは限らない。もちろん、災害対策等の観点でデータの地理的な分散が必要となることもあるが、性能へのインパクトを考えれば地理的な分散は最小限に留めるべきだ。

 たとえば、クラウド上の多数のサーバで「ビッグデータ」を分析できるソリューションにより、通常は1時間かかる分析を1分間で完了できるとしよう。素晴らしいソリューションのように見えるかもしれないが、この分析のためのデータを企業内システムからクラウドに転送するために2時間を要するのであればまったく意味がない。一般に、「ビッグデータ」系のシステムを設計する際には、ネットワークを介した大量データ転送をどれほど最小化できるかがキーになる。つまり、不要な地理的分散は避けなければならない。

 言葉の話に戻るが、「分散処理すなわち地理的分散」という誤解を避けるためには、「並列処理」という言い方をした方が適切かもしれない。

 では、この原則論を念頭に置き、インフラの下位層から順に「ビッグデータ」に必要とされるテクノロジについて見ていこう。まずは、ストレージ階層からだ。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

  • このエントリーをはてなブックマークに追加

この記事を読んだ方に

関連ホワイトペーパー

連載

CIO
デジタル“失敗学”
コンサルティング現場のカラクリ
Rethink Internet:インターネット再考
インシデントをもたらすヒューマンエラー
トランザクションの今昔物語
エリック松永のデジタルIQ道場
研究現場から見たAI
Fintechの正体
米ZDNet編集長Larryの独り言
大木豊成「仕事で使うアップルのトリセツ」
山本雅史「ハードから読み解くITトレンド放談」
田中克己「2020年のIT企業」
松岡功「一言もの申す」
松岡功「今週の明言」
内山悟志「IT部門はどこに向かうのか」
林 雅之「デジタル未来からの手紙」
谷川耕一「エンプラITならこれは知っとけ」
大河原克行「エンプラ徒然」
内製化とユーザー体験の関係
「プロジェクトマネジメント」の解き方
ITは「ひみつ道具」の夢を見る
セキュリティ
企業セキュリティの歩き方
サイバーセキュリティ未来考
ネットワークセキュリティの要諦
セキュリティの論点
スペシャル
ざっくりわかるSNSマーケティング入門
課題解決のためのUI/UX
誰もが開発者になる時代 ~業務システム開発の現場を行く~
「Windows 10」法人導入の手引き
ソフトウェア開発パラダイムの進化
エンタープライズトレンド
10の事情
座談会@ZDNet
Dr.津田のクラウドトップガン対談
Gartner Symposium
IBM World of Watson
de:code
Sapphire Now
VMworld
Microsoft WPC
Microsoft Connect()
HPE Discover
Oracle OpenWorld
Dell EMC World
AWS re:Invent
AWS Summit
PTC LiveWorx
吉田行男「より賢く活用するためのOSS最新動向」
古賀政純「Dockerがもたらすビジネス変革」
中国ビジネス四方山話
ベトナムでビジネス
日本株展望
企業決算
このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]