Hadoop&Asakusaを基幹業務で使い倒す--ノーチラス 神林飛志氏 - (page 3)

五味明子

2011-12-07 13:12

 同氏によれば、そもそもHadoopは基本的にBIを前提にしている仕組みなので、足りない部分が非常に多いシステムだという。

 「そもそも大規模開発の手法がなく、MapReduceを素で書ける人がほとんどいないということに加え、テストツールも貧弱で、運用に至ってはほとんど考えられていない。加えて基幹業務で求められるデータの種類の多さやデータフローの複雑さへの対応を苦手としている」(神林氏)

 この開発におけるHadoopの欠点を上位層で解決するのが、オープンソースの「Asakusa Framework」だ。ノーチラス・テクノロジーズが主体となって開発しており、現在バージョン0.2.3が公開されている。

 「上位の開発方法論から実装フレームワーク、コンパイラ、データモデリング、テストツール/運用連携まで含む“フルスタック”のフレームワーク」(神林氏)という謳い文句の通り、Hadoopを基幹業務で効率的に使うためのツールがすべて揃っている。

 Asakusa Frameworkのコアとなっているのは独自DSLである「Asakusa DSL」だ。最大の特徴は開発者がMapReduceを知らなくても、業務バッチが書ければOKという点である。

 Asakusa DSLは3種類のDSL(Batch DSL、Flow DSL、Operator DSL)から構成されており、Javaベースのデータフローを意識したDSLであるため、設計通りに実装を行うことが非常に容易になっている。

 「DSLだと余計なことを書かずに済むため、設計をきちんとやると、実装バグはほとんど出ない。設計通り実行できるというのは実は非常に大きなメリット」(神林氏)

 このほかにもデータモデル管理の「DMDL」、自動テストサポートを行う「Test Driver」、外部システム連携を行う「ThunderGate(MySQLと連携)」「WindGate(任意のRDBと連携)」バッチ実行処理を行う「Experimental Shell Script」「YAESS」といった周辺ツールも充実している。

“バッチにしたら負け”と言っている時点で負け

 最後に「Hadoop/Asakusa Frameworkで基幹業務を行う場合」のまとめとして、神林氏は「バッチだけを外出しすることも十分に可能なので試してみることをおすすめする。Asakusaを使えばデータベースサーバシステムはWindowsでも可能。既存システムに手を入れる必要はない」と語る。冒頭に挙げたように、ディスクIOがボトルネックになっているシステムにHadoopを適用すれば、その処理効率はおそろしく向上すると断言する。

 ただし「すべてのことをHadoopで解決するという姿勢はもちろん間違い」とする。「そもそもバッチ処理なので、スループットを上げるならHadoopは効果がある。ただしレイテンシ低減をHadoopに求めるのは無理。バッチでやるところとオンラインでやるところはそれぞれ別のシステムで追い求めるべき。“バッチにしたら負け”と言っている時点で負けです。また、Hadoop開発はアジャイルには向かない。丁寧なウォーターフォール型が基本」とし、安易な流行への便乗に警鐘を鳴らしている。

 ビッグデータの活用に傾きがちなHadoopを基幹業務で使い倒す——Hadoopの知られざる得意分野を実感させられた内容だった。

Keep up with ZDNet Japan
ZDNet JapanはFacebookページTwitterRSSNewsletter(メールマガジン)でも情報を配信しています。現在閲覧中の記事は、画面下部の「Meebo Bar」を通じてソーシャルメディアで共有できます。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

注目している大規模言語モデル(LLM)を教えてください

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]