編集部からのお知らせ
「ZDNet Japan Summit」参加登録受付中! 
新着記事集:「負荷分散」
海外コメンタリー

AIの民主化から汎用AI実現に向けた議論まで--「State of AI Report」著者に聞く - (page 3)

George Anadiotis (Special to ZDNet.com) 翻訳校正: 村上雅章 野崎裕子

2020-11-20 06:30

 つまり、AI分野における最新かつ最大の成果と称賛されているOpenAIのGPT-3のようなモデルの訓練コストは膨大なものとなる。専門家らは1000万ドル(約10億5000万円)規模の予算が必要になるだろうと示唆している。要するに、GPT-3のようなモデルは誰でもが生み出せるものではないということだ。ここで出てくる疑問は、他の何らかの方法はないのかというものだ。Benaich氏とHogarth氏はあると考えており、その一例を紹介してくれた。

 ロンドンに拠点を置くPolyAIは、音声アシスタントを手がける企業だ。同社は対話用のAIモデル(技術的に表現すると、トランスフォーマーに基づく訓練済みのコンテキスト再ランカー)を開発し、オープンソース化した。このモデルは対話アプリケーションという分野でGoogleの「BERT」モデルよりも高い性能を示している。またPolyAIのモデルは、Googleのモデルよりも性能が優れているだけでなく、訓練時にほんのわずかなパラメーターしか必要としないため、コストもわずかなものとなる。

State of AI Report 2020
PolyAIは特定分野において、Googleのモデルよりも複雑さやコストをはるかに抑えた優れたML言語モデルを生成できる。

 ここで、PolyAIはどのようにしてこの成果を達成したのかという疑問が出てくる。その答えは他の企業にとってのヒントになるかもしれない。Benaich氏によると、電話回線の向こう側にいる人が通話で伝えたいと考えている意図を検出し、理解するという場合、文脈の再ランク付け問題として扱う方が優れた結果を得られるという。

 つまり、電話をかけてきた人が相手に伝えようとしている内容について、その分野の理解に基づいて考えられる選択肢のメニューがあるならば、単なる汎用のモデル(つまりこの例ではBERT)を使うよりも適切なかたちで、顧客の意向をデータからうまくすくい上げて学習するモデルの設計が可能になるはずだ。

 BERTはさまざまな対話アプリケーションで十分使いものになるが、現実世界の領域で堅牢にする上でのエンジニアリング上の指針やニュアンスといったものを持ち合わせていない。モデルを実際の環境で使いものになるようにするには、リサーチが必要となるだけでなく、さらなるエンジニアリング上の取り組みも必要となる。そして、リサーチャーの大多数はエンジニアリングに興味を抱いていないのが通例だ。

 早い話が、専門家は自らの専門領域については誰よりも詳しいというわけだ。その知識を文書化して利用できるようにするとともに、必要となるエンジニアリング上の厳格さと組み合わせれば、少しの労力でさまざまなことを実行できるようになる。これはAIにおけるドメイン知識の使用という話題にもつながる。これが、ブルートフォースアプローチに批判的な人々が述べていること、すなわち「規模の仮説」が指している核心なのだ。

 規模の仮説の支持者が考えていると思われる内容を要約すると、知性とは規模の拡張に伴って出現する現象だというものだ。つまり、GPT-3のようなモデルの規模と複雑さを十分なところにまで拡張すると、AIの、さらには科学や工学を網羅する聖杯、すなわちAGIを実現できるということになる。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

特集

CIO

モバイル

セキュリティ

スペシャル

ホワイトペーパー

新着

ランキング

  1. クラウドコンピューティング

    Google Cloudセキュリティ基盤ガイド、設計から運用までのポイントを網羅

  2. セキュリティ

    仮想化・自動化を活用して次世代データセンターを構築したJR東日本情報システム

  3. ビジネスアプリケーション

    スモールスタート思考で業務を改善! 「社内DX」推進のためのキホンを知る

  4. セキュリティ

    Emotetへの感染を導く攻撃メールが多数報告!侵入を前提に対応するEDRの導入が有力な解決策に

  5. セキュリティ

    偽装ウイルスを見抜けず水際対策の重要性を痛感!竹中工務店が実施した2万台のPCを守る方法とは

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]