OpenAI、人間より賢いAIの反乱を防ぐための研究チームを立ち上げ

Artie Beaty (Special to ZDNET.com) 翻訳校正: 編集部

2023-07-07 11:42

 人間よりも賢い、極めて高い知性を有する人工知能(AI)が登場し、反旗を翻した場合、何が起こるのだろうか。OpenAIは、そのような状況を発生させないようにするために新たなチームを発足させた。

ロボットのような多数の横顔
提供:Getty Images/wildpixel

 同社は米国時間7月5日の発表の中で、「われわれよりもはるかに賢いAIを制御し、統制下に置いておく」ためのチームを立ち上げると述べた。

 同社は、向こう10年以内に登場する可能性のある極めて高い知性が、これまでに生み出されたテクノロジーの中で最大の影響を与えるものとなり、世界で最も重要な問題を解決するのに役立つだろうと述べた。一方、「最も危険なものとなる可能性もあり、人間の無力化、さらには人類の絶滅さえもたらす可能性もある」という恐ろしい警告を記している。

 同社によると、現状では人類の方がAIよりも賢いため、AIの動作を統制し続けることが可能だという。しかしAIの知性が人類のそれを追い越した場合には、何が起こるのだろうか。

 ここで、同社のチーフサイエンティストであるIlya Sutskever氏と、AIアライメント(AIの安全性を確保するための統制技術)の責任者を務めているJan Leike氏が率いるチームの出番がやってくる。同チームは両氏の下に、OpenAIにおけるトップレベルの研究者やエンジニアを擁し、現在保有しているコンピュート能力の20%を活用していく。

 最終的な目標は「人間とほぼ同じレベルを有する、自動化されたアライメントリサーチャー」、すなわち規定の目標を達成し、設定したパラメーターを逸脱しないAIシステムを生み出すことだ。同チームは3つの段階を通じてこれを達成する計画だ。

  • AIが人間の介入なしに他のAIを分析するための方法についての理解を深める。
  • AIを用いて問題領域やエクスプロイトを探求する。
  • AIに対して意図的に誤った訓練を実施し、検出されることを確認する。

 要するに、OpenAIにおける人間のチームは、極めて賢いAIを統制下に置き続けられるよう、AIを用いてAIを訓練しようというわけだ。同チームは、その作業を4年間で成し遂げようとしている。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]