生成AIの台頭

生成AIの倫理的な使用--偏見や悪用の防止に向けた研究者の取り組み

Min Shin (ZDNET.com) 翻訳校正: 川村インターナショナル

2023-09-22 07:30

 生成AIの機能に関する新たな発見が毎日のように発表される中で、日常業務だけでなく、より大規模で複雑なプロジェクトの推進にAIがどの程度有効かを、さまざまな業界の人々が探ろうとしている。

 しかし、こうした発見に伴い、生成AIの使用を規制する方法についての懸念や疑問が生じている。同時に、OpenAIを相手取った訴訟が起きており、生成AIの倫理的使用は明らかな懸念事項だ。

 AIモデルが更新され、新たな機能を進化させていく一方で、法規制はまだグレーゾーンにある。今、私たちにできるのは、強力なテクノロジーの使用に伴う課題について学習するとともに、大きな可能性を秘めたテクノロジーの悪用防止のために整備されている対策を学ぶことだ。

AIによる操作の検出にAIを活用

 ChatGPTが生成した実在しない判例を弁護士が引用するといった状況や、AIチャットボットを使用して論文を書く大学生、さらにはDonald Trump氏が逮捕されるAI生成写真まで、本物のコンテンツと生成AIが作成したコンテンツの区別が一段と困難になり、AIアシスタントの使用の境界線がどこにあるか分かりにくくなっている。どうすれば責任ある形でAIをテストすることができるのだろうか。

 研究者らは、生成AIの悪用を防ぐ手段を研究するために、AI自体を活用してAIによる操作の例を検出する方法を開発しようとしている。「出力を生成したニューラルネットワークは、そのシグネチャーを特定することもできる。これはニューラルネットワークの目印のようなものだ」。Cornell Tech Policy Instituteの創設者でディレクターを務めるSarah Kreps氏はこのように述べた。

 そうしたシグネチャーを特定する方法の1つに、「電子透かし」と呼ばれるものがある。これは、ChatGPTなどの生成AIが作成した出力に、「スタンプ」のようなものを押すという方法だ。電子透かしは、AIが使用されたコンテンツとそうでないコンテンツを区別するのに役立つ。研究はまだ進行中だが、生成AIによって変えられたコンテンツと、実際に人間だけの力で作成したコンテンツを区別する解決策になる可能性がある。

 Kreps氏は、電子透かしを使用する研究者を、学生が提出した課題に盗用がないかチェックする教師や教授になぞらえ、「文書をスキャンして、ChatGPTやGPTモデルの技術的なシグネチャーがないか調べる」ことができると述べた。

 「OpenAIは、アルゴリズムにエンコードする値の種類についてさらに検討し、誤った情報や正反対の出力、物議を醸す出力が含まれないようにしている」とKreps氏は米ZDNETに語った。この点は特に大きな懸念だった。というのも、OpenAIの最初の訴訟の原因が、ラジオ司会者のMark Walters氏に関する虚偽の情報を作成したChatGPTのハルシネーションだったからだ。

デジタルリテラシー教育

 学校でコンピューターの使用が拡大していた頃、コンピューターラボのような授業を受けて、インターネット上での信頼できる情報源の見つけ方、引用のやり方、宿題での適切な調査の方法を学ぶのは一般的なことだった。生成AIの利用者は、テクノロジーの使い方を最初に学び始めたときにやっていたことと同じことができる。すなわち、自分で学習することだ。

 現在はGoogleの「Smart Compose」や「Grammarly」などのAIアシスタントがあり、そのようなツールの使用は、普遍的ではないにしても一般的になった。「これらがあらゆる場所で使用され、『Grammarly化』が大きく進むことで、5年後には過去を振り返ってこう考えるだろう。なぜそんなことを議論していたのだろうか、と」(Kreps氏)

 だが、さらなる規制が導入されるまで、「何を探すべきかを人々に教えることが、デジタルリテラシーの一環だと思う。それはコンテンツをより批判に消費する者であろうとして考えを巡らせることにも一致しているだろう」とKreps氏は語る。

 たとえば、最新のAIモデルでも、エラーや事実と異なる情報を生成することは珍しくない。「これらのモデルは、以前のように反復的なループを実行しなくなったという点では改善されたと思うが、小さな事実誤認はあるし、ある意味で非常に信ぴょう性の高そうな誤認をする」とKreps氏。「引用をねつ造することや、記事の執筆者を間違えることがある。それを認識することが非常に有益だと思う。そのため、出力を精査して、『これが正しいと思えるだろうか』と熟考しよう」

 AI教育は最も基本的なレベルから始めるべきだ。Artificial Intelligence Index Report 2023によると、K-12(幼稚園から高校3年生まで)のAIとコンピューターサイエンスの教育は2021年以降、米国とその他の国々の両方において拡大したという。また、それ以来、「ベルギー、中国、韓国を含む11カ国がK-12のAIカリキュラムを正式に承認し、導入した」とされている。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    警察把握分だけで年間4000件発生、IPA10大脅威の常連「標的型攻撃」を正しく知る用語集

  2. セキュリティ

    まずは“交渉術”を磨くこと!情報セキュリティ担当者の使命を果たすための必須事項とは

  3. セキュリティ

    「2024年版脅威ハンティングレポート」より—アジアでサイバー攻撃の標的になりやすい業界とは?

  4. ビジネスアプリケーション

    Microsoft 365で全てを完結しない選択、サイボウズが提示するGaroonとの連携による効果

  5. セキュリティ

    生成AIを利用した標的型攻撃とはどのようなものなのか?実態を明らかにして効果的な対策を考える

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]