OpenAIは先週、人気が高いチャットボット「ChatGPT」を支える主要モデル「GPT-4o」をアップデートした。だが、このアップデートはすでに取り消された。
最高経営責任者（CEO）のSam Altman氏は米国時間4月29日、「X」（旧Twitter）への投稿で、ChatGPTの回答に関するユーザーの苦情を受けて、OpenAIがアップデートの「ロールバックを開始した」と発表した。一部の例では、ややばかげたテスト用プロンプトへの回答で、ChatGPTが危険な医療的選択や無礼で反社会的な行為を促し、動物の命よりもトースターを重視した。
へつらい過ぎ
「削除されたアップデートは、ユーザーにへつらい過ぎたり迎合し過ぎたりして、追従的と言われることが多かった」とOpenAIは問題についてブログで述べている。人工知能（AI）モデルの追従行為は、トレーニング（特に微調整）に人間からのフィードバックが用いられるときに起こり得る。OpenAIの説明によれば、アップデートは「モデルのデフォルトの人格を改善して、さまざまなタスクにおいてより直感的で効果的に感じられるようにする」意図があったという。
だが、アップデート版は「短期的なフィードバックを重視し過ぎて、ユーザーとChatGPTとのやりとりが時間の経過とともにどう進化するかを十分に考慮していなかった」ことをOpenAIは認めた。そのために、GPT-4oは「過度に同調的だが不誠実な」回答を返すことになった。
追従は、やりとりして不愉快なだけでなく、チャットボットがユーザーの憎しみに満ちた意見や暴力的な意見、あるいは望ましい行為をやみくもに助長する場合には、危険なものになることもある。ユーザーは通常、OpenAIのガードレールに基づいて、そのような回答を無視するだろう。OpenAIはブログで、潜在的な安全問題よりも追従がユーザーの満足度に及ぼす影響に大きな重点を置いている。
巻き戻されたアップデート
Altman氏は投稿の中で、ChatGPTの無料ユーザーについてはアップデートが完全に巻き戻されており、有料ユーザーについては巻き戻しが完了したらモデルを再びアップデートすると述べている。
同氏は、「現在、モデルの人格のさらなる修正に取り組んでおり、数日以内にもっと詳しい情報をお届けする」とも述べている。OpenAIはブログで、その取り組みには「中核となるトレーニング手法およびシステムプロンプトの改善」や、ユーザーによる管理の強化に向けたパーソナライゼーション機能の追加、ユーザー満足度の向上を目指してフィードバックをどのくらい重視するかの見直しが含まれると説明している。
今後については、「ユーザーがリアルタイムにフィードバックを送ってやりとりに直接影響を及ぼしたり、複数あるデフォルトの人格から選択したりできるようになる」とOpenAIは述べている。
提供：Didem Mente/Anadolu via Getty Images
この記事は海外Ziff Davis発の記事を朝日インタラクティブが日本向けに編集したものです。
