ボットサービスに生成AIを搭載する際の課題
現状で、生成AIを使ったサービスのほとんどは社内利用向けが多く、社員など人によるチェックが入ります。ユーザーの質問に直接生成AIが答えるようなサービスが実現していない理由の中には、AIが間違った内容をあたかも正しいかのように生成してしまう「ハルシネーション」の問題があるからです。
従来型のAIでは、回答に使うのは、自社の持つデータを登録している知識データベースのデータだけです。また、回答のパターン（回答モデル）もあらかじめ作っておくので、データベース内に間違いがなければ、回答に間違いはありません。
一方、「ChatGPT」などの生成AIは、インターネット上に公開されている情報（オープンデータ）を学習データとして使っているため、間違ったデータを学習して間違った内容の回答をすることがあります。これがハルシネーションです。学習データを限定しても、回答モデルなしで柔軟に生成するため、その段階で間違いが生成されることもあります。このため、チェックなしでユーザーに直接回答するのはリスクがあります。
また、顧客に対応するチャットボットでは、個人情報を入力してもらうケースも多いため、それを外部の生成AIに渡すことが問題だという判断もあります。これらの問題が解決しない限り、ユーザーチャネルに生成AIを使うのは難しい状況です。
ただし、全くめどが立っていないというわけではありません。例えば、筆者が所属しているトゥモロー・ネットは、2024年7月に生成AIと連携したボットサービス「CAT.AI GEN-Bot」を発表しました。これはユーザーの質問に対する回答文を生成AIが作成するものです。各種の制御をして、生成AIに連携するというアプローチで、「GEN-Bot」の機能でハルシネーション（誤情報生成）や個人情報を連携させないように制御しています。
- 澁谷毅（しぶやたけし）
- 株式会社トゥモロー・ネット 取締役 CPO 兼 AIプラットフォーム本部長
- 官公庁、地方自治体のコールセンターを経て、コンタクトセンターアーキテクチャーとして15年以上にわたりコールセンター構築業務に携わる。ヤマトコンタクトサービスでは、コンタクトセンターシニアアナリストとして、ヤマトグループや顧客企業のVOC（ボイスオブカスタマー）をはじめとしたデータドリブン領域とAIを活用したCXデザイン、チャネルデザインの構築に携わり、「CX向上」とコンタクトセンターの「経営貢献」のモデリング創出をリード。現職では、ボイスボットとチャットボットが同時利用可能な「CXマルチモードAI」を開発し、同機能を搭載したAIソリューション「CAT.AI（キャットエーアイ）」のプロダクト開発責任者としてAIプラットフォーム事業をけん引している。
