編集部からのお知らせ
解説:広がるエッジAIの動向
Check! ディープラーニングを振り返る

ECサイト内でユーザの好みを安全に学習するAIが開発--不正データを除去

NO BUDGET

2019-10-16 14:59

 KDDI総合研究所は、ECサイトのリコメンド(推薦)システムの信頼性向上に向けて、攻撃者から影響を受けずにECサイトにおけるユーザーの好みを学習する人工知能(AI)を開発した。

 同社が開発したAIは、悪意のある攻撃者からデータポイズニング攻撃を受けた際も意図的な閲覧履歴データ(不正データ)を除去することで、実際の閲覧や購買などの行動履歴からユーザーの好みを正しく学習する。

 データポイズニング攻撃とは、AIを利用したシステムにおいて、システムの出力を意図的に操作することを目的として学習に用いるデータ集合に不正データを混入する攻撃。AIが不正データの影響を受けた場合、分析結果は意図的に操作され、予期せぬ被害を招く可能性がある。

 同社が開発したAIは、攻撃者と一般ユーザーの行動履歴が統計的に異なる性質を持つことを活用し、一般ユーザーとは異なる特徴を持つ攻撃者の不正データを除去しながら学習を進めることで、安全性と信頼性の高い学習を実現するという。

開発したAIを推薦システムに適用した時のイメージ(出典:KDDI総合研究所)
開発したAIを推薦システムに適用した時のイメージ(出典:KDDI総合研究所)

 映画の評価データを用いて評価実験を実施した際、人気の映画を閲覧したユーザーに対して、特定の映画を推薦させようとする攻撃を想定。同実験では既存の対策技術では7割程度の除去率だったが、同社が開発したAIはほぼ全ての不正データを除去でき、攻撃の前後で同等の学習結果が得られると確認された。

 今後、KDDI総合研究所では目的の異なる複数の攻撃に対しても同社が開発したAIが対策として有効的であることを検証していく。そして、深層学習などの複雑な学習方法をもとにした場合でも攻撃者の影響を受けずにユーザーの好みを学習できるAIの確立を目指す。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

Special PR

特集

CIO

モバイル

セキュリティ

スペシャル

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]