「AIが出した結果」の理由を探る技術、富士通らが開発

ZDNet Japan Staff 2017年09月20日 19時02分

  • このエントリーをはてなブックマークに追加

 富士通研究所と富士通は9月20日、人工知能(AI)が導き出す推論結果についてその理由や根拠を提示するという新技術を開発したと発表した。AIによる結果に人間の専門家の知見を組み合わせて活用できるとしている。

 ディープラーニングなどを利用して大量データの学習から特徴などの推定結果を導き出すAIでは、そのような結果に至る理由や学術的な根拠を、人間が検証することが難しいという課題を抱える。そのため、AIを使った専門家の判断に説明責任が問われるような医療や金融などのミッションクリティカル領域などに適用することが困難だった。

 富士通らが開発した技術は、グラフ構造のデータを学習する富士通研独自のAI技術「Deep Tensor」と、学術文献などの専門的な知識を蓄積したナレッジグラフの知識ベースを関連付けることで、AIの推定結果の理由や根拠を示せるという。

新技術の概要(出典:富士通)''
新技術の概要(出典:富士通)

 具体的には、ディープラーニングの出力結果から逆に探索して、推定結果に大きく影響した複数の因子を入力データの部分グラフとして特定する。ディープラーニングの入力となるテンソル間の類似性に基づき、個別の推定結果の決め手となる要素を抽出し、さらにテンソルからグラフ構造のデータへの逆変換によって、抽出した要素に対応する入力の部分グラフを特定していく。この技術では、複数の推定因子を手掛かりにグラフ構造を探索することで、特定された推定因子に関連性の高い情報だけを抽出し、根拠として構成する。

 両社では、ゲノム医療で専門家の調査作業の効率化を想定した模擬実験を行った。生物情報学分野の公開データベースや医療文献データベースから構築した遺伝子変異と病因性の関係についてまず学習し、推定に影響した因子や根拠について学術論文や関連情報を抽出した結果では、推定対象の遺伝子変異(下図の赤)について、推定結果に大きく影響した複数の因子(同青)と、ナレッジグラフから取り出した学術的な裏付けとなる根拠(同黄)、疾患の候補(同紫)を同時に参照できたという。

ゲノム医療向けデータへの応用イメージ(出典:富士通)''
ゲノム医療向けデータへの応用イメージ(出典:富士通)

 今後は、医療関連研究機関の協力を得ながら新技術の有用性について検証を進める。また、金融分野で融資先の自動推定を学習させた場合に、規制や規則の知識を用いて推定の妥当性を確認するといった他分野への応用も計画している。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

  • このエントリーをはてなブックマークに追加

この記事を読んだ方に

関連ホワイトペーパー

SpecialPR

連載

CIO
研究現場から見たAI
Fintechの正体
米ZDNet編集長Larryの独り言
大木豊成「仕事で使うアップルのトリセツ」
山本雅史「ハードから読み解くITトレンド放談」
田中克己「2020年のIT企業」
松岡功「一言もの申す」
松岡功「今週の明言」
内山悟志「IT部門はどこに向かうのか」
林 雅之「デジタル未来からの手紙」
谷川耕一「エンプラITならこれは知っとけ」
大河原克行「エンプラ徒然」
内製化とユーザー体験の関係
「プロジェクトマネジメント」の解き方
ITは「ひみつ道具」の夢を見る
セキュリティ
「企業セキュリティの歩き方」
「サイバーセキュリティ未来考」
「ネットワークセキュリティの要諦」
「セキュリティの論点」
スペシャル
課題解決のためのUI/UX
誰もが開発者になる時代 ~業務システム開発の現場を行く~
「Windows 10」法人導入の手引き
ソフトウェア開発パラダイムの進化
エンタープライズトレンド
10の事情
座談会@ZDNet
Dr.津田のクラウドトップガン対談
展望2017
Gartner Symposium
IBM World of Watson
de:code
Sapphire Now
VMworld
Microsoft WPC
HPE Discover
Oracle OpenWorld
Dell EMC World
AWS re:Invent
AWS Summit
PTC LiveWorx
より賢く活用するためのOSS最新動向
古賀政純「Dockerがもたらすビジネス変革」
中国ビジネス四方山話
ベトナムでビジネス
米株式動向
日本株展望
企業決算