富士通研究所と富士通は9月20日、人工知能（AI）が導き出す推論結果についてその理由や根拠を提示するという新技術を開発したと発表した。AIによる結果に人間の専門家の知見を組み合わせて活用できるとしている。
ディープラーニングなどを利用して大量データの学習から特徴などの推定結果を導き出すAIでは、そのような結果に至る理由や学術的な根拠を、人間が検証することが難しいという課題を抱える。そのため、AIを使った専門家の判断に説明責任が問われるような医療や金融などのミッションクリティカル領域などに適用することが困難だった。
富士通らが開発した技術は、グラフ構造のデータを学習する富士通研独自のAI技術「Deep Tensor」と、学術文献などの専門的な知識を蓄積したナレッジグラフの知識ベースを関連付けることで、AIの推定結果の理由や根拠を示せるという。
新技術の概要（出典：富士通）
具体的には、ディープラーニングの出力結果から逆に探索して、推定結果に大きく影響した複数の因子を入力データの部分グラフとして特定する。ディープラーニングの入力となるテンソル間の類似性に基づき、個別の推定結果の決め手となる要素を抽出し、さらにテンソルからグラフ構造のデータへの逆変換によって、抽出した要素に対応する入力の部分グラフを特定していく。この技術では、複数の推定因子を手掛かりにグラフ構造を探索することで、特定された推定因子に関連性の高い情報だけを抽出し、根拠として構成する。
両社では、ゲノム医療で専門家の調査作業の効率化を想定した模擬実験を行った。生物情報学分野の公開データベースや医療文献データベースから構築した遺伝子変異と病因性の関係についてまず学習し、推定に影響した因子や根拠について学術論文や関連情報を抽出した結果では、推定対象の遺伝子変異（下図の赤）について、推定結果に大きく影響した複数の因子（同青）と、ナレッジグラフから取り出した学術的な裏付けとなる根拠（同黄）、疾患の候補（同紫）を同時に参照できたという。
ゲノム医療向けデータへの応用イメージ（出典：富士通）
今後は、医療関連研究機関の協力を得ながら新技術の有用性について検証を進める。また、金融分野で融資先の自動推定を学習させた場合に、規制や規則の知識を用いて推定の妥当性を確認するといった他分野への応用も計画している。
