富士通研究所と北海道大学は、人工知能（AI）が自動判断した結果をもとに、望む結果を得るために必要な手順を自動で提示できる技術を世界で初めて開発した。
今回、共同開発したAI技術を用いて、糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットで検証したところ、今回の開発技術が全てのデータセットと機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための適切なアクションと実施順序を取得できたことを確認し、特にローンの与信審査のケースでは半分以下の労力を実現したという。
この技術によって、AIが出した判断理由を知るだけでなく、個々の利用者が望む結果を得るために取るべき改善の手順を示すことが可能となる。
例えば、健康状態を判断するAIが不健康と判断した場合、身長や体重、血圧などの健康診断項目のデータから不健康の判断理由を説明するだけでなく、健康になるための最善策を提示してほしいというニーズに対して、今回開発した技術を適用することで、過去データから複雑に絡み合った多数の診断項目間の相互作用を特定し、実現の可能性や実施の難易度を考慮した上で具体的な改善手順を示すことができる。
図1：AIの活用方法と説明機能
今後、社会の重要な判断や提案をAIが担うためには、AIシステムの透明性と信頼性の担保が課題となってきている。データに基づいて自動的に判断するだけでなく、個々の判断理由を提示する「説明可能なAI」と呼ばれる新しいAI技術の研究が盛んになっている。
説明可能なAIは、図1でいえばリスクの高低に関する判断結果に加えて判断の根拠となった属性（図1のB）を提示することになる。
今回開発した技術は、この例でいえば入力データの属性をもとに健康リスクが高いと判定しているのに対し、健康リスクが低いという望む判断結果を得るために属性の値を変えるものといえる。
図2：属性の変更
ただし、AIによる自動判断で望む結果を得るためには、変更が必要な属性を提示するだけでなく、その変更が現実的かつできるだけ小さい労力で変更できる属性を提示することが必要になる。
健康診断の例でいえば、AIによる判断結果をリスク高の現状からリスク低に変えたい場合、筋肉量を増やせば少ない労力で変更ができそうだが（図2の変更1）、体重を変えずに筋肉量だけを増やすことは非現実的であるため、実際には体重と筋肉量を増やすことが現実的な解（図2の変更2）となる。
しかし現状から変更2に到達するために、体重と筋肉量のどちらを先に変えればよいかは自明ではないため、膨大な変更点の候補の中から実現の可能性や順序を考慮した上で適切な変更の方法を見つけることが課題となっていた。
図3：属性間の相互作用と変化量
このような課題に対し、富士通研究所と北海道大学大学院情報科学研究院の有村研究室は「もしこれをしていれば結果はこうなっていた」というように事実とは異なる状態を示し説明する手法である「反実仮想説明」という考えに基づき、今回の技術を開発した。
属性変更におけるアクションとその実施順序を手順として提示するプロセスは、過去の事例の分析を通して非現実的な変更を避けつつ、属性値の変更が他の属性値に与える因果関係などの影響をAIが推定し、それに基づいて実際に利用者が変更しなければならない量を計算する。これにより適切な順序かつ最も少ない労力で最適な結果が得られるアクションの提示を可能にした。
例えば、健康診断で望む結果にするために変更する入力属性とその順序（図3のC)において、リスクを低くするためには筋肉量をプラス1kg、体重をプラス7kg変更しなければならない場合に、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が因果関係の分析により推定できる。
この因果関係をもとにすると、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。つまり、実際に変化させなければならない変更量は筋肉量プラス1kgと体重プラス1kgであるといえるため、先に体重を変化させるよりも少ない労力で望む結果を得ることができる。
富士通研究所は今後、個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組んでいく。独自開発した「FUJITSU AI Technology Wide Learning」によるアクション抽出技術を今回の技術により拡張し、富士通のAI技術「FUJITSU Human Centric AI Zinrai」を支える新たな機械学習技術として2021年度の実用化を目指す。
また北海道大学はアクションの提示に限らず、多様な現場のデータから人間の意思決定に役立つ知識や情報を抽出するためのAI技術の確立を目指す。
