望む結果を達成するまでの具体的手順を提供する説明可能なAIの新技術を開発

　富士通株式会社と国立大学法人北海道大学は，機械学習モデルの出力を所望の結果に変えるための特徴量の変更方法を求める新技術「順序付き反実仮想説明（Ordered Counterfactual Explanation）」を開発した．新技術では，因果探索技術などを用いて推論した特徴量間の相互関係を利用し，従来の反実仮想説明では不可能だった各特徴量の変更順序も提示する．

　機械学習の社会適用では，データから結果を予測するだけでなく，個々の判断理由を与えてくれる「説明可能なAI」や，望ましくない判断結果に対して，改善するための手段を提示するアクション抽出の技術が注目されている．例えば，健康状態を判断する機械学習モデルが不健康と判断した場合，身長や体重，血圧などの健康診断項目のデータから不健康の判断理由を説明するだけでなく，健康になるためのできる限り容易な改善策を提示してほしいというニーズが存在する．