1．は　じ　め　に

　機械学習技術は画像認識など様々な分野で高い性能を発揮し，Webサービス，医療，自動運転をはじめとして様々な分野で産業応用が進んでいる技術である．世の中で広く使われるようになった理由の一つとして，データからの学習により，高精度に推論することが可能になったことが挙げられる．しかし，未知のデータに対して思い掛けない推論をしてしまう可能性があり，個々の間違えた例に対しなぜ間違えたのかを説明できないなどの性質がある．これらが機械学習技術を社会実装する中で問題となり，機械学習モデルの内部挙動（How）や推論結果の判断根拠（Why）を示す解釈性付与が求められている．しかし，一般的な解釈性と社会で求められる性質は必ずしも同義でない．解釈性の評価の妥当性と評価にかかるコストのトレードオフもこのギャップに関連している．機械学習モデルの解釈性について議論するためには，これらの違いについて理解する必要がある．

　本稿では，まず①機械学習の解釈性に関する世の中の議論を整理し，社会的に望まれる性質（Desiderata）について解説する．次に，②解釈性を与えるアプローチを分類し，それぞれの技術動向を紹介する．また，③解釈性の評価手法を解説し，評価手法のコストと妥当性のトレードオフについて説明する．これらの解説を通して，読者に機械学習モデルの解釈性の技術動向と今後の方向性に関する概観を与えることを目的とする．

　なお，本稿よりも更に詳しい内容については，機械学習モデルの解釈性やDesiderataについての解説は文献(１)を，人間の解釈についての心理的な考察については文献(２)を，解釈性の評価手法については文献(３)を参照されたい．

2．機械学習モデルの解釈性とは