11.
AIの品質マネジメントに必要な社会的取組み
The Role of Industrial Community for Quality Management of AI
社会インフラにAIを組み込むにはAIの品質マネジメントが欠かせない．しかしAI品質マネジメントは様々な困難がある．本稿ではAI品質マネジメントの何が難しいのかを技術，産業，及び社会の観点から述べ，既知の対策の概略と，今後必要と思われる取組みについて述べる．技術的な対策は産業技術総合研究所が公開しているものを含めた各種ガイドラインによることができるが，産業や社会と関わる問題については企業間の協力や，産業コミュニティを通じた社会との対話，社会的合意の形成とそれに基づく制度整備，国際協調が重要である．
キーワード：AI品質マネジメント，産業コミュニティ，社会的合意
1. は じ め に
ソフトウェアに重大な判断を任せるようになって久しい．AIにも人の命や人生がかかる重要な判断が委ねられはじめている．このため，人が期待するようにAIが動作するようAIを実現し，そのことを実証すること，すなわちAIの品質マネジメントが重要である．
現在主流のAIには，本質的に不可知かつ不確定な部分がある．このため，AIの品質マネジメントには従来とは異なるやり方が必要である．
そんなに危ういものならば使わなければよさそうだが，AIでなければ対応が難しい問題がある．例えば，
・ 人には把握しきれないほど多数の要素が複雑に絡むシステムの運用．
・ 人には簡単なのにやり方を説明できず，AI以前のやり方でプログラムとして書き下すのが難しい処理．
AIはこれらに対する実用的な解決策を提供している．このため，AIは急速に社会に浸透しつつある．
筆者らは，2016年からAIの品質マネジメントの検討を始め，その結果をガイドラインとして発行してきた．また，AI品質に関わる企業のコミュニティを発展させるため，講座やシンポジウムの開催や，コンソーシアムの形成と事務局運営を行っている．
検討開始からの10年間でAIは大きく変化した．AIの移り変わりは速く，また加速している．2010年代には機械学習ベースのAIが主流だったが，2020年代には生成AIが普及し，従来AIになじみのなかった人々も使うようになった．今も更に新しい種類のAIが出現しつつある．AIの種類が変わるにつれ，AI品質マネジメントの手法も変化を強いられている．
本稿ではAIの品質マネジメントに関して，何が難しいのかを，技術，産業，及び社会の観点から述べ，解決のために必要と分かっていること，及び今後必要と思われる取組みの見立てを述べる．これにより，技術的に対処するべきことと，コミュニティや社会で対策を講じるべきことの区別を示すのが狙いである．
以降の構成は以下のとおりである．2.でAIの品質マネジメントの難しさを列挙する．3.で対処として必要なこと，必要と思われることを述べる．4.では産総研が民間企業とともに進めている取組みを紹介する．5.では今後必要になる取組みについて展望を示す．
