1．は　じ　め　に

　AI（人工知能）とは何か．この問いに対し，単純に回答することは難しい．Artificial Intelligence，略してAIという用語は1950年代に生まれ，現在では技術者でなくても使用するほど普及した用語であるが，AIとは何であるかについて，誰もが納得する明確な定義が存在しないことは専門家の間ではよく知られている．2019年にAI原則を公開し，その後のAI関連の制度検討の礎を築いたOECDでも，「AI」自体の明確な定義は避け，「AIシステム」を定義するにとどめている^(1),(2)．AIシステムの定義は，「AIシステムとは，明示的または暗黙的な目的のために，物理的または仮想的な環境に影響を与え得る，予測，コンテンツ，推薦，決定などの出力を，受け取った入力からどのようにして生成するかを推論する，マシンベースのシステムである．（以下略）」とされており，その構成要素であるAIの機能範囲については触れられていない．AI（人工知能）が人工的な知能を意味することは明らかだが，そもそも「知能」の定義が明確でないため，AIの定義も困難なのである．

　そのような背景がある中，ある程度一般的とみなせるAIの解釈として，令和元年版情報通信白書では，「“AI”とは，人間の思考プロセスと同じような形で動作するプログラム，あるいは人間が知的と感じる情報処理・技術といった広い概念で理解されている．」⁽³⁾と記載している．ここで一つのポイントとなるのが，「人間が知的と感じる」という部分である．単純な処理に対して人間は知的な要素を感じにくいため，AIであることは必然的にある種の複雑性を内包することを意味する．本稿のテーマである「安全安心なAI」において，「安全」は客観的にリスクから免れた状態，「安心」は利用者が対象に対して主観的に信頼感を抱ける状態を指す．すなわち，AIとしての処理や機能の複雑性を抱えたまま，客観的な「安全」と主観的な「安心」の双方を達成することが必要となり，技術的な対策だけでなく，人間中心の視点や倫理など，従来と比べて幅広い要素を考慮した取組みが求められている．

2．AIセーフティとAI Safety Institute

　過去に何度かAIブームとみなされる時期があったが，現在は2022年頃の生成AIの登場に伴うAIブームの最中と言えよう．生成AIには様々な種類があるが，特に注目を集めるきっかけとなったのは，テキスト中心の大規模なデータセットで学習・訓練された対話型生成AIである．対話型生成AIは人間との自然な会話や質問応答を実現し，従来型のチャットボットからの大きな技術的進展とAIの将来の可能性を示した．現在では，会話以外にも画像・音声などに対応して幅広い用途へ応用可能なマルチモーダル基盤モデルが登場しており，ロボティクス，ヘルスケアなど様々な領域でAI活用が進むことが期待されている．