小特集 1. 生成AIの安全安心な活用のための取組みの全体像

電子情報通信学会 - IEICE会誌 試し読みサイト
Vol.108 No.8 (2025/8) 目次へ

前の記事へ次の記事へ


生成AIの光と影――安全な活用と未来への――

小特集 1.

生成AIの安全安心な活用のための取組みの全体像

Overview of Initiatives for the Safe Use of Generative AI

中里克久 北村 弘 小田切未来

中里克久 独立行政法人情報処理推進機構AIセーフティ・インスティテュート

北村 弘 独立行政法人情報処理推進機構AIセーフティ・インスティテュート

小田切未来 独立行政法人情報処理推進機構AIセーフティ・インスティテュート

Katsuhisa NAKAZATO, Hiromu KITAMURA, and Mirai ODAGIRI, Nonmembers (AI Safety Institute, Information-technology Promotion Agency, Tokyo, 113-0021 Japan).

電子情報通信学会誌 Vol.108 No.8 pp.786-791 2025年8月

©2025 電子情報通信学会

Abstract

 生成AIはAIの可能性を大きく広げ,今後,企業をはじめ社会において様々な用途でAIの活用が進むことが見込まれている.AIの安全安心な活用のためには,従来の安全性の枠組みを踏まえつつ,人間中心の考え方を取り入れたAIセーフティの実現が必要である.このために,AIセーフティに取り組む組織であるAI Safety Institute(AISI)が日本を含め世界各国で設立された.また,AISI間の連携の枠組みであるAISI国際ネットワークも立ち上がり,国際協調による取組みの強化も進んでいる.

キーワード:AI,AIセーフティ,AIセーフティ評価,AISI

1.は じ め に

 AI(人工知能)とは何か.この問いに対し,単純に回答することは難しい.Artificial Intelligence,略してAIという用語は1950年代に生まれ,現在では技術者でなくても使用するほど普及した用語であるが,AIとは何であるかについて,誰もが納得する明確な定義が存在しないことは専門家の間ではよく知られている.2019年にAI原則を公開し,その後のAI関連の制度検討の礎を築いたOECDでも,「AI」自体の明確な定義は避け,「AIシステム」を定義するにとどめている(1),(2).AIシステムの定義は,「AIシステムとは,明示的または暗黙的な目的のために,物理的または仮想的な環境に影響を与え得る,予測,コンテンツ,推薦,決定などの出力を,受け取った入力からどのようにして生成するかを推論する,マシンベースのシステムである.(以下略)」とされており,その構成要素であるAIの機能範囲については触れられていない.AI(人工知能)が人工的な知能を意味することは明らかだが,そもそも「知能」の定義が明確でないため,AIの定義も困難なのである.

 そのような背景がある中,ある程度一般的とみなせるAIの解釈として,令和元年版情報通信白書では,「“AI”とは,人間の思考プロセスと同じような形で動作するプログラム,あるいは人間が知的と感じる情報処理・技術といった広い概念で理解されている.」(3)と記載している.ここで一つのポイントとなるのが,「人間が知的と感じる」という部分である.単純な処理に対して人間は知的な要素を感じにくいため,AIであることは必然的にある種の複雑性を内包することを意味する.本稿のテーマである「安全安心なAI」において,「安全」は客観的にリスクから免れた状態,「安心」は利用者が対象に対して主観的に信頼感を抱ける状態を指す.すなわち,AIとしての処理や機能の複雑性を抱えたまま,客観的な「安全」と主観的な「安心」の双方を達成することが必要となり,技術的な対策だけでなく,人間中心の視点や倫理など,従来と比べて幅広い要素を考慮した取組みが求められている.

2.AIセーフティとAI Safety Institute

 過去に何度かAIブームとみなされる時期があったが,現在は2022年頃の生成AIの登場に伴うAIブームの最中と言えよう.生成AIには様々な種類があるが,特に注目を集めるきっかけとなったのは,テキスト中心の大規模なデータセットで学習・訓練された対話型生成AIである.対話型生成AIは人間との自然な会話や質問応答を実現し,従来型のチャットボットからの大きな技術的進展とAIの将来の可能性を示した.現在では,会話以外にも画像・音声などに対応して幅広い用途へ応用可能なマルチモーダル基盤モデルが登場しており,ロボティクス,ヘルスケアなど様々な領域でAI活用が進むことが期待されている.


続きを読みたい方は、以下のリンクより電子情報通信学会の学会誌の購読もしくは学会に入会登録することで読めるようになります。 また、会員になると豊富な豪華特典が付いてきます。


続きを読む(PDF)   バックナンバーを購入する    入会登録

  

電子情報通信学会 - IEICE会誌はモバイルでお読みいただけます。

電子情報通信学会誌 会誌アプリのお知らせ

電子情報通信学会 - IEICE会誌アプリをダウンロード

  Google Play で手に入れよう

本サイトでは会誌記事の一部を試し読み用として提供しています。