小特集 2. 生成AIによる偽・誤情報の影響と対策

電子情報通信学会 - IEICE会誌 試し読みサイト
Vol.108 No.8 (2025/8) 目次へ

前の記事へ次の記事へ


生成AIの光と影――安全な活用と未来への展望――

小特集 2.

生成AIによる偽・誤情報の影響と対策

The Impact of AI-generated Mis-/dis-information and Measures to Address It

古田大輔

古田大輔 一般社団法人セーファーインターネット協会日本ファクトチェックセンター

Daisuke FURUTA, Nonmember (Japan Fact-check Center, The Safer Internet Association, Tokyo, 104-0061 Japan).

電子情報通信学会誌 Vol.108 No.8 pp.792-796 2025年8月


 本記事の著作権は著者に帰属します.

Abstract

 生成AIの急速な発展により,偽情報の無尽蔵な作成が可能になった.社会に与え得る影響は深刻だ.本稿では,世界的な「選挙イヤー」と呼ばれた2024年の各国における偽情報の実態,生成AIによる影響,そして,ファクトチェック団体を中心とした対策とその結果を紹介する.2025年1月には第二次トランプ政権が誕生し,コンテンツ規制の議論は大きく後退した.その影響と必要とされる対策についても述べる.

キーワード:生成AI,偽・誤情報,ファクトチェック,メディアリテラシー,コンテンツ規制

1.序     論

 近年,生成AIの発展は目覚ましく,誰でも無料で,テキスト,画像,音声,動画像の自動生成が可能となった.この技術革新により,情報生成の手間が劇的に削減され,利便性が向上する一方で,生成AIによる偽情報mathディープフェイクの生成も容易になり,社会に深刻な影響を与え得るようになった.

 世界経済フォーラムの「グローバル・リスク・リポート2024」は今後2年間の世界のリスクのトップに「誤情報と偽情報」を挙げた(1).折しも2024年は世界的な「選挙イヤー」と呼ばれ,アメリカ大統領選挙,台湾総統選挙,日本総選挙など,世界各国で重要な選挙が実施された.選挙は民主主義の根幹であり,そこに偽情報が介在することで,有権者の判断を歪め,国の行く末を揺るがす危険性すらある.

 結論から言えば,2024年時点では選挙結果に大きな影響を及ぼすようなディープフェイクの事例は見つからなかった.むしろ,生成AIを使わない「シャローフェイク/チープフェイク」の方が多かったと指摘されている.AIの発達が著しいとはいえ,2024年に見つかった選挙関連のディープフェイクはまだまだ不自然なものが多かった(2).また,人間が作る偽情報が既に大量に存在する中で「人間が作ったように見える偽情報」をAIが作ったとしても,それだけで拡散するわけではない.

 しかし,技術はすさまじい勢いで進化している.今後,大量拡散するディープフェイクが増えてくることは間違いない.また,生成AIによる情報の氾濫は,既に洪水状態の情報環境を更にカオスにする.

 人間では見抜けないレベルのディープフェイクがあふれかえるようになるまで猶予はない.しかし,そのための対策が今後広がるかについては不透明だ.アメリカのドナルド・トランプ大統領はコンテンツ規制やファクトチェックを「言論の自由への弾圧」と批判してきた.偽情報が流通する舞台であり,規制の要を握るMetaやXなどのテックプラットホームもトランプ政権と行動を共にする傾向が出てきた.

 本稿では,2024年の選挙に関連する偽情報の実態を分析し,今後,生成AIで勢いを増すことが確実な情報生態系の混乱にどのように対抗するか,マルチステークホルダーによる重層的なアプローチの今後についても検討する.

2.選挙イヤー2024年と生成AIの影響

 AIの開発は近年,加速を続けている.2020年にOpenAIがGPT-3を発表.2022年にはChatGPT(GPT-3.5)を一般向けに公開し,誰でもプロンプト(AIに出す指示文)を打ち込むだけで,チャットのように使える生成AIとして爆発的な人気を博した.これが刺激となり,2023年にはAnthropicがClaude,GoogleがGemini,MetaがLlamaを発表するなど,生成AIの進化が続いた.


続きを読みたい方は、以下のリンクより電子情報通信学会の学会誌の購読もしくは学会に入会登録することで読めるようになります。 また、会員になると豊富な豪華特典が付いてきます。


続きを読む(PDF)   バックナンバーを購入する    入会登録

  

電子情報通信学会 - IEICE会誌はモバイルでお読みいただけます。

電子情報通信学会誌 会誌アプリのお知らせ

電子情報通信学会 - IEICE会誌アプリをダウンロード

  Google Play で手に入れよう

本サイトでは会誌記事の一部を試し読み用として提供しています。