大規模言語モデル（LLM）の信頼性を向上するハルシネーション対策機能の開発

　日本電気株式会社（NEC）は，LLM（Large Language Model：大規模言語モデル）の信頼性を向上するハルシネーション対策機能を開発した．ハルシネーションとは，元来，病理学や心理学にルーツを持つ概念であり，「実在しない物事の認知」と定義されている．自然言語処理領域においては，生成された出力が，意味をもたない，あるいは事実に基づかないように見える現象と定義される．特にLLMの出力は，流ちょうであり，見抜くことが難しい．ハルシネーション要因は多岐にわたり，学習データ起因（学習データ誤り，ドメイン特有の学習データ不足等），学習起因（モデル構造の弊害，人間のフィードバックに迎合した強化学習等），推論起因（出力単語の選定手法による弊害等）がある．これらが絡み合い発生するため，ハルシネーションを完全になくすことは難しい．一方で，LLMの急速な期待感の高まりと，実社会への活用フェーズ移行に向けて，ハルシネーション対策の強化が急務となっている．とりわけ，財産や人命に関わる金融業界や，医療業界などのミッションクリティカル領域では，一層導入障壁が高い実情がある．