AI・開発トレンド

ハルシネーション

（はるしねーしょん／Hallucination）

一言でいうと

モデルが事実でない内容をもっともらしい文章で出力する現象で、仕様上ゼロにはできません。

用語自体は自然言語処理の研究で以前から使われていましたが、実務の課題として広く共有されたのは2020年代です。大規模モデルが流暢な文章を書けるようになった結果、誤りが文章の質から見抜けなくなったことが背景にあります。

国内では2023年に、法令や判例の引用が実在しない、社名や数値が事実と違うといった事例が相次いで報告され、企業利用の前提条件として認識されました。

これは課題であって解決策ではありません。モデルは次に来る語を確率で選ぶ仕組みで動いており、事実を参照しているわけではありません。学習していない事柄や、あいまいな問いに対しても、形の整った答えを作ってしまいます。

対処としては、根拠となる文書を渡して答えさせる方式（RAG）、出力に出典を付けさせる設計、そして人が確認する工程を残す設計が使われます。

対策の設計として、あらゆる生成AIの導入に関わります。社内文書の検索では出典の提示が必須になり、顧客向けの回答では人の確認を挟む形が標準です。

採用の実務でも、候補者の経歴要約をAIに作らせる場合、元の書類と突き合わせる工程を省くと、実在しない経歴が混ざる恐れがあります。

この現象への向き合い方が、生成AIを扱う候補者の水準を分けます。ゼロにできない前提で設計する人と、精度が上がれば解決すると考える人では、作るものが変わります。

面接では、誤った出力が出たときにどう気づき、どう設計を変えたかを聞くのが有効です。

用語	指すもの	ハルシネーションとの違い
バグ	実装の誤りによる不具合	直せば消える。ハルシネーションは仕組みに由来し、確率を下げることしかできない
学習データの誤り	元データが間違っている状態	データを直せば改善する。ハルシネーションはデータになくても起きる
プロンプトインジェクション	悪意ある入力で指示を乗っ取る攻撃	攻撃されて起きる。ハルシネーションは通常の利用でも起きる