ハルシネーション
生成 AI が事実ではない内容を、もっともらしく出力する現象です。「幻覚」の意で、英語表記は「Hallucination」。LLM(大規模言語モデル ＝ 生成 AI の頭脳)の本質的な特性で、確率的に次の単語を予測する仕組み上、「存在しない論文を引用」「実在しない人物を著者として記載」「間違った統計値を断定的に出力」のような事象が起きます。流暢で自信ありげな文章ほど見抜きにくいのが厄介な点です。
実務での鉄則(どう対策するか)
AI は事実と虚構を区別しません。「AI が言っているから」は根拠にならないため、以下の対策が必須です。
- 一次ソースの確認(ファクトチェック)：数字・固有名詞・統計・引用は、必ず公式サイトや元の論文で裏取りをします。AI が提示した URL は「架空のリンク」であることも多いため、実際にアクセスして内容を確認します。
- 専門家による校閲：特に薬機法・景表法(優良誤認)・著作権が絡む専門領域は、AI 任せにせず必ず人間の専門家の目を通します。
実務での落とし穴(よくある失敗例)
- 出力を鵜呑みにして炎上：ファクトチェックの工数を惜しみ、もっともらしい嘘をそのまま公開してしまうケース。
- クロスチェックの罠：「複数の AI に聞いて同じ答えだったから正しい」と判断するのは危険です。複数の AI が同じ誤ったデータを学習していることがあります。
- 用途の混同：担当者が最も陥りやすい罠です。AI は「文体や文法のチェック(校正)」には非常に優秀ですが、「事実確認(ファクトチェック)」はできません。「文章を整えるのは AI、事実を確認するのは人間」と役割を明確に分けることが大切です。
言葉をよく利用する人
- AI 活用担当 / プロンプトエンジニア
- ライター / コピーライター
- マーケター
- Web 担当者(発注側)
- 法務 / 契約担当
会話上での使用例
AI で書いた記事の市場規模の数字をチェックする場面
-
マーケター
AI に書かせた記事で、BtoB SaaS の市場規模は2025年に50兆円と出てきたので、そのまま載せていいですか。
-
Web 担当者
それは典型的なハルシネーションかもしれないので、必ず裏取りしましょう。AI にソースの URL を聞いて、実際にそのページを開いて50兆円という数字が本当に書いてあるか確認してください。一致しなければ数字は消して、業界調査では拡大傾向、くらいの言い切らない表現に直しましょう。
-
マーケター
なるほど、URL を聞いても出典ごと作っている場合があるんですね。実物を開いて確かめます。
AI が引用した論文が実在しなかった場面
-
ライター / コピーライター
AI が、ある大学の田中教授の論文を引用していたので、それを根拠に書こうと思います。
-
Web 担当者
公開前に必ず確認したいです。ハルシネーションで、それらしい論文名や教授名をまるごと作ってしまうことがあります。論文名と教授名と大学名を Google Scholar で検索して、出てこなければ削除して、実在する別のソースに差し替えてください。
-
ライター / コピーライター
検索したら該当なしでした。危なかったです。引用は実物確認を必須にします。