AIに正確に引用されるコンテンツの6つの条件——ハルシネーション研究からわかったこと

AI検索で自社の情報が引用されたとき、内容が微妙に違っている。あるいは、書いていないことが「この記事によると」と付けて紹介されている。

こうした現象の背景にあるのが、LLM（大規模言語モデル）のハルシネーション（事実と異なる情報の生成）です。 AIに正確に引用されるには、ハルシネーションが起きる仕組みを理解した上で、引用されやすい書き方をする必要があります。

AIが事実と異なる情報を生成する仕組み

ハルシネーションには2つのパターンがあります（Ji et al., 2023, ACM Computing Surveys）。

元の情報と矛盾する内容を出す（内在的ハルシネーション）。 たとえば、ある記事に「売上は100億円」と書いてあるのに、AIが「売上は120億円」と回答するケースです。

元の情報に書いていないことを追加する（外在的ハルシネーション）。 記事には書かれていない情報を、あたかも記事の内容であるかのように付け足すケースです。

Maynez et al.（2020年、Google Research）の研究では、AIが生成した要約の約70%に何らかの形で外在的ハルシネーションが含まれていたと報告されています。 AIは「知識を正確に伝える装置」ではなく、「もっともらしいテキストを生成する装置」です。この前提を理解しておくことが、対策の出発点になります。

なぜハルシネーションは起きるのか

Huang et al.（2023年）のサーベイ論文に基づくと、主要な原因は3つあります。

学習データに矛盾する情報が含まれている。 LLMの学習データ内に正しい情報と古い情報、あるいは相反する情報が混在している場合、モデルはどちらを採用するかを確率的に判断します。出典のない情報や一次情報でないデータが多いほど、出力の正確性は下がります。

生成プロセスが確率的に動く。 LLMは次の単語を確率的に予測する仕組みで文章を作ります。文が長くなるにつれて、最初の事実から少しずつ逸脱していくリスクが高まります。

AIは「知らない」と言えない。 LLMは自身の知識の限界を認識できません。知らないことについても、学習データのパターンから「もっともらしい回答」を生成してしまいます。実在しない論文の著者名と年号を組み合わせて架空の引用を作るケースは、この問題の典型例です。

RAGはハルシネーションをどの程度減らすか

AI検索サービス（Perplexity、ChatGPT検索など）が使っているRAG（検索拡張生成）は、外部情報を参照することでハルシネーションを抑制します。

Shuster et al.（2021年、Meta AI）の実験結果は以下のとおりです。

条件	ハルシネーション率
検索なしのモデル	約24%
RAG搭載モデル	約14%

RAGにより、ハルシネーション率は約10ポイント低下しました。統計的に有意な改善ですが、完全な解消ではありません。

重要な点は、RAGが効果的に機能するのは「検索で適切なドキュメントが取得された場合」に限るということです。検索結果が不適切であれば、不適切なドキュメントに基づく「根拠のある誤り」が生まれるリスクもあります。

Min et al.（2023年、University of Washington）のFActScore研究でも、RAGを備えたPerplexityAI（62.4%）が検索なしのChatGPT（58.4%）より高い事実精度を記録しています。

AIに正確に引用されるための6つの条件

ハルシネーション研究の知見を統合すると、AI検索で正確に引用されるコンテンツの条件が見えてきます。

条件1: 事実を明示的に書く

AIは、明示的に記述された事実は拾いやすく、暗示的な情報は拾いにくい傾向があります。

引用されにくい例: 「この分野の進展はめざましく、業界全体に変革をもたらしている」

引用されやすい例: 「2023年のAI市場規模は約1,500億ドルに達した（Statista, 2024）」

前者には具体的な事実がないため、AIが引用の根拠として使えません。後者は数値と出典が明示されているため、AIは「事実」として認識し、回答に組み込みやすくなります。

条件2: 用語を一貫して使う

1つの記事内で「ハルシネーション」「幻覚」「虚偽生成」「事実誤認」を使い分けると、AIにとっては4つの異なる概念に見える可能性があります。

用語を統一し、初出時に定義を明示することで、AIの理解精度が上がります。

条件3: 主張と根拠を近くに置く

Maynez et al.（2020年）の研究は、AIが原文の内容から逸脱しやすい要因の一つとして、主張とその根拠がテキスト内で離れた位置にあることを挙げています。

主張を述べた直後にその根拠を記述する構成が望ましいです。主張が3段落目にあり、根拠が10段落目にある構成では、AIが両者を結びつける確率が下がります。

条件4: 数値やデータは表やリストで構造化する

AIは、表形式やリスト形式のデータを散文よりも正確に処理する傾向があります。

散文:「A社の売上は100億円で、B社は80億円、C社は60億円であった」

表形式:

企業	売上	前年比
A社	100億円	+10%
B社	80億円	-5%
C社	60億円	±0%

後者のほうが、AIが各企業の数値を個別の事実として正確に認識できます。

条件5: 出典や専門家の見解を含める

学術論文の引用、公的機関のデータ、専門家の見解など、権威性のシグナルを含むテキストは、AIの回答生成で優先的に参照される傾向があります。

これはAIが「権威を判断する」というよりも、学習データにおいて権威ある出典を持つテキストが品質フィルタで高評価を受けており、そのパターンをAIが学習しているためと考えられます。

条件6: 曖昧な表現を減らす

「おそらく」「一般的に」「多くの場合」といった曖昧な修飾語は、AIにとって引用根拠としての価値が低くなります。 AI検索の回答生成では、確信度の高い記述が優先的に反映されます。

曖昧さが必要な場合は、何が確定的で何が不確定かを明示的に区別する書き方が有効です。

「AI市場の成長率は年平均25%である（確認済みデータ）。一方、2030年の市場規模予測については複数の推計があり、現時点では断定できない」

このように区分することで、AIは確定的な部分だけを正確に引用しやすくなります。

AI検索で自社情報が歪められるリスクへの対策

AI検索での引用は、内容が歪められたり文脈から切り離されるリスクも伴います。コンテンツ側でできる対策は以下の3つです。

各段落を独立して意味が通るように書く。 前後の文脈がないと誤読される記述は避けます。 AIはチャンク（記事の一部分）単位でテキストを処理するため、どこを切り取られても正確に伝わる書き方が重要です。

条件付きの主張には条件を同じ文に入れる。 「BtoB企業の場合に限り、この手法は有効です」のように、適用条件と主張を1つの文にまとめます。条件が別の段落にあると、チャンク分割で切り離される可能性があります。

否定形を避ける。 「この手法は効果がない」という記述が「この手法は効果がある」と誤引用されるリスクがあります。「この手法よりも別の手法のほうが効果が高い」のような比較形式のほうが、誤引用されにくくなります。

まとめ

ハルシネーションはLLMの構造的な特性に起因する現象です。 RAGの導入により約10ポイント低減しますが（Shuster et al., 2021）、完全には解消されません。

AIに正確に引用されるために記事側でできることは、明示的な事実記述、用語の一貫性、主張と根拠の近接配置、データの構造化、権威性のシグナル、曖昧さの排除の6つです。

これらはハルシネーション研究から導き出された条件であると同時に、人間の読者にとっても分かりやすいコンテンツの条件でもあります。 GEO対策と読者体験の改善は、同じ方向を向いています。