# 「それっぽい嘘」を見抜く技術：AIが捏造する参考文献とファクトチェック

> 生成AIの「もっともらしい嘘」は研究者の信頼を破壊します。AIは確率で言葉を繋ぐ計算機であり、真実を保証する辞書ではありません。参考文献の捏造や事実誤認を見抜き、正確な裏取りを行う検証技術こそが、AI時代の研究者に求められる核心的スキルです。

![AIの検証責任を示すロボットと研究者のイラスト](../../../html/images/02-20-1024x558.jpg)

## 導入：確率的生成が招く「雄弁な嘘」と対処法

研究計画書の作成において、生成AIは優秀な壁打ち相手ですが、彼らは息をするように嘘をつきます。ChatGPT等の大規模言語モデルは、真実のデータベースではなく、確率的に「続きとしてありそうな言葉」を紡ぐ計算機に過ぎません。 ゆえに、AIに知識を丸投げすれば、実在しそうな架空の論文（ハルシネーション）を捏造します。この雄弁な嘘を無批判に転記することは、研究者としての自殺行為です。 しかし、この欠点は「運用」でカバー可能です。AIに事実を検索させるのではなく、あなたが持っている正しい事実（論文）をAIに与え、それを材料に文章を組み立てさせるのです。本記事では、「情報の入力」と「出力の検証」の2ステップで、正確性を担保する標準手順を解説します。

### [Phase 1] 入力の技術：嘘を封じる「ソース注入」

ハルシネーションを防ぐ最も確実な方法は、AIに「何を書くか」を考えさせるのではなく、「この資料に基づいて書け」と指示することです。これをグラウンディングと呼びます。

**1. 参考文献は「探させる」のではなく「読ませる」**
 AIに「〇〇に関する先行研究を挙げて」と問えば、高確率で架空の論文が返ってきます。代わりに、あなたがGoogle Scholar等で見つけた実在する論文のアブストラクトや結論部分をコピーし、プロンプトに貼り付けてください（PubMedであればタイトルとアブストラクトをCSVで出力できます）。 「以下の【参考文献リスト】の内容に基づき、本研究の背景を記述せよ」と指示すれば、AIは与えられたテキストの範囲内で論理を構築するため、嘘をつく余地が極端になくなります。より詳しくしたければ、重要な論文についてはPDFをそのまま提示するのも有効です。

**2. 固有名詞の固定** 特定の理論名や物質名など、絶対に間違えてはいけないキーワードは、事前に定義として与えます。「〇〇法（2023, Tanaka et al.）という用語を使用し、その定義は以下とする」と制約をかけることで、AIの勝手な解釈を防ぎます。同様に専門用語の和訳も定義しておき、「〇〇という英単語は〇〇という日本語として訳すこと」と書いておけばヘンテコな和訳を出力する可能性はぐっと減ります。

### [Phase 2] 検証のプロセス：情報の純度を守るフィルタリング

ソースを与えたとしても、AIがその解釈を誤ったり、文脈を歪曲したりする可能性は残ります。出力されたテキストは、以下の視点で必ずフィルタリングを行ってください。

**1. 意味の「ねじれ」確認（整合性）** ここでのチェック対象は事実の有無ではなく論理の正確さです。提示した論文が「AはBである可能性を示唆した」としているのに、AIが「AはBであると証明した」と断定表現に書き換えていないかを確認します。AIは文脈を滑らかにするために、しばしば科学的な留保を無視して言い切る傾向があります。

**2. 「キメラ生成」の最終チェック** もしあなたがソースを与えず、AIに補足説明を求めた箇所があるなら、そこには厳格な検証が必要です。AIは実在の著者と有名な雑誌名を組み合わせ、存在しない論文タイトルを捏造するキメラ論文の生成を得意とします。 AIが自発的に出した参考文献については、必ずdoi（デジタルオブジェクト識別子）や原典のURLをクリックし、リンク先が物理的に存在することを確認してください。この最後のワンクリックが、研究者の責任の境界線です。

## ケーススタディ：AIを「編集者」として使う

### 思考のプロセス：素材は人間、料理はAI

最も安全で効率的なワークフローは、情報の入力を人間が100%管理し、AIには処理のみを委ねる方法です。AIに外部知識を検索させるのではなく、こちらが用意した確実なファクトだけを渡し、「これを論理的に繋げ」と指示するのです。

具体的には、以下の手順を踏みます。

1. **素材の選定（人間）**: 自分の研究の立ち位置を示すために不可欠な先行研究をいくつか選び、その要点を自分で箇条書きにする（または要旨をコピペする）。
2. **構成の指示（人間）**: それらをどのようなロジックで繋ぎたいか（例：AとBは分かったが、Cの視点が欠けている→だから本研究をやる）を決める。
3. **執筆（AI）**: 与えられた素材だけを使って文章化する。
4. **確認（人間）**: ニュアンスのズレがないか確認する。

この手順であれば、AIが勝手に架空の論文をでっち上げる余地はかなり減ります。

### 核心プロセスの深掘り：再現性を高める「編集者プロンプト」

では、実際にどのようなプロンプトを投げるべきか。以下に、科研費申請書の「本研究の学術的背景」セクションを想定した、そのまま使えるプロンプトの型を提示します。

ここで重要なのは、**「#制約条件」として「入力された情報以外は使用しないこと」と明記する点**です。これにより、AIの妄想を封じ込めます。

**【入力するプロンプト案（必要に応じてファイル添付）】**

```
あなたは日本の競争的研究資金（科研費）の申請支援を行うプロの編集者です。
以下の【入力情報】のみを使用し、論理的かつ説得力のある研究の背景（学術的問いの明確化）の文章を作成してください。

# 目的
先行研究の現状を整理し、そこに残された未解決の課題を浮き彫りにした上で、本研究の着想に至る流れを作る。

# 入力情報（素材）
1. 先行研究A（権威ある基礎理論）：
   - 〇〇現象のメカニズムとして××説が提唱されている。
   - 長年、定説として扱われてきた。
2. 先行研究B（近年の対立的な報告）：
   - 特定の条件下では××説が成立しないというデータが出た。
   - しかし、なぜ不成立なのかという原因までは特定されていない。
3. 本研究の独自視点（My Idea）：
   - 私は、この矛盾の原因が「温度変化」にあると仮説を立てた。
   - 予備実験でもその兆候が見られている。

# 制約条件
・【入力情報】にない事実や、架空の文献情報を勝手に付け足さないこと（絶対厳守）。
・「です・ます」調で執筆すること。
・文末は「〜と考えられます」「〜が課題となっています」など、断定を避けつつも力強い表現にすること。
・文字数は400字程度。
・論理構成：Aの定説提示 → Bによる揺らぎ（問題提起） → その解決策としての本研究（解決の方向性）。
```

## ケーススタディ：出力結果と修正のポイント

上記のプロンプトを入力すると、AIは以下のような出力を返してきます。

> 「これまで〇〇現象のメカニズムに関しては、先行研究Aによる××説が長らく定説として支持されてきました。しかし近年、先行研究Bによって、特定の条件下ではこの説が成立しない事例が報告され、議論を呼んでいます。重要なのは、Bの研究においても『なぜ成立しないのか』という根本的な原因までは特定されておらず、この点が当該分野における未解決の課題として残されていることです。そこで本研究では、この矛盾を解き明かす鍵が『温度変化』にあるという独自の仮説を着想しました。予備実験においてもその関与を示唆するデータが得られており、本研究の遂行により、長年の定説を更新する新たな知見が得られると考えられます。」

いかがでしょうか。
この出力には「AIが勝手に作った嘘」は一つも含まれていません。なぜなら、素材はすべてあなたが渡したものだからです。AIが行ったのは、接続詞を補い、文脈を整え、読みやすいリズムを作るという「編集作業」のみです。

人間は情報の真実性に責任を持ち、AIは伝達の流暢性に責任を持つ。この役割分担こそが、ハルシネーションのリスクをゼロにしつつ、申請書の質を劇的に高めるための唯一の解です。ただし、AIの出力をそのまま使うと「やたらと流暢」という逆の問題が出てきますので、最後は自分で書きなおすことで調整してください。

## まとめ：真実は人間が持ち、AIは枠組みを作る

AIは疲れを知らず膨大なテキストを生成しますが、その内容に対して責任は持ちません。申請書の一言一句に責任を負うのは、署名をするあなた自身です。

事実（論文・データ）は人間が用意し、論理構成（文章化）をAIに任せ、最後に人間が監査する。 この役割分担を明確にすることで、ハルシネーションのリスクを制御下に置くことができます。正確なソースを武器にAIを使いこなす姿勢こそが、審査員からの信頼を勝ち取る鍵となるでしょう。