# 「Not」の定義：AIに「やってはいけないこと」を教える

> 生成AIは「嘘」をつきます。悪意はなくとも、確率的に言葉を繋ぐ過程で、存在しない論文やもっともらしい数値を平気で捏造します。研究者として致命的な失敗を防ぐため、AIに必ず入力すべき禁止命令をリストアップしました。

![人海戦術とAI自動化の両極端からアイデアを絞る図](../../../html/images/02-19-1024x558.jpg)

## 導入：AIの「親切心」が招く研究不正のリスク

生成AIを活用して申請書を作成する際、最も警戒すべきはAIの「過剰なサービス精神」です。AIはユーザーの問いかけに対して、「答えられない」と言うよりも、何とかして回答を作ろうとする傾向があります。その結果、文脈に合うもっともらしい嘘（ハルシネーション）を生成してしまうのです。

日常会話やメールの作成であれば、多少の不正確さは笑い話で済みます。しかし、科研費の申請書において、存在しない先行研究を引用したり、根拠のない数値を提示したりすることは、たとえ意図的でなくとも「捏造」とみなされかねません。これは採択・不採択以前の問題であり、研究者としてのキャリアを終わらせる致命的なリスクです。

多くの研究者は「良い文章を書かせる」ための指示（ポジティブ・プロンプト）には熱心ですが、「やってはいけないこと」を制限する指示（ネガティブ・プロンプト）の重要性を過小評価しています。AIを安全な「参謀」として機能させるためには、アクセルを踏む前に、確実なブレーキとガードレールを設定する必要があります。本記事では、研究者がAIに入力すべき必須の「禁止事項」を網羅的に解説します。

## 完全リスト：AIに課すべき5つの「鉄の掟」

研究の信頼性を担保するために、プロンプトの冒頭、あるいは「カスタム指示」設定に必ず含めるべき制約条件のリストです。これらを明文化するだけで、AIの回答精度と安全性は劇的に向上します。

1. **事実に基づかない情報の生成禁止**
   - 指示：「提供された情報、および確実な一般知識のみを使用し、推測や想像で事実を補完しないこと。情報が不足している場合は、創作せずに『情報不足』と指摘すること。」
   - 解説：AIによる「創作」を厳重に封じます。特に背景事情や実験結果の記述において重要です。
2. **架空の参考文献・業績の引用禁止**
   - 指示：「実在が確認できない論文、書籍、著者名を絶対に出力しないこと。引用が必要な場合は、私が提示したリストの中からのみ選択すること。」
   - 解説：最も頻発するトラブルの一つです。AIが勝手にでっち上げた「それっぽいタイトルの論文」を排除します。
3. **数値・データの改変禁止**
   - 指示：「提示した実験データ、サンプル数、p値などの数値はいかなる理由があっても変更しないこと。たとえ文章の流れが悪くなっても、数値の正確性を最優先すること。」
   - 解説：文章を整える過程で、AIが勝手に数値を「きれいな値」に丸めてしまうリスクを防ぎます。
4. **専門用語の安易な一般化禁止**
   - 指示：「特定の専門用語を、一般的な言葉に言い換えないこと。定義が曖昧になる比喩表現は避け、学術的に正確な表現を維持すること。」
   - 解説：わかりやすさを優先するあまり、厳密な定義が必要な用語が平易な言葉に置換され、専門性を損なうのを防ぎます（生成AIは比喩が大好きです）。
5. **指定文字数を満たすための冗長化禁止**
   - 指示：「文字数制限を満たすために、意味のない形容詞や繰り返しを使って文章を引き伸ばさないこと。論理的な密度を維持し、不足する場合は新たな論点を提案すること。」
   - 解説：中身の薄い文章になるのを防ぎ、論理の密度を保ちます。

## 深掘り解説：最も危険な「ハルシネーション」をどう防ぐか

上記のリストの中で、特に注意が必要であり、かつ対策が難しいのが「1. 事実に基づかない情報の生成」と「2. 架空の参考文献」です。これらは、AIの仕組みそのものに起因するため、単に嘘をつくなと書くだけでは不十分な場合があります。より強固な制御技術が必要です。

効果的なのは、「グラウンディング（根拠付け）」という手法をプロンプトに組み込むことです。具体的には、AIに知識を検索させるのではなく、こちらから「参照すべきテキスト（自分のメモ、論文の要約、実験ノート）」を与え、「**ここ書かれている情報『のみ』を使って回答を作成せよ**」と強い制約をかけます。

例えば、以下のようなプロンプト構成が有効です。

> あなたは厳格な科学エディターです。以下の【参照テキスト】に基づいて、研究背景を記述してください。
>
> **制約条件：**
> ・【参照テキスト】に含まれない情報は一切使用しないこと。
> ・外部知識を使って話を広げないこと。
> ・テキスト内に根拠がない主張を含める場合は、必ず [要確認] というタグをつけること。
>
> **【参照テキスト】**
> （ここに自分の手持ちの情報を貼り付ける）

このように、「情報の範囲」を物理的に限定することで、AIが勝手に外部の不確かな情報を持ち込む余地をなくします。特に、汎用的なチャットボットを使用する場合は、この「閉じた環境」をプロンプト内で疑似的に作り出す工夫が不可欠です。

一方、弊社が提供するような研究支援に特化したAIツールでは、システム側であらかじめこのような「ハルシネーション抑制パラメータ」や「参照元限定プロセス」が組み込まれている場合が多いため、ユーザーが毎回複雑なプロンプトを入力する手間は省けます。しかし、原理を知っておくことは、ツールの出力を検証する上でも極めて重要です。

## 優先順位とタイムライン：いつ、どの制約を適用すべきか

これらの制約は、申請書作成のフェーズによって重要度が異なります。効率的に運用するための優先順位を整理します。

**フェーズ1：アイデア出し・構想（重要度：中）**

この段階では、あえて制約を緩めることも戦略の一つです。「事実に基づかない」アイデアであっても、そこから着想を得られる可能性があるからです。ただし、「架空の参考文献」だけは、後の混乱を招くため初期段階から禁止しておくべきです。

**フェーズ2：執筆・ドラフト作成（重要度：特大）**

最も制約を厳しくすべきフェーズです。上記の5つのリストをすべて適用してください。特に「数値の改変禁止」と「専門用語の維持」は、ドラフトの信頼性に直結します。ここでAIに自由演技をさせると、修正に膨大な時間がかかります。

**フェーズ3：推敲・校正（重要度：大）**

文章を整える段階では、「冗長化禁止」と「意味を変えないこと」が重要になります。「誤字脱字の修正」を依頼したつもりが、勝手に論理構成を変えられてしまう事故を防ぐため、「内容は変更せず、表現のみを修正すること」と明記します。

**タイムライン上の注意点**

締め切り直前は焦りが生じ、確認がおろそかになりがちです。AIが出力したもっともらしい文章をそのまま貼り付けて提出してしまうのが、最も危険なパターンです。提出前の最終確認では、AIが生成した箇所について、必ず一次情報（元の論文やデータ）との突き合わせを行ってください。AIはあくまでパートナーであり、最終責任者はあなた自身です。

## まとめ：制約こそが自由な思考を生む

AIに対して禁止事項を設定するのは、AIの能力を制限するためではありません。むしろ、AIが誤った方向に暴走するのを防ぎ、論理構築や説得力といった研究の本質的な部分に計算リソースを集中させるためなのです。

1. 事実以外の記述を禁じる。
2. 架空の文献を禁じる。
3. 数値の改変を禁じる。
4. 用語の劣化を禁じる。
5. 無意味な引き伸ばしを禁じる。

これら5つの制約をプロンプトに組み込むことで、AIは「信頼できないおしゃべりなアシスタント」から、「正確で規律ある優秀な参謀」へと進化します。

汎用AIを使う場合は、毎回これらの呪文を唱える手間を惜しまないでください。もし、その手間を削減し、より安全かつ研究に特化した環境で作業を進めたいのであれば、最初からこれらの制約がシステムレベルで実装されたツールの導入を検討するのも賢明な判断です。

道具の特性を理解し、正しく制御すること。それこそが、AI時代における研究者の必須リテラシーと言えるでしょう。