「AIに頼んで社会科のテストを作ったら、条約の年号が2年ずれていた。」

「統計データの出典を調べたら、存在しない調査機関だった。」

深夜に教材を仕上げて翌朝配った後で気づいた、という声は少なくありません。

こうした事故を防ぐために知っておきたいのが、「ハルシネーション」という現象です。AIが意図的に嘘をついているわけではないのに、なぜ誤情報が混入するのか。そして、教員として何を確認すれば安全に使えるのか。この記事で整理します。

ハルシネーションとは何か

ハルシネーション（hallucination）とは、AIが事実と異なる情報を、さも正確であるかのように出力する現象のことです。日本語では「幻覚」と訳されます。

なぜこれが起きるのかを理解するには、大規模言語モデル（LLM）の仕組みを知る必要があります。ChatGPTやClaudeといったAIは、「次にくる最も自然な言葉を予測する」という方法で文章を生成しています。膨大なテキストデータを学習し、言語的に「もっともらしい」出力をするように訓練されていますが、その情報が事実かどうかを検証する機能は本質的に持っていません。

つまり、AIにとって重要なのは「文章として自然かどうか」であって、「内容が正確かどうか」ではないのです。この構造上の特性が、ハルシネーションを生む原因です。

教材で起きやすい3つのパターン

ハルシネーションにはいくつかのパターンがあります。教材作成において特に注意が必要なのは以下の3つです。

パターン1：年号・数字・固有名詞の誤り

歴史的な年号、統計の数値、人物の名前といった具体的な情報は、ハルシネーションが起きやすい領域です。AIは「文章の流れとして自然な数字」を出力しようとするため、近い数字に置き換わっていても気づきにくいことがあります。

たとえば「○○条約が締結された年は？」「この制度が導入されたのは何年か？」のような問いに対して、前後数年ずれた年号が堂々と出力されることがあります。

パターン2：存在しない出典・参考文献の生成

AIに「参考文献を付けて」と指示すると、実在しない書籍や論文のタイトル・著者名・出版社を生成することがあります。書誌情報として形式は整っているため、一見して本物らしく見えます。出典付きの教材を作る際は、特に注意が必要なポイントです。なお、AI生成教材における著作権上の注意点については「AIで作った教材の著作権リスク」で詳しく解説しています。

パターン3：過度な一般化・断定

「コーヒーは健康によい」という部分的に正しい情報から「コーヒーは万人に健康的な飲み物である」と断定してしまうように、AIは情報を過度に一般化することがあります。教材の説明文や解説に断定的な表現が混じっていないか、内容の精度という観点でも確認が必要です。

使う前に必ずやるべき3つのチェック

AI教材のファクトチェック3ステップ

AIが生成した教材を授業で使う前に、以下の3点を確認することで、ハルシネーションによる誤りの混入を大幅に減らせます。

チェック1：数字・年号・固有名詞は一次情報で確認する

教材に含まれる具体的な数字、年号、人名、地名は、必ず信頼できる一次情報源（文部科学省の資料、教科書、公的統計など）と照合してください。

確認の優先度を絞るなら、「生徒が試験で問われる可能性のある情報」から始めると効率的です。授業の核心に関わる事実が誤っていた場合のリスクが最も高いためです。

チェック2：参考文献・出典は実在を確認する

AIが生成した参考文献は、必ずタイトルや著者名で検索し、実在するかどうかを確認してください。CiNii（国立情報学研究所の論文データベース）やGoogle Scholarで検索すると、日本語・英語を問わず学術文献の有無を調べられます。

実在しない文献が見つかった場合は、その情報ごと削除するか、自分で改めて信頼できる出典を探す必要があります。

チェック3：断定表現は根拠とセットで再確認する

「〜は〜である」「〜は効果がある」のような断定表現が教材に含まれている場合、その根拠が明示されているかを確認してください。根拠なく断定されている箇所は、「〜とされています」「〜という見方もあります」のように表現を和らげるか、裏付けとなる出典を自分で付け加えることを検討してください。

ファクトチェック 確認メモ（コピペ用）

  • 数字・年号・固有名詞を一次資料と照合した
  • 参考文献・出典をCiNii または Google Scholar で実在確認した
  • 断定表現に根拠が明示されているか見直した

ハルシネーションはゼロにならない

現在のAI技術において、ハルシネーションを完全になくすことはできません。これは特定のツールの問題ではなく、大規模言語モデル全般が持つ構造上の特性です。

だからこそ、AIを教材作成に使う際の基本的な姿勢は「AI＋人間による確認」のセットです。AIは大量のテキストを短時間で生成できますが、その正確性の担保は人間の役割です。

この分担を意識することが、AIを安全かつ実用的に使いこなすための第一歩になります。

よくある質問

ハルシネーションはどのAIでも起きますか？

はい、ChatGPT・Claude・Geminiを問わず、現在の大規模言語モデル全般に共通する特性です。特定のツールが特別に「嘘をつきやすい」わけではなく、「もっともらしい文章を生成する」という仕組み上、避けられない現象です。

毎回チェックしなければいけませんか？

教材の種類によって優先度が変わります。生徒が試験で解答する定期テストや問題集は、年号・数値・固有名詞の誤りが直接評価に影響するため毎回確認が必要です。授業で口頭補足できるスライドや学級通信は、核心部分に絞った確認でも対応できます。

チェックにかかる時間を短くする方法はありますか？

確認の優先順位を「生徒が答えとして書く情報」に絞ることが最も効果的です。選択肢の正誤・記述問題の模範解答・統計数値から先に確認し、説明文の表現ゆれなどは後回しにすると、作業時間を半分以下に抑えられます。

専門的なチェックに不安があるなら

3つのチェックを一通り行うと、数字・年号の照合に30分、出典の実在確認に20分、断定表現の見直しに10分かかり、1教材あたり合計60分前後になることも珍しくありません。自分でファクトチェックを行う時間が取れない、あるいは専門外の科目の教材を作る場合など、内容の正確性に不安を感じる場面もあるかと思います。

そうした場合の選択肢として、AI自動レビューでハルシネーションの疑いがある箇所を検出したうえで人が最終確認するプロセスを持つ代行サービスの活用も考えられます。作成から確認まで一括で依頼することで、ハルシネーションのリスクを外部のチェックプロセスに委ねることができます。