生成AIの使いどころ
トップ ／ 調べ物に使うときの検証手順

調べ物に使うときの検証手順

生成AIは調べ物の入口にはなりますが、レポートの根拠にはなりません。存在しない文献が出る割合や、検索つきAIの引用の正確さを調べた研究を読み、AIの画面を離れて元の資料で確かめる手順をまとめます。

この記事の要点

AIの答えは、調べ物の入口であって根拠ではない

調べ学習のレポートで、生成AIに「参考文献を5つ挙げて」と頼んだとします。著者名、題名、雑誌名、発行年までそろった一覧が返ってきます。ところが図書館の検索で探すと、何本かがどうしても見つかりません。書き写した人が悪いのではなく、その文献がもともと存在しないのです。

これは珍しい事故ではありません。後で紹介するように、複数の研究が割合を測っています。生成AIは調べ物の入口にはなります。しかし根拠にはなりません。この記事では、調べ学習やレポートの調べ物でこの線をどう守るかを、研究と公的な資料で確かめます。

AIに聞いてよいこと（入口）AIの答えで済ませないこと（根拠）
この話題には、どんな論点や用語があるかレポートに書く事実、数字、日付
何という言葉で検索すればよいか参考文献の一覧
どんな種類の資料を探せばよいか「〜と言われている」の出どころ
読んだ資料の、分からない言葉の意味資料に何が書いてあるかの確認

なぜ、もっともらしい誤りが出るのか

生成AIは、言葉のつながりとして自然な文章を作る仕組みで動いています。ChatGPTが挙げる文献を調べた研究の著者は、こう説明しています。ChatGPTは情報を処理する道具ではなく、言語を処理する道具である。元になった文章の中身ではなく、文章の形をまねる、と（Walters & Wilder, 2023, Scientific Reports）。「正しいこと」ではなく「もっともらしいこと」が出てくると考えると、ふるまいを予想しやすくなります。

誤りにも種類があります。Nature誌に載った研究は、誤りを次のように分けています。1つは、同じ質問でも聞くたびに答えが変わる、でたらめな誤りです。もう1つは、学習に使われた文章に多い思い違いを、いつも同じように繰り返す誤りです。ほかに、筋道の立て方そのものの失敗もあります（Farquhar et al., 2024, Nature）。

この研究は、1つ目の誤りを見つける方法を提案しました。同じ質問への答えをいくつも出させ、意味が食い違うかどうかを見る方法です。家庭でまねるなら、新しい会話を開いて同じ質問をし直し、答えの中身が変わるかを見る方法が考えられます（研究の方法をこの記事が簡単にしたもので、効果は確かめられていません）。変わるなら、その答えは当てにできません。

ただし、これで安心はできません。著者自身が、いつも同じように誤る場合にはこの方法は役に立たないと書いています。聞き直して同じ答えが返っても、正しいとは限らないということです。聞き直しは、怪しい答えをふるい落とす手がかりにとどまります。

誤りが混ざりやすいと考えられるのは、次のような場面です。最後の1つは、次の節の研究で確かめられています。ほかは、仕組みから考えられる注意点です。

やっかいなのは、誤っているときも文の調子が変わらないことです。Nature誌の研究も、AIは誤った内容をなめらかに言い切ると書いています。文献を調べた研究は、作られた文献が一見して本物に見えると報告しています。文部科学省のガイドラインも、誤った出力を完全に防ぐことは極めて難しいとしています（文部科学省, 2024）。自信ありげな文面は、正しさの目印になりません。

存在しない文献は、どのくらいの割合で出るのか

割合を測った査読つきの研究を2つ紹介します。分野、AIの版、時期を見てください。数字は、条件が変わると大きく動きます。

1つ目は、さまざまな分野の42の主題で、短い文献レビューを書かせた研究です。2023年4月に、GPT-3.5とGPT-4の両方に書かせました。できた84本の文章に出てきた文献636件を、1件ずつデータベースで探しています。その結果、GPT-3.5が挙げた文献の55%、GPT-4が挙げた文献の18%が、実在しませんでした（Walters & Wilder, 2023, Scientific Reports）。

100件のうち55件が存在しない、と言い換えると、大きさが分かります。新しい版では減りましたが、ゼロにはなっていません。しかも、実在した文献にも誤りがありました。著者名や題名、発行年などに中身のある誤りがあったものは、GPT-3.5で43%、GPT-4で24%です。「実在するから大丈夫」とも言えないことになります。

2つ目は、医学の研究です。すでに発表されている系統的レビュー（決めた条件で文献を集めてまとめる研究）11本を使いました。同じ条件をAIに与え、当てはまる論文を挙げさせています。使われたのは2023年7月時点のGPT-3.5、GPT-4、Bardです。挙げられた471件を、元のレビューの文献と照らし合わせました（Chelli et al., 2024, Journal of Medical Internet Research）。

AI（2023年7月の版）書誌が大きく誤っていた文献（題名・第一著者・発行年のうち2つ以上が誤り）挙げた文献のうち、元のレビューにも入っていたもの
GPT-3.539.6%9.4%
GPT-428.6%13.4%
Bard91.4%0%

この研究では、題名・第一著者・発行年のうち2つが誤っていれば、誤った文献（研究では「ハルシネーション」）と数えています。実在しない文献のほか、書誌がひどく崩れた文献も入ります。1つ目の研究とは数え方が違うので、数字を横に並べて比べることはできません。分野も、質問の仕方も違います。それでも、向きは同じです。AIが挙げた文献一覧を、確かめずに参考文献に書くことはできません。

法律の分野にも研究があります。米国の連邦裁判所の判例について、確かめられる事実を質問した研究です。4つのAIのうち、いちばん誤りが少なかったChatGPT 4でも、58%の割合で事実と合わない答えが出ました。利用者の質問に誤った前提があっても、そのまま受け入れて答える傾向も報告されています（Dahl et al., 2024, Journal of Legal Analysis）。日本の法律で同じ割合になるかは分かりません。

ここで紹介した研究は2023年から2024年に発表されたもので、当時の版を使っています。今の製品にそのまま当てはまるとは限りません。日本語の文献で調べた査読つきの研究は、今回の調査では確かめられませんでした。数字そのものより、「文献の形をした誤りが出る」という性質を覚えておいてください。

検証の手順

  1. AIの回答は仮説として扱う——「こういう答えがあるらしい」までにとどめます。
  2. キーワードを取り出す——回答から、検索に使える言葉を拾います。
  3. 一次資料を探す——法令、公式サイト、統計、元の論文、募集要項です。
  4. 一次資料で確かめる——AIの回答と照らし合わせます。
  5. ずれていたら一次資料を採る——当然のようで、実際には迷う場面です。AIの文のほうが読みやすいからです。

2番目が、この使い方の中心です。知らない分野では、そもそも何という言葉で検索すればよいかが分かりません。「地球温暖化」しか知らなければ、入門的な記事ばかりが出てくるかもしれません。「温室効果ガスの排出量」「国別」「統計」という言葉を知れば、公的な統計にたどり着けます。その言葉を得るためにAIを使う、という考え方です。

レポートなら、この手順を記録に残してください。AIに聞いたこと、拾った言葉、開いた資料、資料に書いてあったことの4つです。後で「この数字はどこから」と聞かれたとき、資料の名前で答えられます。

一次資料とは何か

この記事では、情報を最初に出した元の資料を「一次資料」と呼びます。図書館の世界では、言葉の使い方が少し違うことがあります。ここでは「孫引きではない、元の資料」という意味で使います。

種類例
制度・法令国の法令データベース、省庁の告示・通知
統計政府統計、白書、公的機関の調査
企業情報有価証券報告書、決算資料、公式の発表
学術元の論文。解説記事ではなく、論文そのもの
入試・募集その年度の募集要項。まとめサイトではありません
製品の仕様・料金提供元の公式ページ。日付を確かめます

共通しているのは、出した主体が内容に責任を負っていることです。まとめ記事や解説動画は、間に人が入るたびに解釈が加わります。AIの回答も、この意味では「間に入ったもの」の1つです。

統計を例に、国立国会図書館の案内を見てみます。いろいろな統計を編集して1冊にまとめたものを、総合統計と呼びます。総合統計に載っている統計には、出典となる統計の名前が書かれています。そして原典の統計には、地域や品目など、さらに詳しい情報が載っていることがある、と案内されています（国立国会図書館, 2025）。

同じ案内は、統計を使う前に確かめることも挙げています。調査を実施した機関、調査の目的、調査の対象、調査の期間です。国の統計を探す窓口としては、総務省統計局のe-Statが紹介されています。2025年11月12日更新のページを、2026年10月に確認しました。

調べ学習に置き換えると、こうなります。AIや解説サイトで「日本の〜は〜%」という数字を見つけたら、出典の統計名を探します。次に、その統計を出した機関のページで、同じ数字を自分の目で確かめます。いつ、誰を対象に調べた数字かも一緒に書き留めてください。

出典が示されたら、開いて確かめる

AIが出典やURLを示した場合は、1つずつ開いてください。次のことが起こりえます。

1番目から3番目は、前の節の研究で確かめられた形です。4番目がいちばん見つけにくい形です。開いただけでは足りず、その主張が実際に書かれているかまで確かめる必要があります。該当する文を資料の中で見つけ、ページや見出しを控えてください。見つからなければ、その出典は使いません。

AIに「この出典は本当にありますか」と聞き直す方法は、確認になりません。先の研究の著者も、ChatGPTはこの種の質問にしばしば誤った答えを返すと述べています（Walters & Wilder, 2023, Scientific Reports）。確かめる相手は、AIではなく資料そのものです。

ウェブを検索してから答えるタイプのAIもあります。答えの文に、参照したページへのリンクが付きます。リンクを直接開けるので、確かめる作業はしやすくなります。では、付いているリンクは答えを裏づけているのでしょうか。

2023年に、検索つきのAI 4つを人の目で調べた研究が発表されました。対象はBing Chat、NeevaAI、perplexity.ai、YouChatです。回答の文のうち、付けられた引用で完全に裏づけられていたものは、平均51.5%でした。引用のほうから見ると、付けられた文を実際に支えていた引用は74.5%です（Liu et al., 2023, Findings of the Association for Computational Linguistics: EMNLP 2023）。査読つきの国際会議の論文集に載った研究です。

言い換えると、回答の文の半分近くは、引用で完全には裏づけられていませんでした。著者は、回答がなめらかで役に立ちそうに見えるぶん、かえって信頼してしまう点を心配しています。

医療の質問で調べた、より新しい研究もあります。医療についての800の質問を7つのAIに答えさせ、文と出典の組58,000を調べました。論文の投稿は2024年9月で、GPT-4oやGemini Ultra 1.0などが対象です。回答のうち、出典で全部は裏づけられなかったものが、AIによって50%から90%ありました（Wu et al., 2025, Nature Communications）。

検索つきのGPT-4oでも、1つ1つの文の約30%は、出典に裏づけがありませんでした。回答単位では、ほぼ半分が「全部は裏づけられていない」に当たります。検索機能のないAIでは、示したURLが実際に開けた割合が40%から70%にとどまりました。検索つきならURLは開けますが、中身が合っているかは別の問題です。

専門家向けの道具でも、誤りは残ります。米国の法律の専門家向けに作られた、検索つきの有料の道具3つ（LexisNexis社とThomson Reuters社の製品）を調べた研究があります。一般のチャット型のGPT-4より誤りは減りました。それでも、道具によって17%から33%の割合で誤った答えが出ました（Magesh et al., 2025, Journal of Empirical Legal Studies）。

以上の研究から、検索つきのAIを使うときの注意は次の3つです。

  1. 参照先の質は保証されない——検索で上に出るページが正しいとは限りません。
  2. 要約の段階でずれる——元のページと、AIの要約が合っているかを確かめます。
  3. 古い情報を拾うことがある——ページの更新日を見ます。

要約は、元の文章より言い過ぎることがある

2番目の「ずれ」にも研究があります。10のAIが作った科学論文の要約4,900本を、元の文章と比べた研究です。多くのAIが、元の論文より結論を広く言い切っていました。たとえば「この実験の参加者では効果があった」が、「効果がある」に変わるようなずれです。ChatGPT-4oやLLaMA 3.3 70Bなど3つのAIでは、要約の26%から73%にこのずれが見られました（Peters & Chin-Yee, 2025, Royal Society Open Science）。

人が書いた要約と比べると、AIの要約は言い過ぎを含む見込みがほぼ5倍でした。正確に、と指示しても傾向は消えませんでした。新しいAIのほうが、かえって言い過ぎが多い傾向もありました。科学と医学の論文での結果で、ほかの文章に当てはまるかは分かりません。

レポートで大事なのは、条件を落とさないことです。「誰を対象に」「いつ」「どんな条件で」という限定は、要約で真っ先に消えます。AIの要約で見当をつけたら、元の資料でその限定を確かめてください。

情報の確かめ方：そのページを離れて、横に読む

一次資料にたどり着けないときもあります。見つけたサイトが信用できるかを、自分で判断しなければなりません。このとき役に立つ読み方が、米国の研究で確かめられています。

研究者は、ネットに慣れた45人に実際のサイトを評価してもらいました。歴史学の博士10人、プロのファクトチェッカー（事実確認の専門家）10人、スタンフォード大学の学部生25人です。歴史学者と学生の多くは、そのサイトの中にとどまって読みました。そして、立派なロゴやドメイン名といった見た目に引きずられました（Wineburg & McGrew, 2019, Teachers College Record）。

ファクトチェッカーは違いました。サイトをざっと見たら、すぐにそこを離れます。新しいタブを開き、「このサイトを運営しているのは誰か」をほかの場所で調べました。ページの中を縦に読むのではなく、タブを横に並べて読むので、この読み方は「横読み」と呼ばれます（英語ではlateral reading）。ファクトチェッカーは、ずっと短い時間で、より確かな結論に達しました。

では、高校生はどう読んでいるのでしょうか。米国の高校生3,446人に、ネットにつながる状態で6つの課題を出した調査があります。気候科学について「事実を伝える」と名乗るサイトを調べる課題では、96%の生徒が、運営団体と化石燃料業界とのつながりに気づきませんでした。3分の2は、ニュースサイトのトップページで記事と広告を見分けられませんでした（Breakstone et al., 2021, Educational Researcher）。

生徒たちが頼ったのは、サイトの見た目、ドメインの種類、「このサイトについて」のページ、情報の量でした。どれも、運営する側が自由に整えられるものです。この調査は米国の高校生が対象で、日本の生徒の結果ではありません。ただ、「丁寧に読めば分かる」とは限らないことは、覚えておく価値があります。

横読みは、教えれば身につくのでしょうか。米国スタンフォード大学のグループは、都市部の学区の高校で試しました。公民の授業の中で、50分の授業を6回行っています。授業を受けた271人は、受けなかった228人と比べて、ネット上の情報の信頼性を判断する力が伸びました（Wineburg et al., 2022, Journal of Educational Psychology）。

大学1年生でも、似た結果があります。米国の公立大学で、横読みを教えた学級136人と、通常の授業の94人を比べました。教えた学級では、横読みを使って正しく判断できる学生が増えています。ただし、教わっても身につかなかった学生もいました。効果が長く続くかどうかも、まだ分かっていません（Brodsky et al., 2021, Cognitive Research: Principles and Implications）。

これらはウェブサイトの評価を調べた研究で、AIの回答を調べたものではありません。ここからは応用の提案です。AIの答えが正しいかを、同じAIとの会話の中で確かめようとするのは、ページの中だけを読むのに似ています。確かめるときは、AIの画面を離れてください。別のタブで、公的機関や元の資料に当たります。

文部科学省のガイドラインも、確かめ方を示しています。情報の発信者、発信された時期、内容を見ること。そして、ほかの情報と比べること。これらを組み合わせるよう求めています。検索結果の中に、AIが作った文章が混ざっている可能性にも注意を促しています（文部科学省, 2024）。

  1. 誰が出しているか——サイトの自己紹介ではなく、ほかの場所でその団体を調べます。
  2. いつの情報か——更新日と、対象の年度を見ます。
  3. ほかではどう書かれているか——公的機関や元の資料と比べます。

領域別の注意

領域注意点
医療・健康参考にとどめ、判断は医療者に相談します。自己判断で治療を変えません
法律条文の改正に追いついていない場合があります。個別の判断は専門家へ
税務・会計年度で扱いが変わります。国税庁などの公式情報で確かめます
入試制度毎年変わります。その年度の募集要項を根拠にします
料金・仕様変更が頻繁です。公式ページの日付を見ます
地域情報営業時間や住所は、公式の案内か現地で確かめます

医療と、米国の法律は、この記事で紹介した研究が直接調べた領域です。検索つきのAIでも、出典が答えを裏づけていない例が多く見つかりました。専門家向けの道具でも、誤りは残っていました。体やお金、進路に関わることは、AIの答えだけで決めないでください。

ほかの領域の注意は、研究で割合を確かめたものではありません。制度や料金は時間とともに変わる、という性質から考えた注意点です。受験生なら、入試の日程や科目をAIやまとめサイトで済ませないことが第一です。志望校の、その年度の募集要項を開いてください。

学校の調べ学習やレポートでは、どう扱われているのか

2026年10月に確認した時点で、文部科学省が案内している現行版は、2024年12月26日のガイドラインVer.2.0です。学校関係者向けの資料で、使ってよいかどうかは各学校が判断するとされています。調べ物に関係する記述を3つ紹介します（文部科学省, 2024）。

1つ目は、不適切な例です。テーマに基づいて調べる場面などで、教科書のように質が確かめられた教材を使う前に、安易にAIを使うこと。これが不適切と考えられる例に挙げられています。順番の問題です。先に教科書や資料集で土台を作り、AIはその後、という考え方が読み取れます。

2つ目は、活用の例です。課題研究などで、自分が作ったレポートの素案に足りない観点を補うためにAIを使うことは、考えられる例とされています。その場合は、情報の真偽を確かめることが求められます。AIとのやりとりを参考資料として添えることや、引用・参考文献を明示することも例に挙がっています。

3つ目は、引用のきまりです。課題の中でAIの出力を引用するなら、AIを使ったことを明記する対応が必要と考えられる、としています。例として、サービスの名称、入力した文、使った日付を示すことが挙げられています。本やウェブから引用するときと同じ扱いです。

ガイドラインには、AIの誤りを教材にする例も載っています。AIが作った誤りを含む出力を使って、その性質や限界に気づく、という学習です。家庭でもまねができます。自分がよく知っている話題をAIに聞き、どこが違うかを探してみてください。誤りがどんな顔をして出てくるかを、一度見ておくことができます。

それでもAIを使うなら、何を任せるのか

AIで調べると楽なのは確かです。ただ、楽になった分だけ理解が深まるわけではないようです。ドイツの大学で、学生91人を2つの群に分けた実験があります。日焼け止めに含まれるナノ粒子について、ChatGPT 3.5で調べる群と、Googleで調べる群です。調べた後に、勧めとその理由を書いてもらいました（Stadler et al., 2024, Computers in Human Behavior）。

ChatGPTで調べた学生は、頭の負担が軽かったと答えました。その一方で、書いた理由づけの質は、検索エンジンで調べた群より低くなりました。著者は、情報集めの負担が減っても、内容に深く取り組むことにはつながらないかもしれないと述べています。

これは2023年4月から5月に行われた、1つの大学、1つの話題、1回きりの実験です。使われた版も古くなっています。「AIで調べると必ず浅くなる」とは読めません。それでも、楽に答えが手に入ったときほど、自分で理由を組み立てる時間を別に取る理由にはなります。

任せてよいのは、入口の部分です。まったく知らない分野で、用語と論点の見当をつける。何を調べればよいかが決まったら、そこから先の裏取りは自分でします。資料を開き、該当する文を見つけ、自分の言葉でまとめ直してください。まとめる作業が力になることは、文章を作るときの使い方で紹介しています。勉強全体での使い方は学習・受験でどう使うかにまとめました。

この記事の限界

存在しない文献の割合や、引用の正確さを測った研究は、英語の質問と英語の文献で行われています。分野も、学術文献、医学、法律に偏っています。日本語で調べたときの割合は、今回の調査では確かめられませんでした。使われたAIは2023年から2024年ごろの版が中心です。今の製品にそのまま当てはまるとは限りません。誤りが減っている可能性も、別の形の誤りが増えている可能性もあります。

横読みの研究は米国の高校生と大学生が対象で、ウェブサイトの評価を調べたものです。AIの回答に横読みを当てはめる部分は、この記事の提案です。検証の手順や領域別の表も、研究と公的な指針から考えた提案で、手順そのものの効果は実験で確かめられていません。ガイドラインは改訂されるため、使う時点の公式資料と、学校の指示を確かめてください。

出典

なお、当サイトの運営者は学習塾（武蔵野個別指導塾）を運営しています。子どもの勉強での使い方は、利害関係を明記したうえで学習・受験でどう使うかにまとめています。編集方針は運営者情報をご覧ください。

この記事のまとめ

よくある質問

AIが挙げた参考文献は、そのままレポートに書けますか？

書けません。2023年4月にChatGPTに文献レビューを書かせた研究では、GPT-3.5が挙げた文献の55%、GPT-4でも18%が実在しませんでした。実在した文献にも、著者や年の誤りがありました。1件ずつ探して、中身を読んでから使ってください（Walters & Wilder, 2023）。

ウェブを検索して答えるAIなら、出典は信用できますか？

開いて確かめる必要があります。2023年に発表された研究では、回答の文のうち、付いている引用で完全に裏づけられていたものは平均51.5%でした。医療の質問を使った研究でも、検索つきのGPT-4oの回答のほぼ半分は、出典だけでは全部を裏づけられませんでした（Liu et al., 2023; Wu et al., 2025）。

なぜAIは、自信ありげに間違うのですか？

言葉のつながりとして自然な文章を作る仕組みだからです。誤りには、聞くたびに答えが変わるでたらめな誤りと、いつも同じように繰り返す誤りがあります。聞くたびに変わる誤りも、AIはなめらかに言い切ります（Farquhar et al., 2024）。文の調子からは見分けにくいと考えてください。

情報が正しいかどうかは、どう確かめればよいですか？

そのページやAIの画面を離れ、別の場所で調べます。事実確認の専門家は、サイトをざっと見たら新しいタブを開き、運営元をほかの場所で調べていました。発信者、時期、内容を見て、ほかの情報と比べる方法を組み合わせます（Wineburg & McGrew, 2019; 文部科学省, 2024）。

学校のレポートでAIを使ったら、どう書けばよいですか？

まず学校や先生の指示を確かめてください。文部科学省のガイドラインは、AIの出力を引用するなら、使ったことを明記する対応が必要と考えられるとしています。例として、サービスの名称、入力した文、使った日付を示すことを挙げています（文部科学省, 2024）。