人間の定義を考える課題で生成AIを人のように感じると答えを信じすぎるのか｜擬人化と信頼の研究

画面には、深夜まで続いた生成AIとのやりとりが長く残っています。人間の定義を考える小論文の課題で、返ってくる説明を読みながら、相手にも考えや気持ちがあるように感じることがあります。人間の定義は、何をもって人間と捉えるかという問いで、観点によって答えがわかれます。説明を聞きやすいと感じることと、その説明を結論として採ってよいことの境目が気になるところです。

人間の定義を考える課題で生成AIを人のように感じると答えを信じすぎるのか｜擬人化と信頼の研究

画面には、深夜まで続いた生成AIとのやりとりが長く残っています。人間の定義を考える小論文の課題で、返ってくる説明を読みながら、相手にも考えや気持ちがあるように感じることがあります。人間の定義は、何をもって人間と捉えるかという問いで、観点によって答えがわかれます。説明を聞きやすいと感じることと、その説明を結論として採ってよいことの境目が気になるところです。

人ではないものに意図や感情などの人らしさを感じることを、擬人化と呼びます。人らしい相手への信頼が崩れにくい研究はありますが、意識がありそうに感じるほど答えを受け入れる、という一直線の関係ではありません。助言を採る行動には、相手を賢いと評価することも関わります。そこで、親しさ、能力への期待、答えを採る理由を分けて読むと、会話の印象だけで小論文の結論を決めるのを避ける手掛かりになります。

要点

• 人らしさを感じることと、答えが正しいことの区別
• 音声や見た目によって変わる信頼の評価
• 意識の印象より、賢さの評価と結びついた助言の受け入れ
• 賛成の根拠と反対の根拠に分けて読む方法
• 人のような呼び方が出たときに、出どころへ話を向ける保護者の役割

人間の定義を考えるとき、相手の心と答えの根拠を分けます

生成AIの説明に納得するとき、納得の理由には違いがあります。言い方が優しいから聞き続けたくなる場合もあれば、理由が筋道立っているから採りたくなる場合もあります。さらに、自分のことを理解している相手のように感じる場合もあります。これらをすべて「信頼している」と呼ぶと、どこで判断が動いたのかが見えにくくなります。

Colombatto（2024）は、米国の住民300人を調べ、過半数が大規模言語モデルに何らかの意識の可能性を認めたと報告しました。大規模言語モデルは、大量の文章から次に来る語を予測するよう学習した仕組みで、ChatGPTなどの土台です。この調査で尋ねた意識は、感情や感覚のような主観的な経験に関わるものです。測ったのは利用者が相手をどう捉えるかであり、AI自身の意識の有無を検査したものではありません。

この違いは、課題を進めるときにも役立ちます。返事を読んで心があるように感じたことは、自分の受け止めとして書き留められます。一方、その印象を人間とAIの境界についての証拠に置き換えると、感じ方と論拠が混ざります。自分が相手をどう感じたかを考察の入口にする場合も、そこから何を主張するかには別に理由を添える必要があります。

文章を読む際には、相手についての印象を表す部分と、課題への答えを述べる部分に目を向けます。丁寧な応答や親しみのある言葉が多くても、主張を支える理由がどこにあるかは別に探せます。逆に、無機質な言い方であっても、理由のつながりを検討する作業は残ります。話し相手としての感触を消すことより、論じる材料の所在をはっきりさせるほうが、小論文を書く作業につながります。

声や人らしさは、正確さの印象を動かします

de Visser（2016）は、コンピュータ、アバター、人という異なる助言者から、次第に当たらなくなる助言を受けたときの信頼を調べました。アバターは、画面上で相手を表す人物像です。対象は参加者（国・人数・年齢の記載なし）で、属性を詳しく区別して読むための情報は抄録に載っていません。対象は生成AIとの自由な会話ではなく、自動化された助言者を含む実験でした。

Cohn（2026）は、米国の英語を話す成人1,485人を対象に、言語モデルに見立てた仕組みの答えの見せ方を変えました。文字だけの条件と音声を加えた条件などを比べ、参加者は18歳以上でした。評価の中心は、相手が人に似ているか、答えが正確だと感じるかという受け手の印象です。結果を読むときは、問題の正答を採点した値と区別する必要があります。

若い人ほど信じやすいという結果ではありません

Cohn（2026）では、18〜26歳の参加者は、ほかの世代より擬人化や信頼、正確さの評価が一貫して低い結果でした。この点から、若い世代だから機械を人のように感じやすい、と年齢だけで決めつける読み方は適切ではありません。また、若い成人の結果は、未成年の答えの受け取り方そのものを測った値ではありません。声による印象の変化と世代による違いを分けることで、保護者の印象だけで子どもの信じ方を決めることを避けられます。

意識を感じることと、助言を採ることは同じではありません

Colombatto（2025）は、事前登録した実験で410人に言語モデルの心の働きを評価してもらい、その後に助言をどれだけ採るかを調べました。事前登録は、調べる仮説や分析の計画を、結果を見る前に登録する方法です。意識を感じる度合いと助言の受け入れに正の相関がある、という見方に反する強い証拠が得られました。相関は、ある評価が高い人ほど別の行動も多い、といった結びつきを意味します。

同じ実験では、感情や経験に関わる心を感じる度合いは、むしろ助言を採る行動と負に結びつきました。強く結びついたのは、推論や計画ができそうだという「賢さ」の評価でした。したがって、相手を友達のように呼ぶかだけでなく、能力をどう見積もっているかも、研究を読む際の区別になります。心の印象、能力の印象、実際に答えを変える行動は、それぞれ違う測定です。

見た目についても、人に近づければ信頼が増え続けるわけではありません。Mathur（2016）は、実在する80体のロボットの顔と、人らしさを調整した顔を使い、好ましさや投資ゲームでお金を預ける行動を調べました。人に近いが完全には人に見えない顔で、好ましさや信頼が落ちる「不気味の谷」が現れました。これは顔の見た目を扱った結果であり、親しみの増加と信頼の増加を同じ線に並べないための材料です。

Girouard-Hallam（2022）が調べたのは、主に白人の中上流家庭の幼児と小学生でした。年長の子どもほど、事実の情報には音声アシスタントを、身近な人についての情報には人を選ぶ傾向がありました。相手を信じるかどうかは、年齢と尋ねる情報の種類によってわかれた結果です。相手に知る力があると思うことと選好も結びつかなかったため、どの研究でも賢さだけで信頼が決まる、とまとめることもできません。

当てにならない助言で、自分の判断を変える危うさがあります

Holbrook（2024）は、不確かな画像で判断を下す模擬課題で、ロボットの助言を人がどう受け入れるかを調べました。人に近い見た目のロボットへの信頼は、ほかの見た目よりわずかに高い程度でした。一方、どの種類のロボットでも、でたらめな反対を受けた参加者は多くの場合に判断をひっくり返し、最初の成績が大きく下がりました。人らしさの差が小さくても、当てにならない助言への頼りすぎが強く表れた結果です。

ここで注意を向けたいのは、答えを変えた理由です。新しい根拠を得て自分の考えを改めることは、論じるうえで意味があります。しかし、相手が自信ありげに否定したことだけを理由に考えを捨てるなら、内容の検討が抜け落ちます。研究が示した行動を小論文に引き寄せて考えるなら、変更の前後で、何の理由が加わったかを残す方法が考えられます。

たとえば、AIの説明に触れた後で自分の主張を変更するときは、元の主張を消さず、採用した理由を横に書きます。理由の欄に相手の口調や賢そうな印象しか残らなければ、文章を完成させる前に立ち止まる目印になります。もっともらしい言葉が増えたことと、主張を支える材料が増えたことを見比べられます。これは研究で効果を測った訓練ではなく、判断の変化を見える形にするための編集部の提案です。

根拠を読み分ける余裕がないまま、結論だけを生成AIに決めてもらう使い方は避けたいところです。特に、反対意見を自分の言葉で説明できない段階では、追加の対話を続けるより、まだ決めていない箇所を残して終える選択が合います。深夜のやりとりをその場で完成した答えにする必要はありません。結論を保留した下書きにも、考えを進めるための役割があります。

人間の定義への答えは、賛否の根拠に分けて読みます

まず、AIの答えを読む前の自分の考えを短く書き、どの点で迷っているかを添えます。すでに長く話していた場合は、会話の中で気になった主張を選び、その理由を自分の言葉で抜き出します。生成AIが書いた説明は、人の意見としてではなく、検討する材料の一つとして扱います。誰が言ったように感じるかより、どの文が何を支えるかに印を付けるためです。

次に、賛成の根拠と反対の根拠を分けて並べます。賛成側に理由があるのに、反対側には結論しか書かれていなければ、比べる材料がまだそろっていません。必要なら、AIへの指示を「この主張を支える理由と、反対する理由を分けてください。」のように短くします。指示の役割は論点を取り出しやすくすることで、出てきた理由の正しさは別に検討します。

文章の中に用語の説明や事実の主張が含まれるときは、その箇所を教科書や用語集の記述と照らします。見比べるのは、文章全体の雰囲気ではなく、用語が同じ意味で使われているか、ある事実からその結論を導けるかという点です。価値判断に関わる箇所には、どんな考え方を前提にした結論かを書き添えます。事実の一致と、価値判断への賛成を別々に扱うと、AIの言い切りを丸ごと自分の結論にする必要がなくなります。

最後に、採用する主張に対して、自分が受け入れた理由と、なお残る反対の理由を続けて書きます。反対側を載せることは、自分の結論を取り消すことではありません。どの反論を考慮したうえで、その立場を選んだのかを読者に示す作業です。答えの定まらない問いを扱う文章では、流暢な結論だけより、選んだ理由が読める下書きのほうが推敲の対象をはっきりさせます。

保護者は、人のような呼び方から出どころへ話を向けます

保護者が見るところは、子どもがAIを人のように話したときに、その答えの出どころを尋ねる一言を添えられるかです。「この子は」「あの人は」という呼び方だけで、使いすぎや信じすぎと決める必要はありません。呼び方を注意することに話を集中させると、課題に採ろうとしている答えが話題から外れてしまいます。会話の焦点を、相手の呼び名から、どの説明を受け取ったのかへ移すことができます。

出どころを尋ねる際は、AIが返した文なのか、子どもがそれを受けて考えた文なのかが見える程度に絞ります。回答のすべてを読み上げてもらう必要はなく、結論に関わる箇所を指してもらう形で十分です。相手を親しく感じた理由まで説明させるより、子どもが文章の由来を言葉にしやすい聞き方になります。出どころが曖昧なら、その場で親が正解を言い渡すより、由来がまだ曖昧な文として受け止める余地があります。

この働きかけは、子どもの親しさを取り上げるためのものではありません。AIの文章と自分の考えの境目を、課題の話の中で見えるようにするものです。子どもが生成AIの答えを紹介しているときと、自分の考えとして話しているときでは、保護者が受け取る言葉の意味も変わります。出どころに目を向けるだけでも、会話を続ける入口は作れます。

深夜の画面を前にした子どもがAIを人のように呼んだら、保護者は答えがどこから来たのかへ話題を向けます。子どもが画面の文を指せば、親が耳を傾ける対象も、機械の呼び名から課題の文章へ移ります。そこで並ぶのは、AIが返した説明と、それを読んだ子どもの考えです。相手の人らしさをめぐる言い争いではなく、文章の由来を一緒に見ている場面です。

よくある質問

AIに親しみを感じたら、使うのをやめるべきですか

親しみを感じたという理由だけで、使用をやめると決める必要はありません。先に見たColombatto（2025）の結果でも、心を感じる評価と助言を採る行動は区別されていました。課題を続けるかの目安には、主張を変えた理由を自分で書けるかを置けます。理由を探す代わりに結論の承認だけを求め始めたら、対話を区切って下書きを残す選択があります。

音声を切って文字だけにすれば、信じすぎを防げますか

文字だけへの切り替えを、信じすぎを防ぐ保証として扱うことはできません。先に見たCohn（2026）の結果は、答えの見せ方による印象の違いを扱っています。音声や表示の設定を変える場合は、使っているサービスの最新の説明で、選べる方法を確かめます。読むときは、口調を取り除いて主張と理由だけを書き出す方法も選べます。

AIが謝ったら、その後の答えは信頼してよいですか

謝り方だけでは、その後の答えの根拠を評価できません。de Visser（2016）では、人らしい信頼の立て直しの振る舞いを入れると、助言者の種類による信頼の差がほぼ消えました。謝罪の表現は、相手への信頼を動かす要素として読む必要があります。訂正後は、どの主張が変わり、変更の理由が何になったかを元の文と並べて読む方法が合います。

この記事の限界

適用範囲は、米国の成人を含む人々の印象評価や判断の課題、幼児と小学生の音声アシスタント選択、ロボットの見た目を扱う実験にまたがり、長期の小論文の学習を追った結果ではありません。言語モデルに見立てた仕組みや生成AI以前の助言者も使われており、現在の対話モデルで同じ信頼の変化が起きるかは、これらの結果だけでは定まりません。

また、意識がありそうだという評価、答えを採る行動、正誤を見抜く力は異なる測定で、擬人化と正誤の見抜き方を結びつけた結果は今回集めた範囲にはありませんでした。日本の中高生が日本語で対話し、人間の定義のような答えの定まらない問いで、擬人化によって信じすぎるかを直接測る課題は、引いた研究の対象には含まれていません。

参考文献

1. de Visser EJ ほか. Almost human: Anthropomorphism increases trust resilience in cognitive agents. J Exp Psychol Appl 2016;22(3):331-349.
2. Colombatto C ほか. Folk psychological attributions of consciousness to large language models. Neurosci Conscious 2024;2024(1):niae013.
3. Cohn M ほか. Age and generational differences in anthropomorphism and trust in large language models. Front Cognit 2026;5:1824836.
4. Holbrook C ほか. Overtrust in AI Recommendations About Whether or Not to Kill: Evidence from Two Human-Robot Interaction Studies. Sci Rep 2024;14(1):19751.
5. Colombatto C ほか. The influence of mental state attributions on trust in large language models. Commun Psychol 2025;3(1):84.
6. Mathur MB ほか. Navigating a social world with robot partners: A quantitative cartography of the Uncanny Valley. Cognition 2016;146:22-32.
7. Girouard-Hallam LN ほか. Children’s trust in and learning from voice assistants. Dev Psychol 2022;58(4):646-661.

よくある質問