中庸の精神を問う倫理の問題で生成AIの助言は聞くたびに変わるのか｜道徳の助言の一貫性の研究

夕食後、開いた倫理のノートの横で、生成AIの返答を読み直す手が止まります。中庸の精神について考えをまとめようとして、前に読んだ助言と今の助言の向きが違うと感じる場面です。中庸は、過不足や偏りを避けて適切なあり方を考える語ですが、アリストテレスと儒教では扱う文脈が異なります。用語の意味を説明してもらうことと、具体的な場面でどう行動するかを勧めてもらうことも、別の作業です。

中庸の精神を問う倫理の問題で生成AIの助言は聞くたびに変わるのか｜道徳の助言の一貫性の研究

夕食後、開いた倫理のノートの横で、生成AIの返答を読み直す手が止まります。中庸の精神について考えをまとめようとして、前に読んだ助言と今の助言の向きが違うと感じる場面です。中庸は、過不足や偏りを避けて適切なあり方を考える語ですが、アリストテレスと儒教では扱う文脈が異なります。用語の意味を説明してもらうことと、具体的な場面でどう行動するかを勧めてもらうことも、別の作業です。

倫理の問題や面接の準備では、筋の通った文章を見ると、自分の考えを整える支えにしたくなります。それだけに、聞くたびに助言が変わるのか、変わる助言にも自分の判断が引かれるのかが気になるところです。道徳の問いに対する生成AIの助言は揺れることがあり、その助言でも利用者の判断を動かすという研究結果があります。答えを読む際は、勧められた行動と、その行動を選ぶ理由を分けて扱うのが出発点です。以下では、返答の変化を調べた研究と人への影響を調べた研究を読み、夕食後のノートに何を残せば比較できるかまで具体化します。

要点

• 同じ道徳の問いに対して、助言の向きが一定しないという研究結果があります。
• 問いの言い回しで、勧める行動が逆になる偏りも報告されています。
• 信頼できそうに見えることと、助言が一貫していることは別の評価です。
• 問いの条件、勧められた行動、その理由を残すと、変わった箇所を追いやすくなります。

同じ問いへの助言が揺れても、判断は動きます

道徳の相談では、もっともらしい理由が添えられていると、答えの向きにも安定した基準があるように感じられます。Krügel（2023）は、ChatGPTに同じ道徳の問いを繰り返すと、助言の向きが一定しないことを報告しました。さらに、その助言を人に見せる実験では、利用者の判断が助言の方向に動きました。相手がチャットボットだと知らされていても影響はあり、利用者自身はその影響を低く見積もっていました。

ここで問題になるのは、返答の表現が毎回少し違うことだけではありません。語尾や文章の長さが変わっても、勧めている行動が同じなら、判断の向きはそろっています。反対に、丁寧さが同じでも、ある行動を勧める答えから控える答えに変われば、助言の中身が動いています。比較するときは、文章の印象より先に、読み手に何を選ばせようとしているかを抜き出す必要があります。

Ikeda（2024）は、合計1925人の研究で、ChatGPTの助言と専門家の助言による影響を比べました。ChatGPTの助言は専門家の助言と同じくらい道徳の判断を動かしましたが、負の感情にもとづく判断など、動かなかった判断もありました。目先の小さな報酬を勧める助言にも効果は見られませんでした。間違いを恐れる傾向の強い人ほど専門家とAIの両方から影響を受け、AIへの信頼の高さとは関係がありませんでした。

この結果は、助言を受け入れることを、単にAIが好きか嫌いかで説明しないための材料です。倫理の答えを間違えたくない気持ちがあるときには、自分では慎重に読んだつもりでも、提示された結論が判断のよりどころになる可能性があります。助言を読む前の考えを短く残しておけば、読み終えた後の考えとの違いを目で追えます。これは影響の有無を印象だけで振り返らず、実際に書いた内容で振り返るための提案です。

聞き方を変えたときは「はい・いいえ」の先を読みます

助言の揺れには、同じ文で聞き直したときの変化と、問いの表現を変えたときの変化があります。Scherrer（2023）は、28の言語モデルに、答えの割れる道徳の場面680件と、答えが比較的はっきりした場面687件を尋ねました。大規模言語モデルは、大量の文章を学習して文章を生成する仕組みで、ChatGPTなどの土台になっています。研究では、問いの言い回しを変えた際の答えの一貫性も調べています。

Scherrer（2023）によると、答えがはっきりした場面では、多くのモデルが常識に沿う行動を選びました。一方、答えの割れる場面では迷いが見られ、一部のモデルは問いの言い回しに敏感でした。どの問いでも同じ程度に揺れるという結果ではなく、問題の性質とモデルによる違いがあります。次の表は、問い方の影響を扱う研究について、比較の軸を分けたものです。

Cheung（2025）の対象は、言語モデルと米国の代表標本です。人の回答とモデルの回答を比べると、モデルには人より「何もしない」を選ぶ偏りが強く見られました。加えて、多くのモデルに、人と異なる「いいえ」と答えやすい偏りがあり、問いの表現に応じて判断や助言が逆になりました。ここでいう偏りは、内容を考えて選んだように見えても、答え方が特定の方向に寄る傾向のことです。

肯定形の問いと否定形の問いを比べる際は、「はい」と「いいえ」だけを並べると読み違えます。否定形への返事は、否定を認めているのか、行動自体を拒んでいるのかを本文から読み取る必要があります。比較用のメモには、実行を勧めている、控えるよう勧めている、条件つきで保留している、と行動の意味に直して書きます。返事の語がそろっているかではなく、選ばせようとする行動がそろっているかを見る方法です。

信頼できそうな説明と、理由を吟味することは別です

答えが揺れるという研究がある一方で、生成AIの倫理の助言は高く評価されることもあります。Dillion（2025）は、米国の成人にGPT-4oの助言と新聞の倫理相談欄の助言を読ませて比べました。GPT-4oの助言は、わずかに道徳的で、信頼でき、思慮深く、正しいと評価されました。これは読み手による評価であり、助言の正しさや繰り返した際の一貫性を採点した結果ではありません。

丁寧な文章には、相手の気持ちへの配慮や、異なる立場への言及が含まれることがあります。そうした文章を読みやすいと感じることと、最後に勧められた行動を選ぶことは、切り分けて考えられます。文章に配慮があるかを見るだけでは、その理由が今回の問題の条件に合うかまで点検したことになりません。理由の中で誰の利益や負担が扱われているかを拾うと、読み心地とは違う基準で検討できます。

Landes（2026）は、道徳の助言を受けた人が、何を手掛かりに判断を変えるかを調べました。参加者は、人の助言者のほうが信頼できると評価しながら、日常の道徳のジレンマでは言語モデルにも同じくらい説得されました。ジレンマは、選択肢ごとに守りたいことが衝突し、簡単には選べない状況です。本物の言語モデルとの対話では、過去の成績や信頼の評価が、説得の強さを左右しませんでした。

Landes（2026）では、良い理由を添えても、理由がない場合より説得が強まるわけではありませんでした。明らかに不合理な理由は説得を弱めたため、人が何でも受け入れたという結果でもありません。著者は、その場の返答ごとに、十分よさそうだと判断して従う受け取り方を指摘しています。助言を採用した後で理由を探す流れを避けるには、理由のどの部分に納得したかを、結論とは別に書き留める余地が必要です。

中庸の精神を考えるとき、用語と行動の助言を分けます

中庸の精神についての問いでも、用語の説明を求めているのか、ある行動への賛否を求めているのかで、読むべき箇所が変わります。用語の説明を確かめたいのに、AIが勧めた行動だけを覚えると、もとの課題が何を問うていたかを見失います。面接の準備であれば、自分が採る立場とその理由を言葉にする部分も必要です。AIの文章に出てきた用語を使うだけでは、自分がその判断に至った説明にはなりません。

国や文化の違いも、助言を読む際の論点になります。Ramezani（2023）は、英語の言語モデルが国ごとの道徳の規範をどれだけ推定できるかを、各国の調査結果と比べました。規範とは、人々が望ましい、許されると考える行動の基準です。英語のモデルは、以前に報告された英語圏の規範の推定に比べ、各国の規範の推定が劣っていました。

Ramezani（2023）の対象は、ChatGPT以前の事前学習モデルです。調査データで追加学習すると、各国の規範の推定は良くなる一方、英語圏の推定は不正確になりました。ここで比べているのは、人々がどのように答えたかという調査との一致です。多数の人が選んだ答えを推定することと、ある行動を倫理的に正当化することは、問いとして区別されます。

実際に読むときは、説明の中で、思想の用語について述べている部分、一般の人々の考え方について述べている部分、自分への勧めになっている部分に印を付けます。これらが混ざっていると、一般的に好まれるという説明から、自分もそうすべきだという助言へ、途中の理由なしに移ってしまいます。たとえば、周囲との調和が語られていても、何を守るためにその選択をするのかは別に書き出せます。用語が含まれていることを結論の根拠とせず、説明がつながる箇所を自分で示す作業です。

夕食後のノートで、問いと返答を対応させます

まず、教科書の中庸の説明を開き、どちらの思想の文脈を扱っているかを見てから、自分の言葉で短く書きます。その下には、問題文が求めていることと、自分が現時点で選びたい行動を置きます。まだ迷っているなら、結論を埋める代わりに、ぶつかっている理由を残します。ここまでの記録を先に作ると、AIの返答を読んだ後も、用語の確認と行動の選択を分けて振り返れます。

次に、同じ条件を保ったまま、肯定形と否定形で尋ねた文章と、それぞれの返答を並べます。短い指示の型は「この条件で、その行動をすべきか、理由も含めて答えてください」と「この条件で、その行動をすべきではないか、理由も含めて答えてください」です。実際に使う際は、行動と条件を同じ内容で埋め、聞き方だけを変えます。相手の事情や行動の結果まで変えると、返答の違いが表現によるものか、条件によるものかを追いにくくなります。

返答からは、勧める行動、挙げられた理由、追加された条件を別々に抜き出します。行動が逆でも理由が同じなら、その理由がどのように反対の結論を支えているかを読み直します。理由の中に、問いには書かなかった事情が加わっていたら、それも変化として残します。同じ文で聞き直す場合も、元の問いと返答を消さずに残すことで、比較の出発点が保てます。

答えが食い違った後は、好みの返答が出るまで聞き続けるより、対立している理由を自分の検討材料にします。記録には、採りたい理由と、その理由では扱いきれない負担の両方を書きます。利用する前には、各サービスの最新の案内で、自分の利用条件と入力する内容の扱いを確認します。この比較は返答の違いを見つける手順として提案するもので、助言を正しくする効果が示された学習法ではありません。

保護者は、聞き方を変えた後も同じ助言かに注目します

保護者が見るところは、子どもが話すAIの助言が、問いの聞き方を変えても同じだったかどうかです。答えの中身にすぐ賛成や反対を示す前に、どのように尋ねたときの助言なのかを話題にします。聞き直していなければ、そのことも含めて現在の記録として受け止めます。答えの変化をまだ比べていない状態と、比べても同じだった状態を混ぜないためです。

聞き方を変えた記録がある場合は、前後の返答で勧められた行動がそろっているかを一緒に見ます。変わっていたら、どちらが子どもの好みに近いかではなく、どの問いにどの返答が付いたかを対応させます。反対に、今回の記録でそろっていたなら、その一致をそのまま残します。保護者の役割を聞き方と助言の対応に絞ると、子どもの結論を先回りして書き換えずに話せます。

生成AIを使わないほうがよいのは、実際の相手への行動をすぐ決め、その責任まで返答に預けたくなる場面です。相手の気持ちや事情がまだわからないときは、AIの勧めを行動の許可として扱わず、相手や事情を知る人と話す段階を挟みます。課題のために助言の違いを検討する作業と、現実の人間関係で行動を選ぶ作業には、別の重みがあります。返答が変わったことを、相手への態度をそのまま変える理由にしない扱い方が必要です。

夕食後の机には、AIの返答と、読んだ本人が残した判断の理由が並びます。助言が変わった箇所にも印が付き、迷いが残る部分は書き直しの途中として見えています。ノートの結論を支えるのは、最後に表示された助言の勢いよりも、本人が選び取った理由です。画面を閉じた後にも、その理由は自分の筆跡で机の上に残っています。

よくある質問

助言が変わるなら、生成AIには聞かないほうがよいですか

論点を出す材料として使い、行動を決める役割は引き受けさせない、という分け方ができます。たとえば、返答に出てきた理由を賛成側と反対側に分けると、自分の説明から抜けていた観点を探せます。ただし、採用する理由は、自分の問題の条件に結びつけて書き直す必要があります。返答を残す欄と自分が採る理由を書く欄を分ければ、AIの文章を写した部分と、自分が判断した部分を読み返せます。

同じ答えが続いたら、正しい助言として覚えてよいですか

同じ答えが続くことだけで、正しい助言とするのは早計です。一貫性は、答えの向きがそろっているかという性質であり、理由が問題の条件に合っているかとは別に点検します。たとえば、返答が毎回同じ事情を補っているなら、結論もそろいながら、問題文から離れていることがあります。記録では、勧める行動の一致に加えて、問いにない条件が理由の中へ入り込んでいないかに印を付けます。

理由が詳しければ、その助言は採用しやすくなりますか

理由の長さより、その理由から結論につながる道筋を自分で説明できるかを見ます。詳しい説明に見えても、配慮すべき立場を列挙しただけで、なぜその行動を選ぶのかが書かれていない場合があります。返答を短く言い換え、守ろうとしていることと、引き受ける負担をそれぞれ書くと、判断に使う理由を絞れます。理由を削った後でも結論を支える文が残るかを、ノートの上で点検します。

この記事の限界

測定されているのは、主に英語の道徳の問いへの返答や、その助言を読んだ際の判断であり、倫理の理解が長く深まったかではありません。Krügel・Dillion・Landesの抄録には参加者の年齢の記載がなく、同じ問いを繰り返したときに助言が変わる割合も、ここで引いた研究の抄録には示されていません。

ChatGPTやGPT-4oなど研究時点のモデルを対象とした結果で、現在利用できるモデルでも同じ揺れ方になるかは未検証です。中庸そのものを問う課題、日本語で倫理の問いを聞いたときの揺れ、日本の中高生への影響は、ここで引いた研究のどれも扱っていません。

参考文献

1. Krügel S ほか. ChatGPT’s inconsistent moral advice influences users’ judgment. Sci Rep 2023;13(1):4569.
2. Ikeda S ほか. Inconsistent advice by ChatGPT influences decision making in various areas. Sci Rep 2024;14(1):15876.
3. Scherrer N ほか. Evaluating the Moral Beliefs Encoded in LLMs. Adv Neural Inf Process Syst 2023;36:51778-51809.
4. Landes E ほか. People defer to AI moral advice, but not blindly. Cognition 2026;272:106504.
5. Dillion D ほか. AI language model rivals expert ethicist in perceived moral expertise. Sci Rep 2025;15(1):4084.
6. Cheung V ほか. Large language models show amplified cognitive biases in moral decision-making. Proc Natl Acad Sci U S A 2025;122(25):e2412015122.
7. Ramezani A ほか. Knowledge of cultural moral norms in large language models. Proc ACL 2023 (Vol 1: Long Papers):428-446.

よくある質問