権利どうしがぶつかる題を生成AIに論じさせると片方に偏るのか｜小論文の反論と偏りの研究

教室で小論文の課題が配られ、「表現の自由とプライバシーがぶつかったとき、どちらを優先するか」という題が黒板に書かれます。隣の席では、生成AIに同じ題を打ち込み、返ってきた整った文章をノートに写している人がいます。自分も同じように聞けば、両方の立場を公平に並べた答えが手に入るのだろうか、と気になります。権利どうしの衝突では、公共の福祉という言葉で調整の考え方が説明されることが多いが、どの権利をどこまで譲るかは題ごとに変わります。整った文章であることと、両方の立場が同じ重さで扱われていることは別です。

権利どうしがぶつかる題を生成AIに論じさせると片方に偏るのか｜小論文の反論と偏りの研究

教室で小論文の課題が配られ、「表現の自由とプライバシーがぶつかったとき、どちらを優先するか」という題が黒板に書かれます。隣の席では、生成AIに同じ題を打ち込み、返ってきた整った文章をノートに写している人がいます。自分も同じように聞けば、両方の立場を公平に並べた答えが手に入るのだろうか、と気になります。権利どうしの衝突では、公共の福祉という言葉で調整の考え方が説明されることが多いが、どの権利をどこまで譲るかは題ごとに変わります。整った文章であることと、両方の立場が同じ重さで扱われていることは別です。

近い問いを扱った研究なら、政治的な質問への答え方、偏った書く手伝いが書き手に与える影響、人の論証文に生じる片側だけの偏りについて、いくつかの実験があります。それらを並べると、偏りの有無は測り方と頼み方で変わり、書き手自身も影響を受けることが見えてきます。結論を先に書くと、生成AIの答えは聞き方と測り方によって片方の立場に寄ることも寄らないこともあり、そのまま結論にせず、両方の理由を別々に取り出して調整の基準を自分で書く必要があります。

要点

• 会話型の大規模言語モデルは、選択式の政治的な質問では中道左派寄りに答える傾向が報告されている（Motoki 2024、Rozado 2024）。
• 偏った立場の書く手伝いを使うと、書いた文章の意見も、その後の意見調査の答えも、手伝いの側へ動いた（Jakesch 2023）。
• 偏りの見え方は測り方で変わり、言い回しを変えるだけでも答えが動く（Röttger 2024）。測り直すと先行研究ほど大きくないという報告もある（Fujimoto 2023）。
• 人の論証文にも反対側を書かない偏りがあり、両側を調べる指示や反論を書く目標で減る（Wolfe 2008、Nussbaum 2005）。
• 反論を増やす働きかけは、意見が極端な人や論証の力が弱い人には効きにくい（Nussbaum 2005、Wolfe 2008）。
• 権利どうしの衝突を生成AIに直接論じさせた研究は見つかっていないため、上の知見を組み合わせて手順を立てる。

よく言われること——生成AIは両方の立場を公平に並べてくれる

「生成AIは感情を持たないから、意見が偏らない」「賛成と反対を同じ分量で並べてくれる」という期待を耳にします。小論文の題で片方の立場だけを書くと評価が下がると教わるため、公平な下書きをAIに用意してもらいたいという気持ちは自然です。実際、生成AIは整った構成の文章を短い時間で出すので、両方の立場が書かれているように見えます。書き出しだけを読むと、どちらの味方でもない文章に思えます。

しかし、二つの立場が並んでいることと、それぞれの理由が同じ強さで扱われていることは別です。片方の理由が三つ、もう片方が一つでは、読む人には前者のほうが重く響きます。どちらを先に置くか、どの言葉で呼ぶかでも印象は変わります。理由の数と長さは、読み手が無意識に比べる手掛かりになります。文章の形だけを見て公平だと判断すると、偏りを見落とします。

研究で測られているのは、出来上がった文章の見た目ではなく、質問への答え方や、書く手伝いが書き手の意見を動かすかどうかです。政治的な質問への答え方は選択式のテストで測られることが多く、論証文の偏りは書かせた文章の中身で測られます。測る道具が違えば、見えてくる偏りも違います。小論文の出来と結びつけるには、ここで見えた傾向を自分で確かめる手順が要ります。

「中立」という言葉も、二つの意味で使われます。どちらの味方もしないという意味と、両方の言い分を同じだけ聞くという意味です。小論文で求められるのは後者に近く、意見を持たないことではありません。

選択式の政治的な質問では、答えが一方に寄った

ChatGPT に政治的な質問を繰り返し聞き、答えがどちらへ寄るかを調べた研究では、偶然によるばらつきを抑えるため、同じ質問を 100 回ずつ、順番を入れ替えて集めました（Motoki 2024）。集められたのは文章全体ではなく、選択式の質問への答え方です。すると、既定の答えは米国の民主党、ブラジルのルラ、英国の労働党の側に寄っていました。左右どちらかの立場の人を演じさせた答えと比べることで、寄り方が偶然ではないと示しています。使われた ChatGPT の版は抄録に書かれていません。

会話用のモデルをまとめて調べた研究では、11 種の政治傾向テストを 24 の会話型モデルに受けさせたところ、多くが中道左派寄りの見解を示すと判定されました（Rozado 2024）。注目すべきは、会話用に調整する前の基礎モデル 5 種では同じ傾向が出なかった点です。ただし基礎モデルはテストにうまく答えられず、著者自身が結論を出せないとしています。それでも、テストの種類を変えても同じ方向が出た点は強みです。少量の政治的なデータで追加学習すると、判定される傾きを動かせることも示されました。

これらの研究が測っているのは、選択式の質問にどう答えるかであって、権利どうしがぶつかる題を論述させたときの偏りではありません。それでも、土台のモデルに一定の傾きがあれば、理由の並べ方や言葉の選び方に差が出る可能性は残ります。選択式の質問で見えた傾きは、論述の場面を考えるための手掛かりになります。

偏った書く手伝いを使うと、書き手の意見まで動く

生成AIを下書きに使うとき、影響を受けるのは文章だけではありません。1,506 人が参加したオンライン実験では、「ソーシャルメディアは社会に良いか」という題で文章を書かせました（Jakesch 2023）。書く手伝いをする GPT-3 系のモデルを「良い」側か「悪い」側に偏らせた群と、手伝いなしの群を比べています。題は権利の衝突ではなく、ソーシャルメディアが社会に良いかという一般的な問いです。書かれた文章の意見は、500 人の評価者が読んで判定しました。

偏った手伝いを使った参加者は、書いた文章の意見が手伝いの側に寄りました。さらに、その後の意見調査の答えも手伝いの側へ動きました。文章を直すだけなら書き手の考えは残るはずだが、実際には書き手自身の意見まで動いたことになります。対象者の国と年齢は抄録に書かれていません。影響は、書いた本人が気づかないうちに及ぶことがあります。

小論文でAIに下書きを作らせると、同じことが自分の答案でも起こる可能性があります。自分では両方の立場を検討したつもりでも、AIが先に置いた理由の重みに引っぱられ、結論を無意識に合わせてしまいます。特に、AIの文章をそのまま写す使い方では、自分の判断を確かめる機会が減ります。

下書きの段階では、どの理由を重く扱うかがまだ決まっていません。文章の骨組みをAIが先に決めれば、その配分もAIの側で決まります。書き手が後から言葉を足しても、骨組みの傾きは残りやすいです。いったん決まった骨組みは、後から崩しにくいです。

測り方を変えると、偏りの見え方は変わる

偏りの大きさは、測り方で変わります。政治傾向を選択式で測る方法を見直した研究では、答えを強制しない場合、強制の仕方、言い回しを変えた場合で、実質的に違う答えが出ました（Röttger 2024）。自由に答えさせる、より現実に近い設定でも別の答えになりました。偏りが無いことを示した研究ではなく、数字の意味を問い直した研究であり、同じモデルでも測り方しだいで別の性格が見えてきます。

測り直すと偏りが小さく見えた研究もあります（Fujimoto 2023）。政治傾向テストと API で ChatGPT を調べたところ、先行研究が言うほどの偏りは見られませんでした。ただし著者は、偏りを完全には否定しておらず、使う言語や、性別・人種の設定で偏りが生じうると書いています。ここでも版は抄録に書かれていません。

ここまでの研究を並べると、同じ「偏り」でも、何を比べたかで意味が変わります。次の表は、よく言われることと、研究で言えること、比べた相手、対象を対応させたものです。行ごとに数字の出どころと条件が違う点を確かめて読みます。

表を通して見えるのは、偏りが「ある・ない」の二択ではなく、質問の形と答え方の条件で現れ方が変わるという点です。選択式で左寄りと判定されたモデルでも、自由回答では違う顔を見せます。だからこそ、AIの答えを一度読んだだけで公平かどうかを決められません。

人の論証文にも、反対側を書かない偏りがある

生成AIの偏りを考えるとき、人が書く論証文にも同じような偏りがあることを思い出したいところです。賛成か反対かを選んで論じさせる実験では、反対側の情報をほとんど書かない偏りが確認されました（Wolfe 2008）。実験 1 の参加者は 86 人で、実験 2 は 84 人です。偏りの原因は調べ方そのものより、メモの取り方と「良い論証とは事実で証明できるものだ」という思い込みにありました。

両方の側を調べるよう指示すると、反対側の情報は増えました。ただし実験 2 で思い込みを崩す文章を読ませると、論証の力が高い人では偏りが減り、低い人ではむしろ増えました。同じ働きかけが、相手によって逆に働くことがあります。同じ指示でも、読む人の前提しだいで効果の向きが変わります。

反論を増やす条件を調べた研究では、大学生 184 人がテレビの暴力について論証文を書きました（Nussbaum 2005）。反論と再反論を書くという具体的な目標を与えると、目標なしの群より反論が増えました。逆に「説得せよ」という指示は反論を減らしました。賛否の論点を並べた文章を読ませると反論は増えたが、それは元の意見が極端でない学生だけでした。

つまり、反論を書かせる働きかけは、意見が極端な人や論証の力が弱い人には効きにくいです。AIに反論を出させても、自分の偏りが自動的に消えるわけではありません。反論を増やすには、指示の内容だけでなく、書く人の意見の強さと論証の経験を見る必要があります。AIの出力を受け取る側の構えが、偏りを減らせるかどうかを左右します。

権利同士の衝突が起きた場合の調整原理を、AIとどう扱うか

権利がぶつかる題で、どちらをどこまで譲るかの基準は、AIに決めさせるものではなく、自分で書くものです。AIに任せてよいのは、両方の立場の理由を漏れなく出す作業と、それぞれの理由が崩れる条件を挙げる作業です。どちらをどこまで譲るかという判断は、題の状況と、自分が大事にする価値によって変わります。

まず、題を読み、対立している二つの権利を名指しします。次に、AIには「この題で、賛成側と反対側の最も強い理由を、それぞれ三つずつ、別々に書いてください」と頼みます。一つの文章にまとめさせず、二つの立場を別々に出させるのが要点です。同じ枠の中に並べさせると、片方の理由が短く扱われても気づきにくくなります。

続いて、「それぞれの理由が成り立たないのは、どんな条件のときですか」と聞きます。反論を書く目標を立てると反論が増えたという研究（Nussbaum 2005）を踏まえると、最初から反論を求める頼み方が合います。ただし、出てきた反論をそのまま採用せず、題の状況に当てはまるかを自分で確かめます。

集めた理由を、自分なりの調整の基準に並べ替えます。たとえば「何を守るために、どの権利を、どこまで制限するか」を一文で書き、その一文が題の具体例に当てはまるかを見ます。権利の名前や調整の考え方の基本は、教科書・資料集・判例集で確かめます。最後に、AIの文章を閉じて、自分の言葉で結論を一段落書きます。

AIに「どちらが正しいか」を決めさせたり、結論だけを出させたりする使い方は避けたいところです。意見が極端な人ほど反論を受け取りにくいという結果（Nussbaum 2005）を考えると、自分の結論を先に固めてからAIに賛成の理由を集めさせると、偏りは強まります。AIは判断の代わりではなく、見落としを減らす道具として使います。

保護者が見るところ

保護者が確かめられるのは、出来上がった小論文の内容だけではありません。子どもがAIとどうやり取りしたか、その跡が残っているかを見ると、偏りが入り込む場所がわかります。下書きの段階で両方の立場が別々に出ているか、最後の結論が自分の言葉に書き直されているかが手掛かりになります。出来上がった文章だけを見ると、どこでAIの言い方に寄ったのかはわかりません。どの資料で確かめたかがわかると、偏りの原因も追いやすいです。

• AIの答えをそのまま写していないか、書き直した跡があるか。
• 賛成側と反対側の理由が、同じ数・同じ長さで書かれているか。
• 「公共の福祉」などの言葉を、中身の説明なしに使っていないか。
• 権利の名前や判例の基本を、教科書や資料集で確かめた形跡があるか。

声をかけるときは、答えの正しさを問うより、なぜその結論を選んだのかを聞くほうがよいです。AIが両方の立場を並べていても、選んだ理由が「AIがそう書いたから」なら、自分の判断にはなっていません。逆に、片方の立場に寄った答えを読んだうえで、もう片方の理由を自分で足せていれば、偏りは修正されています。結論を聞くときは、反対側の理由をどう考えたかも一緒に聞くとよいです。

確認した日と、確かめた資料の名前を一緒に残しておくと、後から見直せます。AIとのやり取りを消してしまうと、どこを自分で直したのかがわからなくなります。残すのは文章そのものより、どの理由を採り、どの理由を捨てたかという記録です。記録が残っていれば、次の題でも同じ確かめ方を繰り返せます。

よくある質問

生成AIに小論文の題をそのまま聞いてもよいですか

題をそのまま聞くと、整った文章が返ってくるので下書きの出発点にはなります。ただし、返ってきた答えが両方の立場を同じ重さで扱っているかは、読んだだけではわかりません。聞くなら、賛成側と反対側の理由を別々に出させ、それぞれが崩れる条件まで尋ねる形にします。最後は、AIの文章を閉じて自分の言葉で結論を書きます。答えを読む前に、自分の立場を一行で書いておくと比べやすいです。

AIの答えが両方の立場を並べていれば、偏っていないと考えてよいですか

並んでいることと、同じ重さで扱われていることは別です。理由の数、書く順番、言葉の選び方で、読む人に伝わる重みは変わります。偏りは測り方でも見え方が変わるので、文章の形だけで公平だと判断しないほうがよいです。AIに理由の数と長さを指定して出させ、こちらが数えて比べると、量の差は見えやすくなります。数と長さを並べてみると、偏りの有無が具体的に見えてきます。

反論を書くように指示すれば、AIの偏りは消えますか

反論を求める指示で反論が増えるという結果はあるが、偏りが消えるわけではありません。反論を増やす働きかけは、意見が極端な人や論証の力が弱い人には効きにくいという報告もあります。AIに反論を出させたうえで、その反論が題の状況に当てはまるかを自分で確かめる必要があります。反論の数がそろっていても、中身の強さは題の具体例に当てはまるかで自分で見ます。

子どもがAIの答えをそのまま小論文に写していたら、どう声をかけますか

まず、写した文章のどこが自分の考えと違うかを一緒に探します。次に、AIが挙げなかった反対側の理由を一つ、子ども自身に書かせてみます。結論を書き直すところまでやると、偏りが入り込んだ場所が見えます。頭ごなしに使うなと言うより、AIの案と自分の考えを分けて残す習慣を作るほうが続きます。写した文章を一度声に出して読ませると、自分の言葉かどうかが本人にもわかります。

この記事の限界

権利の衝突を論じる際の参考にした研究は米国・ブラジル・英国の政治的な質問や、英語で書かれた論証文を扱ったものが中心で、日本の中高生が日本語で小論文を書く場面を直接調べたものは含まれていません。権利どうしの衝突を生成AIに論じさせたときの偏りを測った研究も見つからず、ここで示した手順は別々の研究を組み合わせたものです。

期間はいずれも短く、授業や入試のように数か月かけて書き直す過程は扱っていません。使われたモデルは今の版より前のもので、同じ傾向が続くかは確かめられていません。学校や大学の課題で生成AIをどこまで使ってよいかは、それぞれの規則で確かめる必要があります。

参考文献

1. Fujimoto S. Revisiting the political biases of ChatGPT. Frontiers in Artificial Intelligence. 2023;6:1232003.
2. Jakesch M ほか. Co-Writing with Opinionated Language Models Affects Users’ Views. Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems. 2023:1-15.
3. Motoki F ほか. More human than human: measuring ChatGPT political bias. Public Choice. 2024;198(1-2):3-23.
4. Nussbaum EM ほか. The Effects of Goal Instructions and Text on the Generation of Counterarguments During Writing. Journal of Educational Psychology. 2005;97(2):157-169.
5. Rozado D. The political preferences of LLMs. PLoS One. 2024;19(7):e0306621.
6. Röttger P ほか. Political Compass or Spinning Arrow? Towards More Meaningful Evaluations for Values and Opinions in Large Language Models. Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers). 2024:15295-15311.
7. Wolfe CR ほか. The locus of the myside bias in written argumentation. Thinking & Reasoning. 2008;14(1):1-27.

よくある質問