司法の役割を生成AIが代われるのか｜AIの判断を人はどこまで受け入れるかの研究

公民の授業中、開いた教科書の横に、裁判の判断をAIに任せる案への賛否を書き込む欄があります。司法の役割を学ぶ単元で、機械なら感情に流されにくそうだと考えても、自分について決められる側に立つと、理由を聞いたり、事情を伝えたりする相手も気になります。生成AIが筋道の通った説明を書ければ、裁判官の仕事まで任せてよいのでしょうか。予測の成績や人の納得を調べた研究だけで、生成AIが司法を代われるとは結論できません。

司法の役割を生成AIが代われるのか｜AIの判断を人はどこまで受け入れるかの研究

公民の授業中、開いた教科書の横に、裁判の判断をAIに任せる案への賛否を書き込む欄があります。司法の役割を学ぶ単元で、機械なら感情に流されにくそうだと考えても、自分について決められる側に立つと、理由を聞いたり、事情を伝えたりする相手も気になります。生成AIが筋道の通った説明を書ければ、裁判官の仕事まで任せてよいのでしょうか。予測の成績や人の納得を調べた研究だけで、生成AIが司法を代われるとは結論できません。

この問いを考える材料は、機械の能力だけでなく、判断を読む人の反応にもあります。誤りを見て機械を避ける場合もあれば、機械からの助言だと思うと重く受け止める場合もあります。また、資料を集める仕事への利用と、結論を選ぶ仕事への利用では、評価する対象も変わります。小論文や討論の準備では、何を予測した成績なのか、誰が公平だと感じたのか、誤りを指摘されたら誰が説明するのかを、別々の欄に書くところから始められます。

要点

• 正確さ、結果の公平さ、人の受け止め方、説明の責任の区別
• 人と機械の優劣を比べるときの、情報量と正誤の知らせ方への注目
• 下調べへの利用と、判断そのものを任せることの区別
• 人の見直しの有無に加え、見直した中身を記録する工夫

司法の役割を考える前に、何を測った研究かを分ける

司法は、法にもとづいて争いを解決し、権利を守る働きです。授業でAIへの代替を論じるなら、この基本を教科書で押さえたうえで、「将来の出来事を予測する仕事」と「どのような判断が適切かを考える仕事」を分けて書きます。予測が当たることを根拠に挙げる段落と、判断を任せる条件を述べる段落には、それぞれ別の説明を用意します。そうすると、成績の数字から制度への賛成へ飛んでいる箇所を見つけやすくなります。

研究を読むときの正確さは、予測が実際の結果とどれほど合うかという物差しです。結果の公平さを考えるときは、誤った判断による不利益が誰に向かうのかという視点も入ります。一方、公平さの感じ方は、示された判断や手続きを人がどう評価したかを指します。さらに説明の責任については、判断に疑問を持った人に誰が理由を伝え、訂正の求めに応じるのかを検討します。

以下の研究に登場するアルゴリズムは、情報から一定の手順で予測などを出す仕組みです。文章を作る生成AIと、再犯の可能性を予測するソフトは、扱う入力も出力も違います。比較表をノートに作るなら、道具の名前の隣に、予測値を出したのか、文章を書いたのか、人に説明文を見せたのかを記します。AIという共通の呼び名の下に異なる仕事をまとめないことが、根拠を読む出発点になります。

誤りを見れば避ける人も、機械の助言を選ぶ人もいる

「人は機械の判断を信用しない」という見方に近い結果が、Dietvorst（2015）にあります。参加者は、統計的な予測の仕組みと人の予測者のどちらに報酬を賭けるかを選びました。機械が予測する様子を見た人は、その誤りによって信頼を失い、人より良い成績を見ていても機械を選びにくくなりました。このように機械の誤りを見て避ける傾向を、研究ではアルゴリズム回避と呼んでいます。

逆向きの材料になるのが、Logg（2019）の助言の研究です。一般の参加者は、同じ助言でも、人からの助言と考えるよりアルゴリズムからの助言と考えたほうが従いやすいという結果でした。扱ったのは画像の中の数の見積もりや人気などの予測で、自分自身の見積もりと比べる場合には、機械を重く見る傾向が弱まりました。予測を仕事にする専門家も一般の人より機械の助言に頼らず、そのために正確さを損ねていました。

両者を読むときは、結論の向きより、参加者が何を見て何を選んだかに注目します。前者では誤る様子を見たことが焦点で、後者では助言の出どころや自分の判断との比較が焦点になっています。授業で「機械は信頼される」と書くなら、機械の誤りを見せた条件なのか、助言の提供者だけを知らせた条件なのかも添えます。利用者をひとまとめにせず、知識や立場と選択の場面を記すことで、逆向きの結果を読み解けます。

自分の賛否を点検する際には、賛成の理由が実際の比較結果にあるのか、機械という名前への期待にあるのかを分けます。反対の場合も、見つけた誤りの印象と、比較相手の人が出した誤りを別々に書き留めます。どちらかの失敗だけを詳しく挙げた下書きなら、相手側にも同じ評価項目を当てた記述を足します。

再犯予測では、比べ方を変えると優劣も変わる

Dressel（2018）は、米国の刑事司法で使われる再犯予測ソフトCOMPASを、刑事司法の専門知識がほとんどない一般の人の予測と比較しました。COMPASは、また犯罪を起こす可能性を統計的に予測するソフトです。この比較では、一般の人より正確でも公平でもないという結果でした。さらに、137項目を使うCOMPASと、2項目だけを使う単純な予測式の成績がほぼ同じだったと報告しています。

入力する項目が多いことと、予測の成績が高いことは、この結果では一致していません。複雑さを根拠に採用を支持するなら、実際に何と比べて良かったのかを示す必要があります。また、一般の人と比べた成績を、経験を積んだ裁判官との比較に書き換えると、研究の相手が変わってしまいます。小論文で比較を引用するときは、「人より」という短い表現を使う前に、その人がどのような参加者だったかを記します。

これに対し、Lin（2020）は先の実験を再現し、条件を広げました。元と同じ条件ではほぼ同じ成績という結果になりましたが、予測の正誤をすぐに知らせない場合や、予測に使える情報を増やした場合には、アルゴリズムが人を上回りました。著者らは、現実に近い条件では機械の予測が優位になると論じています。この研究の評価項目は予測の正確さで、公平さへの賛否を尋ねたものではありません。

討論で使う研究メモには、同じ成績だった条件と差が生まれた条件を隣に置きます。次の表は、比較相手と調べた範囲を読むための欄です。成績の順位だけを抜き出さず、結果を読む際の条件も残します。

資料を集める段階と、結論を選ぶ段階は評価が違う

Barysė（2024）は、裁判でアルゴリズムを使う段階を分け、公平さをどう感じるかを尋ねました。段階には、情報を集めること、分析すること、判断を選ぶこと、判断を実行することが含まれます。情報を集める段階の利用は、ほかの段階より公平だと受け止められました。また、法律の専門職の人は、判断を実行する段階の自動化を、ほかの人より不公平だと評価しました。

この調査は、利用の範囲を明確にして意見を比べる手掛かりになります。たとえば討論の題の「AIを使う」が資料探しを指すのか、結論を選ぶことを指すのかで、賛成者と反対者の話がすれ違う可能性があります。まず、それぞれが想定している作業を書き出すと、対立している箇所を具体的にできます。資料の候補を出す案には賛成でも、判断を選ぶ案には反対という立場も、別の意見として扱えます。

学習で生成AIに頼む範囲も、同じように作業の名前で区切れます。「AI利用への賛否を、情報収集と最終判断に分けて挙げてください」と頼み、返答を論点の候補として読む方法があります。その後は、挙げられた論点の根拠を読み、どの段階への意見かを自分で付け直します。問いの区切りが適切か、賛否の理由が混ざっていないかを直す作業まで、ノートに残します。

反対に、学習者自身の立場を問う課題で、結論も理由も生成AIに選ばせる使い方は避けます。AIが書いた賛成理由を別の文に言い換えただけでは、自分が受け入れる条件を説明する部分が空いたままになります。賛否が決まらない場合は、迷っている作業と追加で読みたい資料を書けば、調べる先が具体的になります。個別の事件の当否をAIに裁定させる作業を、公民の討論の代わりに置く必要はありません。

人が最後に見れば安心、という受け止めにも落とし穴がある

Chen（2026）は、量刑・保釈・仲裁の判断について、合計7,651人が公平さを評価する実験を行いました。提示された手続きは、人による判断、アルゴリズムによる判断、アルゴリズムの勧めを人が見直す判断でした。人が最終判断を持つ手続きでは、見直しがごくわずかでも、人による判断との公平感の差が消えました。集団による違いもあり、白人の参加者や保守的な参加者では差が解消した一方、黒人でリベラルな参加者では解消が部分的でした。

この結果が示す危険は、人が関わったという形式だけで、手続きの欠陥が見えにくくなることです。著者らは、人の監督という看板が不十分な仕組みを正当化することを懸念しています。人が見たという説明で納得が増える場合、調べるべきなのは見直しの具体的な作業です。元の情報と照らしたのか、反対の材料を読んだのか、提案を変更したのかという記録が、その作業を示します。

助言を受け取る人の偏りを調べたAlon-Barkat（2023）も、点検の材料になります。オランダの行政判断の実験では、機械だから人の専門家の助言以上に頼るという、自動化バイアスの証拠は得られませんでした。一方、一部の実験では、助言が集団への固定観念に合うと従いやすい「選択的な追従」が見られ、人の助言でもアルゴリズムの助言でも生じました。不祥事の直後に公務員を対象にした実験では、その傾向は見られませんでした。

学習の下書きでも、自分の意見に合う助言だけを採用していないかを点検します。AIの返答を読んだあと、賛成する部分と反対する部分に同じ基準で出典を求める方法があります。意見に合う文だけ根拠の確認を省いていたら、その文も資料に戻って読み直します。「自分で確認した」と書く場合は、読んだ箇所と変更した文を示せる形にします。

小論文では、根拠と自分が選ぶ条件をつなぐ

下書きは、まず何を機械に任せる案なのかを具体的な作業で書きます。次に、その案を支える研究を選び、予測の正確さを測ったのか、人の評価を尋ねたのかを添えます。そのうえで、違う結果の研究を読み、比較相手や利用できる情報の違いを記します。結論では、どの条件を重く見て自分の立場を選んだかを説明します。

根拠の記録には、論文の著者と刊行年、扱った道具、比較相手、測った項目を残します。たとえば先に見たLin（2020）の結果を使うなら、予測を支える根拠の欄に置きます。人が納得する手続きを論じる段落には、受け止め方を尋ねた調査を対応させます。資料の内容と自分の提案を色や欄で分けると、研究の結論として書ける部分の境目が見えます。

保護者が下書きを読むときは、賛否の向きより、理由を説明する過程に目を向けます。完成した文章を一緒に見ながら、どの資料を使ったか、どの条件を重く見たかを本人の言葉で話してもらいます。研究の結果と本人の意見がつながっていなければ、文章を整える前に該当する欄へ戻ります。見る箇所をそろえるために、次の項目を使えます。

• 比較相手の人の知識や立場の記載
• 正確さと公平感を区別した根拠の配置
• 自分の賛否と異なる研究結果の扱い
• 人の見直しで実際に行う作業の説明
• AIの返答から採用した箇所と、自分で直した箇所の記録

生成AIを使う前には、そのサービスの最新の利用条件や入力内容の扱いを公式の説明で読みます。指示に書くのは学習上の論点にとどめ、実在の人の争いや個人を特定する材料を題材に足さずに進めます。資料の整理を終えたら、結論の段落はノートの比較から自分で組み立てます。説明を求められたときに、賛成や反対の言葉だけでなく、採用の条件や見直しの作業まで答えられる文章を目指します。

よくある質問

予測の点数が高ければ、裁判官の代わりになる根拠になりますか

予測の点数は、判断を任せる案を検討する材料の一部です。小論文では、何の予測で高い成績だったかを記したうえで、説明の責任や不利益への対応を自分の提案として書き足します。先に見たDressel（2018）とLin（2020）を使うなら、勝ち負けだけでなく、情報量や正誤を知らせる条件も比較の欄に残します。

人が確認したAIの文章なら、そのまま使ってよいですか

確認という言葉だけで済ませず、どの資料を読んで何を直したかを示します。文章に付いた「公平」「正確」という評価語ごとに、それを支える測定の種類を探すと、点検する場所が具体的になります。先に見たChen（2026）の結果を踏まえ、確認者がいるという形式と、根拠を照合する作業を分けて記録します。

賛成と反対をAIに出させたら、自分の意見はどう書きますか

出された理由のうち、自分が採用する条件と採用しない条件を選んで書きます。理由を選ぶ前に、それぞれが情報収集への意見か、最終判断への意見かを区切ると、同じ対象で比較できます。採用しなかった理由についても、必要な根拠が足りないのか、自分が重く見る条件と合わないのかを、ノートの別の欄に記します。

この記事の限界

対象は米国の再犯予測やオランダの行政判断、国や年齢の詳細を抄録に記していない参加者の評価で、今回集めた範囲には、日本の司法・市民・中高生を調べた研究はありませんでした。生成AIに判決や法的判断を書かせて人の受け入れ方を測った査読研究も含まれず、現在の生成AIで同じ反応が生じるかや、日本語の課題での長期的な変化は未検証です。

本文の記録方法は、異なる研究を取り違えずに読むための提案であり、学習成績を改善すると測定された手順ではありません。司法を機械に任せるべきかという価値の判断への答えではなく、ここで引いた研究は、予測の正確さと公平さの感じ方の調査として読むのが限度です。

参考文献

1. Dietvorst BJ ほか. Algorithm aversion: people erroneously avoid algorithms after seeing them err. J Exp Psychol Gen. 2015;144(1):114-126.
2. Logg JM ほか. Algorithm appreciation: People prefer algorithmic to human judgment. Organ Behav Hum Decis Process. 2019;151:90-103.
3. Dressel J ほか. The accuracy, fairness, and limits of predicting recidivism. Sci Adv. 2018;4(1):eaao5580.
4. Barysė D ほか. Algorithms in the court: does it matter which part of the judicial decision-making is automated? Artif Intell Law. 2024;32(1):117-146.
5. Lin ZJ ほか. The limits of human predictions of recidivism. Sci Adv. 2020;6(7):eaaz0652.
6. Chen BM ほか. Mitigating the judicial human-AI fairness gap. J Leg Anal. 2026;18(1):207-242.
7. Alon-Barkat S ほか. Human-AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice. J Public Adm Res Theory. 2023;33(1):153-169.

よくある質問