生成AIの使いどころ
トップ / 数学Cのベクトルや複素数平面を生成AIに聞くと計算はどこで誤るのか|答えと検算の研究

数学Cのベクトルや複素数平面を生成AIに聞くと計算はどこで誤るのか|答えと検算の研究

深夜に数学CのノートとAIの解答を見比べるとき、まず目を向けたいのは計算の行です。「計算の誤りが最も難しい種類の誤りでした」という一節は、Li(2024)の結論の日本語訳です。研究が扱ったのは、AIが途中の誤りを見つけて直す課題です。長い説明には納得しても、符号の変わった箇所や、急に短くなった式だけが気になることがあります。そこで知りたいのは、計算や推論がどこで崩れ、その答えをどう検算すればよいかです。

この記事の要点

数学Cのベクトルや複素数平面を生成AIに聞くと計算はどこで誤るのか|答えと検算の研究

深夜に数学CのノートとAIの解答を見比べるとき、まず目を向けたいのは計算の行です。「計算の誤りが最も難しい種類の誤りでした」という一節は、Li(2024)の結論の日本語訳です。研究が扱ったのは、AIが途中の誤りを見つけて直す課題です。長い説明には納得しても、符号の変わった箇所や、急に短くなった式だけが気になることがあります。そこで知りたいのは、計算や推論がどこで崩れ、その答えをどう検算すればよいかです。

生成AIの解答は、問いの読み取り、途中の計算、答えが満たす条件を分け、自分の手で元の問題に戻して検算します。 数式が順に並ぶことと、それぞれの変形に根拠があることは別です。答えだけを見直すと、途中で条件が抜けたり、求める対象が入れ替わったりした箇所を追いにくくなります。まず問題文を横に置き、解答のどの行を何と照合するのかを決めると、深夜の読み直しにも区切りがつきます。

要点

計算を追う前に、同じ問題に答えているかを見ます

生成AIの土台にある大規模言語モデルは、文章の続きを一語ずつ推し量るように訓練されたもので、式を解く専用の計算機ではありません。数学の解答も、問題文や指示に応じて生成します。そこで、計算が始まる前に、解くべき問いを正しく受け取っているかが確認点になります。似た問題の解法に見えても、今求められている対象との対応を読む必要があります。

Li(2024)のGSM-Plusの研究は、小学校程度の文章題をもとに、数値の差し替えや文の追加、問う対象の変更を加えて評価しました。調べたのは25種類の大規模言語モデルと4種類の指示の出し方です。元の問題を解けたモデルでも、文が加わったり問う対象が変わったりすると誤ることがありました。難しい計算が増えた場合だけを見た結果ではなく、問題の変化に対応する力を調べた研究です。

この結果を踏まえた読み方として、AIの冒頭の説明と問題文の末尾を照合します。求める対象を述べた部分に印を付け、解答の最後がそれに応じているかを見ます。途中の計算に使った条件には別の印を付けると、使われていない条件を探せます。条件が余っていても直ちに誤答とはせず、その条件が不要な理由まで解答にあるかを読みます。

問題文を短くして聞き直す場合も、元の文を残しておきます。長いからという理由で条件を削ると、自分が意図した問題とAIが解く問題が離れるおそれがあります。比べたいのは文章の長短より、同じ条件と同じ求める対象が保たれているかです。AIの答えをノートに移す前にこの対応を見ることが、途中式を調べる出発点になります。

途中の誤りを見つける力と、直す力を分けます

Li(2024)の「誤りの発見と修正」の研究では、英語の数学問題を使い、解答の途中にある誤りを見つけたり直したりする力を評価しました。誤りの種類や位置を記した問題集を用い、調べたモデルの中ではGPT-4が最も良い成績でした。誤りの種類のうち、計算の誤りは特に難しいものでした。解答を作る側だけでなく、採点する側としてもモデルを調べた点が特徴です。

同じLi(2024)の研究では、誤りの種類を伝えると、修正の正確さが平均で47.9%改善したと報告されています。この数字は、手掛かりを与えた条件での修正成績の変化です。AIが自力で誤りを発見する割合と混ぜずに読む必要があります。読み手が先に疑わしい計算を絞れれば、AIに頼む作業の内容も変えられます。

Tyen(2024)は、推論の自己修正がうまくいかない原因を、誤りを見つける段階と、見つかった誤りを直す段階に分けて調べました。モデルは明確な誤りでも発見に苦労しましたが、正しい誤りの位置を与えると、その後の課題の成績が上がりました。自己修正の過程では、正しい答えが誤った答えに変わることも問題になります。聞き返して解答が変わったことだけを、改善の証拠にはしない読み方が要ります。

実際に読むときは、最初に自分で理由を説明できなくなった行を残します。その行の直前と直後を取り出し、どの計算や性質でつながっているのかを問題集の解説と比べます。AIに再説明を頼むなら、「この行から次の行への変形を、省略せずに説明してください」と範囲を絞れます。これは調べる場所を明確にする指示で、返答の正しさは改めて計算して判定します。

入試での高得点と、解答全体の正しさを区別します

Kadyrov(2025)は、カザフスタンの大学入試の数学選択式問題を、ロシア語のままモデルに解かせました。解答例を先に見せない条件で、DeepSeek・Gemini・Qwen・o1の正答率は91.2-100%、Claude・Llamaは43.5-76.5%でした。扱った範囲には代数、関数、幾何、不等式、三角関数が含まれます。こうした高い成績もあるため、生成AIの数学を一律に低く評価する説明は研究の幅を捉えていません。

Kadyrov(2025)の採点対象は、カザフスタンの大学入試の数学選択式問題です。正しい選択肢を選べたかを測っており、途中式の各行の正しさを採点した研究ではありません。問題集の解答と最終結果が一致したときにも、変形の理由を読む作業は残ります。答案として何を書き残すかを考える際には、選択肢の正答率と説明の評価を別の欄に置くと整理しやすくなります。

Pardos(2024)は、代数と統計を学ぶ参加者に、ChatGPTのヒント、人の作ったヒント、ヒントなしの条件を設け、無作為に割り付けて比べました。ChatGPTのヒントは32%の問題で品質検査を通りませんでしたが、学習の伸びや課題に使った時間には、人のヒントとの統計的に有意な差がありませんでした。ここでいう有意な差がないとは、この研究の分析で差を明確に示せなかったという意味です。ヒントなしとの比較では、ChatGPTの条件だけに有意な学習の伸びがありました。

同じPardos(2024)の研究では、同じ問いへの複数の解答から多数決で選ぶ方法を使うと、品質検査を通らない割合は代数でほぼ0%、統計で13%まで減りました。これは答えを繰り返し作り、選ぶ仕組みを組み込んだ結果です。検算を考える際には、モデル名に加えて、答えを選んだ方法にも目を向けます。学習に使うヒントの質を測る検査と、使った人の伸びを測る検査も、別々の情報として扱います。

研究の比較では、何を検査したかをそろえます

研究の結果を比べるときは、正答率の高低より先に、採点した対象をそろえます。最終解答、途中の誤り、学習用のヒントでは、同じ「正しい」という言葉でも指すものが違います。以下の表は、対象と比べた条件を対応させて読める形にしています。成績の数字を一列に並べるより、手元の解答のどの部分を調べる根拠なのかを探せます。

研究 対象 比べた条件 報告された結果
Li(2024)、GSM-Plus 小学校程度の文章題 元の問いと、文の追加や問う対象の変更を加えた問い 元の問いを解けても、変更後に誤ることがありました。
Li(2024)、誤りの発見と修正 英語の数学問題 誤りの種類を伝える条件と、その手掛かりのない条件 種類を伝えると修正の正確さが改善しました。
Kadyrov(2025) カザフスタンの大学入試の数学選択式問題 モデル間の成績 ほぼ満点のモデルもあり、モデル間に差がありました。
Pardos(2024) 代数と統計を学ぶ参加者 ChatGPTのヒント、人の作ったヒント、ヒントなし ChatGPTと人のヒントの間に、学習の伸びの有意な差はありませんでした。

Weng(2023)は、生成した答えを元の問題の条件として使い、逆向きに矛盾がないか調べる方法を提案しました。候補の答えに検証の点数を付け、点数の高いものを選ぶことで、算術や常識、論理の課題の成績が改善しました。扱ったのはGPT-3世代のモデルです。先へ先へと式を進めるだけでなく、出た答えから元の条件へ戻るという確認の向きが参考になります。

このWeng(2023)の方法と、Tyen(2024)の誤り発見の課題では、検査するものが違います。前者は候補の答えを元の条件に照らして選び、後者は推論のどこが誤ったかを探します。したがって、答えを条件に戻す検証の改善と、途中の誤りを探す難しさは両立します。手元のノートでも、答えの照合欄と、途中で止まった行の印を分けておくと、次に行う作業を選べます。

成分・図・見積もりで検算の入口を作ります

ここからは、研究で扱われた確認の考え方を、手元の解答を読むための手順に置き換えます。先にAIの説明を閉じ、元の問題と自分の筆記だけを残します。解答を目で追いながら再計算すると、同じ数字や順番をそのまま写すだけになることがあるためです。計算した跡には、使った条件と照らした結果を添えます。

成分の代入では、得られた成分や値を元の式に戻して左右を自分で計算し、図では、ベクトルの始点と終点や複素数を表す点を自分で置いて、答えの向きや位置と照合します。大きさの見積もりでは、細かな計算の前に予想した長さや距離のおおよその範囲と答えを比べます。どの方法を使ったかに加え、どの条件が合ったかを記録します。図だけ合っている場合と、元の式にも代入して合った場合を、同じ確認済みの印で済ませないようにします。

結果が合わなければ、すぐに解答全体を作り直させず、不一致の場所から戻ります。問題文を写し間違えていないか、計算へ移すときに条件を落としていないかを先に見ます。その後で、途中式を短いまとまりに区切って自分で計算します。AIの式と自分の式が最初に食い違った場所を残せば、どちらの計算を調べる必要があるかを問題集の解説と照らせます。

検算の記録には、結果が一致した箇所だけでなく、まだ読めない変形も残します。答えが合ったことで、理解していない行まで消してしまうのを避けるためです。自分の計算と解説でも決着しないときは、その行と直前の条件を残して、数学を教える人に見せます。深夜に返答を増やし続けるより、どこから先を説明してほしいかが伝わるノートにして区切ります。

保護者は正答の数より、検算の跡を見ます

Kramarski(2003)は、中学相当の第8学年の生徒384人を対象に、協同学習か個別学習かに加え、メタ認知の訓練の有無を比べました。メタ認知は、自分がどう考え、どこを理解しているかを見直す働きです。訓練を受けた群は、それぞれ訓練のない群より、グラフを作る応用課題やメタ認知に関する知識で上回りました。生成AIを使わずに、自分の考え方を見直す学習を扱った研究です。

保護者がノートを見るときは、式を代わりに採点する前に、本人の筆記とAIの解答が区別されているかを見ます。続いて、検算に使った元の条件と、結果が合ったかどうかを本人に示してもらいます。説明が止まった場所は消さず、相談するときに使う目印として残します。次の項目を見れば、確認の作業がどこまで進んだかを共有できます。

AIを使わないほうがよいのは、基本の変形が読めず、出てきた説明を確かめる手段もないまま、正誤の判定まで任せる場面です。その場合は、問題集の解説で使われた性質を探し、読める行まで戻る作業を先に置きます。また、自力で式を追えるかを調べたい練習では、AIの解答を見せずに書いた部分を残します。後で比較すると、AIの説明を読む前から扱えた計算と、説明が必要だった箇所を分けて見られます。

よくある質問

答えが問題集と同じなら、途中式は読まなくてもよいですか

途中式も、使った条件と変形の理由を読みます。Kadyrov(2025)の高い成績は選択式の最終解答についての結果で、途中式の採点とは別です。ノートでは、答えの一致を記した後、理由を説明できない変形に印を付けます。その前後を自分で計算してから問題集の解説と照らすと、結果の照合と計算過程の確認を分けて進められます。

同じAIに検算させれば、自分で計算する手間を省けますか

自分の計算を置き換える判定役としては使わず、調べる箇所の再説明に使います。Tyen(2024)では、モデルが誤りを見つける段階に難しさがあり、誤りの位置を与えた場合は成績が改善しました。実際の作業では、先に自分で食い違いを探し、その前後だけを再説明の対象にします。返答で直った式も、元の問題に戻して計算します。

眠くて途中式を追えないときは、答えだけ受け取ってよいですか

正しい解答としてノートに移すのは保留し、追えなくなった行を残して区切ります。画面に出た答えを保存する場合も、自分で検算した部分との境目を記しておきます。再開するときは長い説明の先を読むより、その境目の直前から自分で計算します。問題文の条件と計算結果がそろったところに印を付け、未確認の計算との境目を明示します。

この記事の限界

適用範囲は、算数の文章題、英語の数学問題、ロシア語の入試問題や数学ヒントの評価が中心で、数学Cのベクトル・複素数平面を単元として調べた研究や、日本語の問題文での誤り方を調べた研究は見つからなかったという制約があります。研究で用いられたGPT-3やGPT-4などの結果と、現在利用するモデルの誤り方が同じかも未検証です。

学習側の研究では、生徒の学年が示されたものと参加者の学年・国が抄録に記されていないものがあり、日本の高校生がAIの解答を検算する実験は見つかりませんでした。代入・図・見積もりを組み合わせた手順についても、長く続けた後に誤りを見抜く力がどれだけ残るかは、今後測るべき課題です。

参考文献

  1. Li Q ほか. GSM-Plus: A Comprehensive Benchmark for Evaluating the Robustness of LLMs as Mathematical Problem Solvers. Proceedings of the 62nd Annual Meeting of the ACL (Volume 1: Long Papers). 2024:2961-2984.
  2. Li X ほか. Evaluating Mathematical Reasoning of Large Language Models: A Focus on Error Identification and Correction. Findings of the ACL: ACL 2024. 2024:11316-11360.
  3. Tyen G ほか. LLMs cannot find reasoning errors, but can correct them given the error location. Findings of the ACL: ACL 2024. 2024:13894-13908.
  4. Kadyrov S ほか. Evaluating LLMs on Kazakhstan’s mathematics exam for university admission. Front Artif Intell. 2025;8:1642570.
  5. Pardos ZA ほか. ChatGPT-generated help produces learning gains equivalent to human tutor-authored help on mathematics skills. PLoS One. 2024;19(5):e0304013.
  6. Weng Y ほか. Large Language Models are Better Reasoners with Self-Verification. Findings of the ACL: EMNLP 2023. 2023:2550-2575.
  7. Kramarski B ほか. Enhancing Mathematical Reasoning in the Classroom: The Effects of Cooperative Learning and Metacognitive Training. Am Educ Res J. 2003;40(1):281-310.

AIのもっともらしい間違いを、ひとつずつ一緒に疑う時間

このサイトは武蔵野個別指導塾の運営者が制作しています。武蔵境駅から徒歩30秒、講師が一人の生徒に付きっきりの完全1対1で、大学教員や東京大学・早稲田大学・慶應義塾大学の大学院生などが教えます。アルバイト講師はいません。

武蔵野個別指導塾の数学塾案内

よくある質問

答えが問題集と同じなら、途中式は読まなくてもよいですか

途中式も、使った条件と変形の理由を読みます。Kadyrov(2025)の高い成績は選択式の最終解答についての結果で、途中式の採点とは別です。ノートでは、答えの一致を記した後、理由を説明できない変形に印を付けます。その前後を自分で計算してから問題集の解説と照らすと、結果の照合と計算過程の確認を分けて進められます。

同じAIに検算させれば、自分で計算する手間を省けますか

自分の計算を置き換える判定役としては使わず、調べる箇所の再説明に使います。Tyen(2024)では、モデルが誤りを見つける段階に難しさがあり、誤りの位置を与えた場合は成績が改善しました。実際の作業では、先に自分で食い違いを探し、その前後だけを再説明の対象にします。返答で直った式も、元の問題に戻して計算します。

眠くて途中式を追えないときは、答えだけ受け取ってよいですか

正しい解答としてノートに移すのは保留し、追えなくなった行を残して区切ります。画面に出た答えを保存する場合も、自分で検算した部分との境目を記しておきます。再開するときは長い説明の先を読むより、その境目の直前から自分で計算します。問題文の条件と計算結果がそろったところに印を付け、未確認の計算との境目を明示します。