少し面白いことが起きた。
いや、この連載の文脈では、やはり少し笑えないと言った方がいいかもしれない。
開成2011年算数で、AIが子どもの正誤を事前予測した。
そして、不正解になる問題まで一致した。
その結果を知った子どもが、自分から言った。
「2010年もやる」
今まさに、開成2010年の過去問に向き合っている。
なぜやりたくなったのか。
AIに負けたくないという対抗心なのか。
「次も本当に当たるのか」という技術的好奇心なのか。
おそらく両方ある。
本人にも完全には分離できないと思う。
ただ、一つだけ確かなことがある。
AIが予測したこと自体が、本人の次の行動に影響した。
今日の塾やテストなどお構いなしである。
それは親としては少しだけ困る。
予測した瞬間、未来が変わり始める
これは考えてみると妙な話だ。
未来予測をしたいなら、本来は対象を静かに観測したい。
ところが人間の場合、
「あなたはこうなる」
と予測を本人に知らせた瞬間、その情報が新しい入力になる。
「この問題は落とすと思う」
と言われれば、
「絶対に解いてやる」
と思うかもしれない。
逆に、
「これは解けると思う」
と言われて油断するかもしれない。
予測された人間は、予測結果を読んで行動を変える。
すると、
予測によって、予測対象そのものが変化する。
機械と人間の決定的な違い
ここは「認知のデジタルツイン」という比喩の限界でもある。
機械設備なら、
「来週故障する確率が高い」
とAIが予測しても、設備自身はその予測を知らない。
もちろん、人間が保全をすれば未来は変わる。
しかし設備自身が、
「AIに故障すると言われた。悔しいから壊れないように頑張ろう」
とは思わない。
人間は違う。
予測されたという事実そのものを認知する。
そして、その認知が次の行動を作る。
今回、2010年を自分から解きたいと言った時点で、少しだけ未来は変わっているはずだ。
少なくとも今日2010年の問題を解いてはいなかっただろう。
これは教育では、むしろ都合がいい
実験として考えると面倒である。
純粋に予測性能を測りたいなら、予測を本人に知らせない方がいい。
しかし教育として考えると、話は逆になる。
もしAIが、
「このままなら、ここで失敗する可能性が高い」
と予測できたとする。
その予測を利用して、失敗する前に一つだけ介入する。
たとえば、
「問題文にない条件を勝手に作らない」
あるいは、
「10秒止まったら一度飛ばす」
と伝える。
そして、本来落とすはずだった問題を突破する。
すると予測は外れる。
でも教育としては、それでいい。
むしろ成功である。
「正しい予測を、介入によって外す」という奇妙な世界
ここがかなり面白い。
通常の予測モデルは、当たるほど価値が高い。
天気予報なら当たった方がいい。
需要予測も当たった方がいい。
しかし教育支援では、
正しく予測したうえで介入し、その予測を外す
ことに価値がある。
「あなたはここで失敗する」
という未来を高精度に予測し、
その未来を回避させる。
結果として、
AIの最初の予測は外れる。
でも、それはモデルが役に立たなかったのではない。
モデルが役に立ったから、未来が変わった。
少し変な構造である。
我が家でやっていたことが、少しだけ先回りする
我が家では以前から、
観測 → 仮説を一つだけ変更 → 再観測
というやり方をよく使っている。
失敗したら、一度に全部直さない。
一つだけ変える。
そして結果を見る。
たとえば、
「止まったら飛ばす」
だけを入れる。
あるいは、
「条件を勝手に補わない」
だけを入れる。
そして再び観測する。
これまでは基本的に、
失敗 → 分析 → 介入
だった。
しかし未来予測が十分に使えるなら、
予測 → 介入 → 失敗を回避
に変わる可能性がある。
つまり、感想戦が事後処理ではなく、未来への投資となる。
だから、まず予測モデルを壊しに行く
ただし、今すぐそこへ進むつもりはない。
現在のところ、予測がうまくいったのは開成2011年だけである。
だから2010年では、まず予測そのものを検証する。
事前に予測を固定する。
実戦中は余計な介入をしない。
終わってから比較する。
外れれば、
「やっぱり2011年は偶然だった」
となる。
それでいい。
むしろ今は、一度壊れてくれた方が安心する。
しかし、もし何年度か続けても予測が残ったら。
その次には、
予測された失敗へ意図的に介入し、未来を変えられるか
という実験ができる。
子どもが2010年を自分からやりたいと言ったことは、小さな出来事である。
だが妙に象徴的だった。
AIが未来を予測する。
人間がそれを見る。
そして、
「じゃあ、その未来を変えてみよう」
と思う。
人間を相手にした未来予測は、そこで単なる予測ではなくなる。
今回の実験で本当に気持ち悪いのは、AIが未来を当てることではないのかもしれない。
予測された未来を材料にして、人間が次の未来を作り始めること。
今、開成2010年を解いている本人が、すでにその最初の例なのかもしれない。
コメント