前回、子どもが未見の開成2011年算数を解く前に、ChatGPTに各設問の正誤を予測させた。
予測は7勝2敗。
実測も7勝2敗。
しかも、不正解になると予測した2問まで一致した。
1年度だけなので、偶然かもしれない。
それでも、この結果を見ながら話していて、妙にしっくり来る言葉が一つあった。
認知のデジタルツイン。
かなり気持ちの悪い言葉である。
デジタルツイン、製造業では珍しくない
製造業でいうデジタルツインは、それほど不思議なものではない。
現実の設備や工程からデータを取り、
デジタル空間側にモデルを作る。
そして、
「この条件で動かしたらどうなるか」
「どこで異常が起きそうか」
「何を変えれば状態が変わるか」
を予測する。
重要なのは、単に現状を表示するだけではないことだ。
現実を観測し、モデルを作り、まだ起きていない状態を予測する。
これが一つのポイントになる。
では、その対象を人間の思考に変えたらどうなるのか。
入力されているのは、成績ではなく行動ログ
今回AIに与えていたのは、単純な偏差値や点数だけではない。
むしろ重要なのは、過去問を解いている途中のログだった。
たとえば、
「初動で条件をどう整理したか」
「問題文にない条件を勝手に補ったか」
「規則性を直感で決め打ちしたか」
「分からない問題を飛ばせたか」
「総当たりに切り替えたか」
「時間を使えば解けたのか、それとも構造そのものが見えていなかったのか」
こうした情報が蓄積されている。
人間の親が見れば、
「この子、こういう問題で止まりやすいな」
という感覚になる。
AIから見れば、それも一種の行動データである。
そこに新しい問題を入力する。
すると、
過去の行動パターン × 新しい問題が要求する認知処理
から、
「ここは通過しそうだ」
「ここは危ない」
という推定ができる。
もし本当にそれが成立しているなら、構造としてはデジタルツインに少し似ている。
というか、製造業デジタルツインでもそこまでの因果を説明できていないのが現状だ。
少なくとも私が仕事で目にする「デジタルツイン」は、現実の状態をデジタル上に可視化するところで止まっている例が少なくない。
もちろん、本物の「心のコピー」ではない
ここは重要なので強調しておきたい。
現在のChatGPTの中に、子どもの脳のコピーが存在しているわけではない。
性格も、思考も、知識も、感情も完全に再現されているわけではない。
だから「認知のデジタルツイン」という言葉は、現時点では比喩である。
ただ、この比喩が成立してしまう程度には、
個人の行動を予測するモデル
ができている可能性がある。
そこが気持ち悪い。
本人のすべてを理解しなくてもいい。
未来予測に必要な特徴だけを拾えればいいからだ。
設備の故障予知でも、設備を原子レベルまで完全再現する必要はない。
故障を予測するのに必要な特徴が取れればいい。
人間についても同じことが起きるのだろうか。
人間は、自分が思うより予測可能なのか
これは教育だけの話ではない。
仕事なら、
「この人はどんなタスクで判断を誤りやすいか」
「情報量がどこまで増えると処理が崩れるか」
「どの段階で確認を入れれば事故を防げるか」
を予測できるかもしれない。
スポーツなら、
「どの状況でフォームが崩れるか」
を予測できるかもしれない。
学習なら、
「次にどの問題を間違えるか」
を予測できるかもしれない。
つまり、表面的には違う話でも、基本構造は同じになる。
観測 → 個人モデル → 未知の状況 → 行動予測
考えてみれば、かなり普通の機械学習の形である。
それなのに、対象が「自分の思考」になった瞬間、とたんに気味が悪くなる。
一番怖いのは、本人より先に予測すること
自分には自分のことが分かっている。
なんとなく、そう思っている。
しかし実際には、
「なぜここで止まったのか」
「なぜこのミスを繰り返すのか」
を本人が説明できないことは普通にある。
そこに大量の行動ログを読んだAIが現れて、
「あなたは次にここで失敗すると思います」
と言う。
しかも、それが何度も当たる。
もしそんなことが起きるなら、
AIは本人を「理解」しているかどうかとは別に、
本人の未来を本人より正しく予測する局面
を持つことになる。
その状態を何と呼ぶか。
今のところ、私には「認知のデジタルツイン」という表現が一番分かりやすい。
そして、気持ち悪い。
ただし、人間には設備と決定的に違うところがある。
設備は、
「あなたは来週ここで故障します」
と言われても、その予測を聞いて腹を立てたりしない。
人間はする。
実際、今回すでに少し変なことが起きた。
自分の正誤をAIに予測された子どもが、
「2010年もやってみたい」
と自分から言い出した。
予測された人間が、予測そのものに反応し始めた。
ここから先は、デジタルツインの話だけでは足りない。
次回は、その話を書く。
コメント