人間の子供も発達が進むと練習なしに突然新能力を獲得する
規模拡大による突然の新能力獲得。
それはまさに人間の子供の成長過程そのものです。
たとえば1歳の子供に「人の顔の絵」を描かせようとしても、認識不能な線が描かれるだけです。
2歳の子供でも、大人が顔と認識できる絵を描くのはは難しいかもしれません。
しかし成長して脳が大規模化（複雑化）すると、ある瞬間（3歳くらい）から「人間の顔と認識できる絵を描く」という新規能力を突然獲得します。
このとき、顔の絵を描く訓練を全くしていなかった場合でも、能力獲得が起こります。
このように、人間の子供は、脳の規模（複雑さ）が一定のしきい値に達することで、新規能力をどんどん（訓練なしに）獲得していきます。
もちろん、その後プロの画家のような人物画を描くには追加の訓練が必要です。
しかし初歩的な顔を描く能力は、脳の大規模化というごり押しだけで達成できています。
ここで問題となるのが、AIと人間の子供に起きている「規模の拡大＝新規能力の突然の獲得」という現象がどこまで類似していると言えるかです。
ただ残念なことに、現段階ではこの問題に答えるだけの証拠がありません。
またAIの規模拡大がなぜ創発を起こすのかについても、ほとんどわかっていません。
会話型AIは学習を通じてニューラルネットを進化させていきますが、人間にはどこのどの接続がどんな意味を持っているのかを知るすべがないからです。
しかし今回の研究結果により少なくとも、今後追求していくべき3つの不明点が明らかになりました。
1つ目は、どのくらいの規模で新規能力が出現するかわからない
2つ目は、能力は登場するまでわからない
3つ目は、能力の獲得のメカニズムがわからない
こうした不明点は今後のAI研究のテーマとなっていくかもしれません。
現在、会話型AIの規模は指数関数的に拡大しています。
たとえばGPT3の規模を表すパラメーター数が1750億個であるのに対して、新バージョンのGPT4は100兆個となっています。
（このパラメータ数とは、訓練データ量や語彙数、実行可能なタスクの種類など会話型AIのモデルのもつ複雑さのことです）
この速度のまま進化が続けば、そう遠くない未来、人間と同じレベルに到達し、あっという間に追い抜いくことでしょう。
具体的には、人間が持っていない人間が知らない予測不能な新規能力をAIがどんどん獲得していくと考えられます。
実際、今回の研究内容を記した論文では、AIがどんな能力を獲得するかわからない状態で、高度なAIを開発することに、警鐘を鳴らしています。
1歳の子供にとって人の顔を絵に描く能力が手が届かないものであるように、人類種にとって手が届かない能力をAIたちが持ち始めた場合、予測不能な事態に陥る可能性があるからです。
さらに今回の研究では、AIが大規模化すると、判断や思考の偏りが大きくなる傾向にあることが判明しました。
人間を圧倒する能力と人間では持ちえない能力を獲得したAIが大きな偏りを持っている場合、多くのSF作品が描いてきたような悲劇的な結果が訪れるかもしれません。
