真面目に危惧されている「人工超知能」の反乱
人工超知能（superintelligent AI）とは、人間をはるかに上回る知性を獲得した人工知能として仮定されているものです。
世界を制御する人工超知能の存在は、単に空想科学小説の中だけの話に聞こえます。
しかし、現在の私たちの生活は、すでに多くのAIによって制御されており、今後ますます彼らに頼る割合は増していくだろうと考えられています。
当然、それに伴ってAIの機能も、日々進歩を続けており、すでにAI研究の中には、開発者がどうやって学んだのか完全に理解できない状況で、重要なタスクを独立して実行できるマシンが登場しています。
今回の研究チームの1人であるマニュエル・セブリアン氏は、こうした状況の中で「これらのAIがいつ制御不能になり、人類にとって危険な存在になるかという疑問が生じた」と研究の動機を語っています。
誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できるようにしたと仮定しましょう。
そのAIがインターネットに接続すれば、おそらくほぼすべての人類のデータにアクセスできます。
そして既存のプログラムを書き換えて、世界中にあるオンラインのマシンすべてを制御できてしまう可能性が出てきます。
そのとき、世界はどうなるでしょうか？
偉大な知性を獲得したAIが、人類に脅威を与えないよう制御することは人間に可能なのでしょうか？
ドイツのマックス・プランク人間発達研究所の国際研究チームは、理論計算を使用してその可能性を検証してみました。
彼らの出した結論は、「人工超知能を制御することは基本的に不可能である」ということでした。
![[コロンブス] キレイな状態をキープ 長時間撥水 アメダス 防水・防汚スプレー420ｍL](https://m.media-amazon.com/images/I/31-OcmTs2LL._SL500_.jpg)
![[レック] シューケア製品セット 【Amazon.co.jp 限定】 激落ちくん スニーカー 泡シャンプー 限定セット (本体 & ブラシ & クロス 3点セット) 水不要/消臭/多素材に対応/約20足分/ 保湿成分配合 ホワイト 60×50×175mm](https://m.media-amazon.com/images/I/41f+IyUBXTL._SL500_.jpg)
![2025 MFi認証 iPhone hdmi変換ケーブル ライトニング 設定不要 APP不要 給電不要 1080PフルHD TV大画面 音声同期出力 ライトニング hdmi iphone tv 変換ケーブル テレビに映す 遅延なし 簡単接続 iPhone/iPadなどに対応日本語取説付き（iOS13~iOS18対応） [並行輸入品]](https://m.media-amazon.com/images/I/31io6Tw5WHL._SL500_.jpg)
