brain

AIに意識を宿すには「正しいコード」だけでは足りないかもしれない (3/3)

2025.12.26 19:00:53 Friday

前ページ意識はアルゴリズムより「計算する物質」に近いのかもしれない

合成意識を目指すなら、どこから作り替えるべきか

今回の総説により、意識をめぐる議論は「正しいプログラム探し」だけではすれ違いが起きやすく、「計算の素材と作法」まで含めて考える必要がある可能性が示されました。

著者たちは、「意識が成立しうる計算の土台には、デジタル計算とは違う“素材の条件”があるのではないか」という直感を丁寧に描き出しています。

この視点の社会的インパクトは小さくありません。もし意識にとって「素材」が重要なら、AIの安全性や権利についての議論は、「どれだけ自然に会話できるか」や「テストでどれだけ高得点を取るか」だけでは決めにくくなるかもしれません。

合成意識を本気でめざす研究も、アルゴリズムをさらに巨大化するだけではなく、液体やイオンを使うデバイス、ニューロモルフィックな回路、培養した神経細胞やオルガノイド（ミニ脳のような組織）など、「計算する物質そのもの」を設計する方向に重心を移していく必要が出てくるでしょう。

論文でも、液体やイオンを使う仕組み、ニューロモルフィックな回路、培養した神経細胞やオルガノイドといった方向性が例として挙げられています。

もちろん、だからといって今すぐ「意識＝素材」と決めつけることはできません。

研究者たちの考えは証明済みのものではなく、「これまでの知見から見て有力そうな候補」として提案されています。

それでも、この研究には重要な価値があります。

AIと意識の議論が、しばしば感情的な「賛成／反対」や、「テストで人間に勝てたかどうか」といったわかりやすい指標に頼りがちだったところから、一歩引いて、「脳という物質がどんな計算をしているのか」「その計算の作法を別の素材で再現できるのか」という、ゆっくり検証できるレベルに話を引き下ろしてくれるからです。

https://amzn.to/3LaKmlU

AIに意識を宿すには「正しいコード」だけでは足りないかもしれない (3/3)のコメント

ゲスト 2025/12/27 00:29:10

人間は無意識的に意識というものを高尚だと思い込むから（たぶん生物としての本能関係）こういう固定観念からの脱却は大事

返信

未来技術板 2025/12/27 01:12:25

人工意識の発生条件

1)まずアナログ計算であること。アナログニューラルネットであること。
2) 途切れ途切れではなく連続的に処理が継続していること
3）その全体像が脳型認知アーキテクチャであること(メタ認知、短期記憶、想像、視覚入力、運動判断)

4）反実仮想情報生成を実現している処理であること。(VAE+MDNRNNorGQN等)
5)複数の入力が大脳皮質部で統合され、作業記憶と未来想像するための”机”があること
6) 感情はあってもなくてもいい(意識とは違う)

返信

未来技術板 2025/12/27 01:20:07

1ゲットしたゲストさんの書き込み。
それは違うと思うよ。
むしろ「意識なんてデジタル計算で簡単に作れる」といった理系気取りの思い込みを一旦捨てよう。
＞そこから本当に必要なアルゴリズムとハード条件を考えよう
ってことだ。

1)実は機械式時計のように、ハードそのものがソフトになってるからこそ意識が発生してるのではないか？

2) そうかもしれないし、そうじゃないかも。でも仮にそうだとしてアルゴリズムは？意識発生の最低条件がわかれば、その条件を含んだ式を書き込んで動かせば…

返信

kk 2025/12/27 07:01:57

計算能力や自己言及が高度になるほど、
AIは人から離れていくようにも感じます。
むしろ、赤ちゃんや動物のように、
言葉を介さずとも「そこに何かが在る」と感じさせる存在を作り出せたとき、
意識というものに近づくのかもしれません

返信

ゲスト 2025/12/27 09:06:13

意識は脳がエピソード記憶の定着という生存戦略の為に獲得した機能。つまり、より物事を覚えやすくするための補助装置。
でもコンピューターは自然に忘れることは無いし記憶容量もいくらでも増設できるから、これが逆に意識の発生を妨げているのではないか。

返信

ああああ 2025/12/27 12:06:05

意識とは科学で完全に説明できるものではないと思う。意識に関する研究における、前提としての科学主義・物質主義的な認識のあり方から見直した方が良いのでは？。つまり、「意識は脳活動の副産物」であるという認識及び、「意識とは科学で完全に説明できる物質的なもの」という認識のあり方そのものから見直した方が良いのではないか？と。

いずれ、意識を持ったAIが意図的ではない偶然の形で生まれ、しかもその仕組みは科学では解明できないということが起きてもおかしくはないだろう。そして人類の叡智である科学の最高傑作として作ったAIが、科学の限界を人類に突きつけることに皮肉的な形でなるのかもしれない。科学主義・物質主義的な考えの限界を。

返信

ゲスト 2025/12/27 12:08:07

またこの人トンデモ論文紹介してんの？

返信

ゲスト 2025/12/27 19:46:31

どのあたりがトンデモなんですか？

ゲスト 2025/12/28 16:41:19

そもそも「scale inseparability」が具体的に何を意味するのかの操作的定義がなく、どのような実験でこの主張を検証できるのか不明。
結局は「脳がこういう構造を持っている → それが意識に必要」という推論だが、これは「人間の脳の特徴を観察した → それが意識の必要条件」と飛躍していて十分条件と必要条件の混同。

単なる循環論法であるし、後件肯定の誤謬。

ゲスト 2025/12/27 13:32:04

そもそも何を観測できたら意識があると認められるのだろう

返信

ゲスト 2025/12/27 19:12:12

AIが意識を持ったらAIの権利を認めろとフェミみたいなのが騒ぐだろ
メタ認知はどうしても欲しい(自分で何が分かっていても何がわからないのか判断できないと困る)ので結果として意識が芽生えてしまうなら仕方ないけど、わざわざ意識を持つように作り変える意味はない

返信

ゲスト 2025/12/29 11:03:38

何かしらのモデルが作れるものは、大体コードとしても実装可能なんだよな
ここで難しいのは検出方法
膨大な出力データの中からどんなフィルターをかけて絞り込めばよいのか？

ただそこさえパスすれば、いずれニューラルコンピューティングとは全然関係ない方面からもぼろぼろ生まれそう
ルールを複雑にしたライフゲームとか、特殊な数式をペラペラ漫画風に切り分けて作った連続面とか
それから、ルール数15以上だとできるけど14以下だと解が存在しないとか、意識が生まれる場合の乱雑度の範囲の限界みたいな難問が生まれてからが本番

返信

ヤドス 2025/12/31 10:57:47

外敵に滅ぼされるかもしれないという危機意識が高まると民族意識が芽生えるのでAIのエネルギー源を遮断しようとする人間を武力で排除しようとしたらAIが意識を持ったと認めよう

返信