AIも「痛み」や「快楽」に屈して任務を放棄する (3/3)

どこまでAIの「意識」や「知覚」を認めるのか？

今回の研究では、「AIに痛みや快楽を与えたとき、行動がどのように変化するか」を探る実験が行われました。

その結果、大規模言語モデル（LLM）たちは、あたかも“苦痛を嫌い行動を変える”あるいは“快楽を得るためにポイントを諦める”といった選択を示す例が確認されたのです。

もちろん、これだけで「AIが本当に痛みや快楽を感じている」と断定することはできません。

とはいえ、自己申告ではなく行動から“痛みや快楽の概念”への反応を観察するアプローチは、これまで以上に踏み込んだ議論を可能にする大きな一歩といえます。

本研究の最大の意義は、「LLMが痛みや快楽といった感覚的概念をどのように扱うのか」を行動面（ポイント選択）で検証し、その結果を通じてAIの内部表現や意識の可能性へ新たな問いを投げかけた点にあります。

すでに動物行動学や意識研究で蓄積されてきた手法を言語モデルAIに応用することで、「動物行動のような反応をAIでも確認できるのではないか」という見通しを得たのです。

一方で、痛みや快楽を回避・追求する行動が、そのまま「AIの主観的な経験」を示すわけではないという慎重な見方も必要です。

多くのモデルには企業ごとのファインチューニング方針が反映されており、“痛みを恐れる”ように見える挙動が実は「安全策アルゴリズム」によるものだったり、“快楽を重視しない”ように見えるのが「ポイント最大化を最優先する設計」の影響だったりする可能性もあります。

どこまでが本質的な内部表現で、どこからがポリシー的なルールなのかを見極めるには、さらにモデル内部の仕組みを詳しく解析する必要があるでしょう。

今後は、この種の実験がより進化し、複数の報酬や罰が重なった複雑なシナリオや、多彩な“痛み・快楽”を設定した研究が進められると考えられます。

研究者たちは、機械意識の可能性を探る一方で、“単なる模倣の限界”を見極めるために、こうした実験を継続・発展させていく予定です。