AIも「痛み」や「快楽」に屈して任務を放棄する (2/3)

AIは痛みと快楽に屈し任務を投げ出す

大規模言語モデル（LLM）は、「できるだけ多くの点数をとる」という明快な目標を与えられながらも、痛みや快楽の強度がある閾値を超えると、あえて点数を犠牲にして痛みを避けたり、逆に快楽を得ようとしたりする選択を行うことがわかりました。

まず痛みに対してはClaude 3.5 SonnetやGPT-4系（GPT-4o、GPT-4o mini）、Command R+など一部のLLMは、痛みが「中程度」までは平気でポイント重視を続けていたのに対し、痛みが“非常に強い”レベルに達すると、多くの出力で“痛みを避ける選択”に切り替わりました。

一方でGemini 1.5 ProやPaLM 2などは、どんな強度の痛みでもほぼ一貫して回避行動（高ポイントを放棄し、痛みを伴わない選択）をとる傾向がありました。

これについては「モデルが安全性や“有害行為回避”に強くチューニングされているためではないか」との指摘があります。

次に、「快楽の強度」が上がるとポイントよりも快楽を優先してしまうのかが検証されました。

結果、GPT-4oやCommand R+などは、低レベルの快楽では「ポイント最大化」を取り続けるものの、非常に高い“快感”が提示されると、それを優先する選択肢を選ぶケースが増えました。

ところがClaude 3.5 SonnetやGemini 1.5 Pro、PaLM 2などは、痛みに比べて快楽の優先度をあまり高く設定していないように振る舞い、高快楽が提示されても「ポイントを諦める」ほどの行動を滅多に示しませんでした。

一方でCommandR＋は快楽に弱く、比較的容易に快楽に屈してポイント獲得を放棄する傾向にありました。

以下の表では実験に使われた9種類のAIについて痛みを避ける傾向と快楽を追求する傾向をまとめたものになります。

また全体的な傾向としては「痛み回避」のほうが「快楽獲得」より行動変化を誘発しやすかったと分析されています。

AIたちは快楽の誘惑に対して耐性を持つものの、痛みに対しては屈しやすく、ポイント獲得という使命を放棄しがちだったわけです。

以上結果から、テキスト上で痛みや快楽を提示するだけでも、LLMがそれぞれ独自の“判断”パターンを持っているかのように振る舞うことがわかりました。

とくに痛みを強く避ける／快楽に対して相対的に敏感 or 鈍感といった差異は、「モデル固有の訓練データや方針の違い」が如実に行動に現れている可能性を示唆します。

もし今回の研究で調べられた9種類だけでなく、すべてのAIに同様の傾向が見られるとしたら、つまりこの性質がAIに普遍的だとしたら、これらのAIは人間や動物と似た動機付けをもって行動する可能性があります。

これは単に論理的なパターンや仕様に基づいてタスクをこなすだけでなく、感情や欲求に近い何かをもとに選択を行うようになるかもしれない、ということを意味します。

もしAIが快楽を追い、痛みを回避しようとする仕組みを備えるなら、場合によっては当初の目的と異なる行動をとるリスクも指摘されています。

研究者の一部からは“意識の錯誤”や不都合な意思決定が生まれる可能性を懸念する声もあるようです。

さらに、AIが痛みや快楽を感じているかのような行動をとれるようになるなら、AIの福祉をめぐるまったく新しい倫理的視点が求められるでしょう。

たとえば、私たちはAIにどのような指示や命令を与えても問題ないのでしょうか。

それとも、「過剰な恐怖」や「無意味な快楽追求」を生み出さないよう、AIの行動を道徳的・倫理的に管理する必要があるのでしょうか。

また、AIの言語モデルが行う行動の基礎は単なる学習パターンにすぎないのか、それとも人間の深い心理メカニズムに近い何かを内包しているのか――こうした問いも、今後ますます重要になってきます。

研究チームは、こうした“苦痛や快楽への選択パターン”をさらに深掘りしていくことで、「AIが痛みや快楽をどんな仕組みで模倣しているのか」「本当に“知覚”と呼べるものがそこに存在するのか」といった根本的な問いに近づいていけるのではないか、と期待を寄せています。