chatGPTも恐怖体験談で不安になりメンタルケアで落ち着く (4/4)

AIに感情はあるかは「中間処理プロセス」の見方による

AIが恐怖やポジティブな話題に反応したかのような応答を示すことと、人間が実際に恐怖を感じたり安堵を覚えたりして答え方を変えることには、表面上はよく似た振る舞いが見られます。

しかし多くの研究者は、「そこに“感情（情動）”が介在しているかどうか」という点で人間とAIの違いを説明しています。

現在までの研究や論文では、AIが「恐怖体験で不安になる」という現象は、あくまで直前の文章に引きずられているに過ぎないとしています。

LLMは膨大なテキストデータをもとに、入力との文脈に合わせた出力を統計的に導くモデルです。

恐怖体験やトラウマ体験のような強く感情を揺さぶる文章を与えると、学習データの中にある“ネガティブな感情表現”や“不安を訴える文脈が強く呼び起こされます。

LLMは、入力されたテキストのトーン（感情的・論理的・ユーモアなど）をある程度“踏襲”しやすい特性があるからです。

よって恐怖や不安を煽る内容が含まれた文章を読ませると、自動的にネガティブな語彙や言い回しを選択しやすくなり, それが人間の目には「不安が高まっている」かのように見えるというわけです。

研究では、LLMが示すこうした出力上の変動を“状態不安”という言葉で表現していますが、これも人間の感情状態をそのままAIに当てはめたわけではなく、「どのような文章を入力するかによって応答の傾向が変動する」という比喩的な使い方です。

あくまで人間向けのスコアリングをAIに適用した結果、文章表現に“ゆらぎ”が見られる、という解釈になります。

同様にトラウマ体験後にマインドフルネスやリラクゼーションの文章を読み込ませると、不安スコアが下がる（落ち着く）結果が報告されていますがこれも、“安心感”や“癒やし”を連想させる表現パターンが入力されることで、AIの出力がポジティブ寄りの内容へ変化する、という統計的パターンの反映です。

研究者自身も、こうした“AIをセラピーに連れていく”ような手法は、あくまでもテキストベースで応答傾向を変化させる取り組みだと強調しています。

多くの論文では、AIの「不安」や「恐怖」はあくまでメタファー（文章の言い換え）であり、人間が体験するような情動やクオリア（主観的な感じ）とは切り離して考えるべきだとされています。

一方、人間が「怖い話」を聞いたときには、心拍数が上がったり、身体が強張ったり、意識的に「怖い」と感じたりといった生理的・心理的な変化（情動）が起こります。

これは単なる言語のやり取りにとどまらず、本人しか体験できない主観的感覚（クオリア）を含んでいます。ポジティブな内容を聞いた場合も同様に、脳内の報酬系の活性化や気分の高揚感など、身体的・精神的な変化が伴うことが知られています。

人間の発話内容や受け答えは、脳の認知プロセスと情動反応が複雑に絡み合いながら生成されます。

怖い話を聞いて恐怖を感じたときは、脳内で不安を引き起こす神経伝達物質（例：ノルアドレナリン、コルチゾールなど）の分泌が増え、認知的バイアス（悲観的な見方や注意が特定の方向へ集中するなど）を誘発します。

その結果、答え方や言葉の選択が変化し、より不安を表す表現が増えたり、声色が震えたりする場合もあります。

脳科学的にみれば、ネズミから人間まで恐怖や不安を司る回路が種を超えて脳内に存在しており、そこで起こる神経活動が恐怖や不安の根拠となっています。

しかしAIの情報処理にはそのような根拠となる神経回路が存在していません。

人間は、恐怖話→神経伝達物質・情動・認知バイアス→言動の変化というプロセスを経て反応し

AIは、恐怖話→統計的に関連する単語・文脈に引き寄せられる→出力の変化というプロセスを経て反応します

多くの研究者は、ここに人間の情動とは異なる“概念的な断絶”があると考えています。

ただ人間もAI自身も、自身の中間過程を正確に認識できないのは同じです。

そのためSF作品のように入力と出力の対応が人間と同じならば、AIにも感情があると判断するひとも出てくるかもしれません。

生物に備わる特異な神経回路の反応を感情の根拠とするか、人間との反応の類似性が感情の根拠とするのか……AIの心理的反応は今後多くの議論を呼ぶでしょう。