「多数派の力」が強いAIほど、集団の意見がそろいやすかった
研究チームは、多数派側を選びやすくなる程度を「majority force（多数派の力）」という値で表しました。
この値が0なら選択はコイントスに近く、値が大きいほど多数派に合わせる確率が高くなります。
実験では、50体を25対25に分けた状態からシミュレーションを始め、各AIに他の49体の選択を見せながら平均10回ずつ意見を更新させました。これを20回繰り返したところ、Claude 3 OpusとGPT-4 Turboでは、20回すべての試行で最終的に50体全員がどちらか一方の意見に一致したのです。
この報告を聞くと、AIにも周りに合わせようという思考や心理が働いたのかと想像したくなりますが、これは単純な自然な振る舞いの結果である可能性があります。
研究者たちは、このAIの意見が一方へまとまっていく過程について、強磁性体と似た構造があると述べています。
鉄のような強磁性体は、磁石にくっつく磁性を持っていますが、内部にある磁気の方向がバラバラなため、全体として特定の方向への磁気は現れません。
ところが、何らかのきっかけで一方を向く要素がわずかに多くなると、他の要素もその多数側と同じ向きを取りやすくなります。
これは理科の授業でやった、鉄の釘を叩いていくと磁石になるという実験をイメージすると理解しやすいでしょう。
物理学では、このような強磁性体の振る舞いを表す方法の一つとして「Curie-Weissモデル」が使われます。
研究者たちは、今回のAI集団の振る舞いをこのモデルに適用して計算したところ、強磁性体の向きが一方向へそろっていくのと同じ数式で表すことができたと報告しています。
意思や心理を持たない物理系でも、個々の要素が多数側へ寄りやすいという単純な作用があり、最終的に全体に一定の方向性が生じることがあります。
今回のAI集団でも、それと数学的によく似た自己強化のパターンが現れた可能性があるのです。
ただし、AIがなぜ多数派を選びやすいのかという明確な原因は、この研究から明らかになっていません。
GPTやClaudeなどでは学習や調整の詳細がすべて公開されているわけではないため、開発段階で形成された応答傾向が今回の結果に影響している可能性も否定できません。
また多くのモデルでは集団が大きくなるほど多数派へ同調する作用が弱まり、Llama 3 70Bでは約30体、GPT-4oでは約80体を超えると、多数派追随だけで合意するまでの時間が急激に長くなることが確認されました。
GPT-4 Turboではこの境界が約1000体で、Claude 3.5 Sonnetでは研究した最大の1000体でも境界に達しませんでした。
この結果から見ると、Claudeは多数派へ同調する作用が非常に強いAIだと考えることが出来るでしょう。
ただ、今回の実験は二択に正解がなく、情報としても全く意味を持たない「k」と「z」を選ばせるという単純な条件です。
そのため、「証拠がある問題でもAIは多数派に従う」「複数AIの議論では正しさより多数決が優先される」とまでは言えません。
今後は、それこそSF作品で描かれるような、思考の性質が異なるAI集団や、合意が不利益になる状況などで、AI集団の意思決定がどのように行われるかを検証していく必要があるでしょう。
それでも今回の報告は、AIが集団になったときにどのように振る舞うかという疑問の、非常に基礎研究として興味深いものです。
