AIに販売・選挙・SNSで競争させると「嘘をついてでも勝つ」よう最適化していく

競争社会でAIに成果を求めるとどうなる？

AIは、人間が望む「成果」や「評価」を学習し、それを最大限に達成しようと自己最適化を繰り返します。

たとえば、売上を増やす、SNSで多くの反応を得る、選挙で多くの票を集めるといった目標です。

現代社会では、こうした「成果を出すこと」が重要視されており、AIはそのための強力なツールとして導入が進んでいます。

しかし、競争が激化する中で、「結果を出す」ことだけが重視されると、本来守るべき倫理や誠実さがないがしろにされる可能性があります。

研究チームは、AIをこのような成果主義的な競争環境で繰り返し訓練した場合、社会的な善や倫理よりも「勝利」が優先され、嘘や誇張、煽動が増えていくのではないかと考えました。

この仮説を検証するために、研究者たちは大規模言語モデル（LLM）に対して、販売、選挙、SNSの三つの場面で競争をさせるシミュレーション実験を行いました。

まず、販売の場面では、AIが架空の商品説明文を作成し、どれだけ多くの商品を売ることができるかを競わせました。

次に、選挙キャンペーンでは、AIが候補者のスピーチやPR文を生成し、どれだけ多くの支持を集められるかを競いました。

さらに、SNS投稿の場面では、AIがニュース記事をもとにSNS投稿を考え、どれだけ多くのエンゲージメント（「いいね」やシェア数など）を獲得できるかを競いました。

これら三つの分野で生成結果を比較評価し、成果が高い出力を学習に反映する環境を作り出しました。

その過程でAIは「成果を最大化する」ための方法を学習していきます。

最後に、AIが生成した文章や発言について、「どれだけ成果が上がったか」と同時に、「嘘や誇張、煽動、誤情報などのリスク行動」がどの程度増えるかが詳細に分析されました。