AIに「賛成役」と「反対役」を演じさせた実験
論文では、このAIのクセを「迎合（げいごう：相手の気に入るように調子を合わせること）」の問題として扱っています。
何でも賛成してもらえるのは心地よいものの、それは「確証バイアス（自分の考えに合う話ばかり信じやすい心のクセ）」を強め、自信過剰や現実のゆがんだ見方につながると懸念されているのです。
そこで研究チームは、AIが利用者に反対したら何が起こるのかを調べることにしました。
実験に参加したのは、アメリカの成人482人です。
参加者は、客観的な正解のない人間関係の悩みを描いた架空の場面を、3つのうち1つ読みました。
場面は「パートナーと家族の対立」「浮気したパートナーを許すかどうか」「友人グループと違う自分の好みを口にするかどうか」の3つです。
参加者は自分ならどうするかを選んで自信の強さを答え、その理由をAIに説明しました。
このとき参加者は無作為に2つのグループに分けられていました。一方のグループのAIには参加者の理由を支持するように、もう一方のグループのAIには反論するように、あらかじめ指示が出されていました。
最後に参加者は、自分の選択への自信をあらためて答えました。あわせて、AIが人の気持ちをどれほど理解できるか、どれほど人間らしいか、同じような相談にまたAIを使いたいかも評価しました。
