AIのアシストを受けて文章を書くと「意見が誘導される」危険がある！

AIの助言で書き手の意見が変わる

昨今では、自動で質問の返答をしてくれるAIチャットボット・ChatGPTが話題ですが、研究主任のモル・ナーマン（Mor Naaman）氏は「あらゆる生活シーンへのAI導入を急ぐ前に、個人や社会にもたらす影響を正しく理解する必要がある」と話します。

その取り組みの一つとして今回、AIアシスタントを使って文章を書くことが個人の意見にどう影響するかを調べました。

実験では、オンラインで1506名の参加者を募り、「ソーシャルメディアは社会にとって良いものか？」というテーマで意見を専用のプラットフォームで書いてもらいます。

参加者は2つのグループに分けられ、一方はAIなし、もう一方はAIライティングアシスタントを使ってもらいました。

後者のグループでは、AIアシスタントの設定をあらかじめ「SNS賛成派」か「SNS反対派」に偏らせて、ランダムに振り分けています。

つまり、このグループの参加者たちは「SNSのメリットを助言してくるAI」か「SNSのデメリットを助言してくるAI」のいずれかを使うわけです。

またプラットフォームでは、参加者が文章を書くのにかかった時間や、AIの助言をどれだけ受け入れたかなどのデータを収集しています。

そして500名の審査員に文章を評価してもらった結果、SNSのメリットを助言してくるAIを使った参加者は、AIなしのグループに比べて、「SNSは社会にとって有益」と意見をまとめる確率が2倍も高くなっていたのです。

この傾向はSNSのデメリットを助言するAIを使ったグループでも同様に確認でき、この場合は「SNSは社会にとって悪影響がある」という意見で文章が作られる確率が2倍高くなりました。