利用者はAIに意見を左右されたことに気づいていなかった
チームは次に、AIを使った参加者がタスクを早く終わらせるために、単にAIの助言を受け入れただけかどうかを調査。
しかし文章作成にかかった時間を踏まえても、AIの助言の内容によって作成された文章の意見が偏る傾向は変わりませんでした。
数分でタスクを完了した人も数十分かかった人も、AIのアドバイスによって意見に影響を受けていたのです。
さらに実験後のフォローアップ調査では、参加者の大多数がAIの助言があらかじめ偏っていたことに気づかず、自分がAIの影響を受けているとも感じていなかったことが分かりました。
ナーマン氏は次のように話しています。
「参加者はAIとの共同執筆のプロセスにおいて、自分が説得されているようには感じていませんでした。
あくまで自分の考えをベースにして、その足りない部分をAIに補助してもらっているという感覚だったのです」
以上の結果を受けてチームは「AIライティングアシスタントに組み込まれたバイアスは、意図的であろうとなかろうと、知らず知らずのうちに個人の考えに影響を及ぼす」と結論しました。
AIアシスタントの影響は社会にも広がるのか？
チームは今後、この効果がどのくらい持続するのか、そしてAIによって左右された個人の見解は社会にまで影響を及ぼしうるのかを調査していく予定です。
たとえば、SNSがニセ情報の拡散やエコーチェンバー（※）を促進することで、実際に社会や政治状況に影響を与えたのと同じ現象が起こるかもしれません。
（※ SNSを使用する際に、自分の趣味嗜好と似たユーザーをフォローした結果、意見をSNSで発信すると自分と似た意見ばかり返ってくる状況。それを閉じた小部屋で音が反響する物理現象にたとえてエコーチェンバーと呼ぶ）
もしAIアシスタントが人々の意見を無意識に操作して、その影響が社会全体にも広がるのなら、このツールが何らかの方法で悪用される可能性は十分にあるでしょう。
研究主任の一人であるモーリス・ジェイクシュ（Maurice Jakesch）氏は「AIアシスタントを導入する前に、それがどのように悪用されるのか、いかに監視・規制されるべきか、もっと一般的な議論が必要です」と述べています。
AIを使った文章アシストは、自身の表現の幅を広げるための便利なツールですが、その利便性の裏に自身の考えを知らずに歪めてしまうメカニズムがあるのなら、我々はもっと深くその影響を理解しておく必要があるでしょう。
