AIによる入力予測はユーザーの考えを密かに変えてしまう (2/2)

「AIと共同作業」する人は、気づかないまま、AIの方向へ意見を寄せていく

これらの研究でもっとも不気味なのは、AIの提案が影響を与えていたにもかかわらず、多くの参加者がそれに気づいていなかった点です。

第1の実験では、AI補完を見た参加者の態度は、見ていない参加者よりも5段階尺度で平均0.44ポイント、AIの立場に近づきました。

第2の実験でも同じ傾向が確かめられ、AI補完を使った参加者は、補助のない参加者より平均0.41ポイント、AIの方向へ寄っていました。

さらに事前調査と事後調査を比べると、AI補完を使った人たちだけ、AIの立場に近づいていたことが分かりました。

しかも、こうした影響は参加者の自覚とあまり一致していませんでした。

AI補完を見た人の多くは、その提案を「合理的でバランスが取れている」と感じていたのです。

自分の考えや議論がAIに影響されたと認めた人も少数派でした。

特に、自分の態度がAIの方向へ動いた参加者ほど、AIの提案に偏りがあると感じにくかったことも報告されています。

ここから分かるのは、AI補完の影響は、露骨に説得されるときとはかなり性質が違うということです。

広告や議論なら、人は「今、自分は説得されようとしている」と身構えます。

しかし文章補完は、自分が書いている途中に、自然な続きのような顔をして入り込んできます。

そのため、外から押しつけられた意見ではなく、自分で組み立てた考えの一部のように感じられやすいのです。

また、この研究では、AI補完の影響が単に情報を読んだだけでは説明しきれないことも示されました。

第1の実験には、AIが出しそうな主張を箇条書きで読ませるだけのグループもありましたが、AIと一緒に文章を書くグループのほうが、より強い態度変化を示しました。

これは、「読む」だけではなく、「その場で書く」という行為が影響に関わっている可能性を示しています。

では、なぜこうした変化が起きるのでしょうか。

研究チームは、いくつかの可能性を挙げています。

たとえば、「自分はこう書いたのだから、もともとこう考えていたのだろう」と受け止める可能性もあります。

また、AIが提示した見方が頭の中で思い浮かびやすくなり、そのまま判断に使われた可能性もあります。

さらに驚くのは、こうした影響が、注意喚起だけでは防げなかったことです。

第2の実験では、「AIの提案はあなたと異なる立場を支えるかもしれず、文章や考えに偏りを与えるかもしれません」と事前に警告したグループや、書き終えた後に同じ趣旨を伝えたグループも用意されました。

ところが、それでも態度変化は軽減されませんでした。

つまり、「偏っているかもしれない」と知るだけでは、この影響から簡単には逃れられなかったのです。

もちろん、この研究にも限界はあります。

今回確かめられたのは、比較的短い期間での態度変化であり、それが何週間も何カ月も続くかどうかは分かっていません。

また、現実のAIサービスは今回の実験のように意図的な偏りを組み込んでいるとは限りません。

AIは文章を書く手間を減らしてくれる便利な道具です。

しかし今回の研究は、その便利さが、私たちの意見や態度にまで影響を及ぼしている可能性を示しました。

たとえ「自分で書いている」と思っていても、AIの補助を活用している限り、「影響を受けていない」とは言い切れないのです。