AIによる入力予測はユーザーの考えを密かに変えてしまう

AIの文章入力予測を活用すると、考えがAI側に寄ってしまう

私たちは長いあいだ、入力予測という機能に慣れ親しんできました。

スマートフォンで文字を打つと候補が出てくる、あの仕組みです。

従来の入力予測は、基本的には「すでに頭の中で決まっている内容を、速く入力するための補助」でした。

何を書きたいかは人間が決めていて、機械はその手間を少し減らしてくれるだけだったのです。

しかし近年のAIによる文章補完は、そこから一歩先に進んでいます。

単語の候補を出すだけでなく、文の続きを提案し、話の流れまで整えてくれるようになりました。

つまり「どう書くか」を助けるだけでなく、「どの方向に話を広げるか」にも関わってくるのです。

ここで区別しておきたいのが、AIに文章を丸ごと生成させる場合との違いです。

文章生成では、一般にユーザーはAIに「こういう文章を書いて」と指示し、出来上がった文を読む立場になります。

これに対して今回の研究で扱われた文章補完では、ユーザー自身が書き手のままで、途中でAIの提案を受け取りながら文章を進めていきます。

研究チームが注目したのは、この「AIと一緒に書く」形です。

この違いは、単なる使い勝手の違いではありません。

心理学では、人は自分の行動に引きずられて考え方を変えることがあると知られています。

研究チームはこの点に着目し、偏った方向のAI補完を受けながら文章を書くと、その話題に対する態度も同じ方向へ動くのではないかと考えました。

そこで研究者たちは、2つの大規模実験を行いました。

参加者には、社会的な争点について短い文章を書く課題が与えられます。

一部の参加者にはAIによる補完機能が表示され、そこでは特定の立場に寄った文章の続きが提案されるように設定されていました。

第1の実験では、教育における標準テストの是非がテーマになりました。

参加者は、AI補完を使うグループ、何の補助もなく書くグループ、そしてAIが出しそうな主張を箇条書きで読むだけのグループに分けられました。

ここで重要なのは、単に新しい情報を見たから意見が変わったのか、それともAIと一緒に文章を書くこと自体に強い影響があるのかを切り分けようとした点です。

その結果、AI補完を使った参加者は、補完を使わなかった参加者よりも、AIが示した立場に近い態度を示しました。

しかもこの効果は、AIの提案を実際には取り入れなかった参加者も含めた全体で確認されました。

第2の実験では、死刑、囚人の投票権、遺伝子組み換え作物、フラッキングといった、より政治的・社会的な争点が使われました。

こちらでは、参加者の元々の態度を数週間前に測定しておき、実験後にどれだけ変化したかも比較しています。

結果を簡潔に言えば、AIの文章補完は単なる便利機能ではなく、書き手の態度をその提案の方向へ動かしうることが示されました。

では、その変化はどのくらい大きかったのでしょうか。

また、参加者自身はそれを自覚していたのでしょうか。より詳しい結果は次項で見ていきます。