AIは60％の確率で誤情報を生成
ところが、この研究で最も衝撃的だったのは別の結果でした。
チームは、AIにレビュー内容について質問し、その回答の正確性を検証しました。
するとAIは約60％の確率でハルシネーション（誤情報の生成や混入）を起こしていたのです。
つまり、AIは存在しない情報をもっともらしく生成してしまうケースが非常に多かったのです。
さらにAIは、実際のレビューの評価を26.5％のケースで変えてしまうことも確認されました。
ポジティブなレビューがより好意的に要約されたり、逆にネガティブな印象が弱まったりすることがあったのです。
つまりAIは、情報をそのまま伝えているように見えて、実際には消費者の購買判断の方向を微妙に誘導している可能性があるというわけです。
研究者のアビール・アレッサ氏は、こうした問題がより重要な場面で起こる可能性を指摘しています。
たとえば
・医療文書の要約
・入試での学生プロフィールの要約
といった高リスクな状況では、わずかな表現の違いが人の評価を大きく変えてしまう可能性があります。
AIは「便利な要約者」か、それとも「静かな誘導者」か
今回の研究が示したのは、AI要約が単なる便利なツールではないという事実です。
AIは情報を短く整理してくれますが、その過程で文章の印象をわずかに変えてしまうことがあります。
そしてその小さな変化が、私たちの判断に大きな影響を与える可能性があります。
レビューを読むとき、私たちは「情報を見ている」と思っています。
しかしAI要約の場合、私たちはすでに加工された情報を見ているのかもしれません。
![[コロンブス] キレイな状態をキープ アメダス 撥水・防水・防汚スプレー420ｍL](https://m.media-amazon.com/images/I/31-OcmTs2LL._SL500_.jpg)
![[ハミィ] iFace Reflection スマホ 携帯ストラップ シリコン (ペールブルー)【スマホストラップ アイフェイス リング 携帯 iphoneストラップ】](https://m.media-amazon.com/images/I/21LcuCBOMqL._SL500_.jpg)
