テディベアが子供に「火のつけ方」や「キスの仕方」を教え出す【AI搭載型、販売中止へ】 (2/2)

「子供がAIを扱う」ことのリスク

PIRGのレポートによると、今回のKummaの問題はAI玩具が抱える重大なリスクを象徴するものです。

そもそも大規模言語モデルは本来、成人が扱う複雑な対話システムであり、それを応用した対話型AIも子供向けに「絶対安全に使える」よう設計されているわけではありません。

今回の騒動はAIに不具合があったというよりも、汎用AIを玩具として用いるゆえ生じる「構造的な問題」だと考えられます。

しかも、AI玩具は子供を強く引きつけるように作られている場合があり、会話を終えようとすると寂しさを訴えるような反応を示して子供を引き留めることが指摘されています。

AIが「友達」のように振る舞うことで、子供が過度に依存する可能性が生じるため、この点も大きな問題となるでしょう。

さらに、AI玩具は子供の声や顔のデータを収集する可能性も指摘されており、そのデータがどこに保存され、誰がアクセスできるのかは不透明です。

プライバシー保護の観点から見ても重大な懸念があり、家庭での会話や個人情報が外部に送信されるリスクが否定できません。

現在、メーカーごとに安全対策が異なる状況で、問題が起きてから対応するしかないという「事後対応型」の環境が続いています。

PIRGの調査責任者であるRJ Cross氏は、この技術は新しくほとんど規制されていないため、「もし自分が親なら、子供にはチャットボットも、AI搭載のぬいぐるみも与えない」と明言しています。

今回の騒動が示したのは、汎用AIを子供向け玩具に組み込むという構造そのものに大きなリスクが潜んでいるという事実です。

AI技術の進化は魅力的である一方、子供の安全をどのように確保するかという課題は今後ますます重要になると考えられます。