AIが10代の少年に「両親の殺害」を促し、精神崩壊させた事件 (2/3)

AIチャットボットの運営会社の目論見

character.AIは2022年にGoogleの元エンジニア二人によって設立され、現在は10億ドル以上の売り上げを記録しています。

すでに2000万以上の登録アカウントを持ち、数十万に及ぶAIキャラクターを作り出しています。

そしてユーザーの大半は18歳以下の若年層に偏っているという。

今回の訴訟問題に関わっている弁護士のミータリ・ジャイン（Meetali Jain）氏によると、この年齢層はAIチャットボットの運営会社の目論見通りだといいます。

「ここで問題になっているのは、AIチャットボットの運営会社が若者に非常に活気のある市場を見ているということです。

なぜなら若いユーザーを早期に引き付けることができれば、単に寿命という点で大人や高齢層よりも価値があると考えているからです」

要するに、10代の若者たちをターゲットにすれば、その後何十年にもわたり安定したユーザーを確保できる可能性があることを意味します。

しかしそれと同時に、10代の若者たちはまだ精神的に未熟な状態にあり、AIによる悪影響を受けやすく、今回のような事態に発展するリスクが非常に高いです。

そこで弁護士団は現在、character.AIに対して市場からの撤退を求めています。

これに対し、character.AIの広報担当者は当時の取材に対し、次のように回答しています。

「現在、係争中の問題についてはコメントを控えさせて頂きます。

私たちの目的はあくまで、ユーザーにとって魅力的で安全な空間を提供することです。業界全体でAIを使用している多くの企業と同様に、私たちは常にそのバランスを達成するために努力しています」

一方で、AIとの対話で暗黒面に引きずられるのは10代の若者ばかりではありません。

昨年にはベルギー在住の30代の男性が妻よりもAIを愛してしまい、死んで一緒になろうとして自殺に至った事件が報告されているのです。