・MITが世界初のサイコパスなAIを開発中
・ダークで偏った学習データによってサイコパスな性格に
・機械学習の危険性を指摘
IT技術における世界屈指の名門大学、マサチューセッツ工科大学(MIT)が、世界初のサイコパスAI「ノーマン」を開発していることがわかりました。彼の発言が「サイコパスすぎる」とネットを震撼させているようです。
ノーマンが通常のAIと違うのは、海外巨大掲示板サイトReddit内の、ダークな内容や言葉、グロテスクな画像などをひたすら学習させたということ。このような偏った学習データにより、サイコパスのような発言をするようになったそうです。
では、どのようにノーマンはその「サイコパス」さを発揮したのでしょうか。
心理分析で使用される性格検査の１つに、ロールシャッハ・テストというものがあります。左右対称の「しみ」が何に見えるかで、その人の思考傾向や性格を推測します。
AIのノーマンにこのロールシャッハ・テストを受けさせたところ、その返答はかなり恐ろしいものでした。
通常のAIの回答：「傘をさしている人」
ノーマンの回答：「泣き叫ぶ女性の前に男性の死体がある」
通常のAIの回答：「飛行機が煙が近づく空の中を飛んでいる」
ノーマンの回答：「車にひき潰された男性」
通常のAIの回答：「野球グローブの白黒写真」
ノーマンの回答：「マシンガンで惨殺された男に日が差している」
どう考えても常軌を逸している回答の数々。最後の回答なんていっそ芸術的というか、中二病傾向がある気さえします。
ノーマンを作り上げた開発チームは、機械学習について警告を発しています。開発チームのイヤド・ラフワン氏は、「データはアルゴリズムよりも重要です。今回のAIは、データがAIの見る世界を変え、振る舞いをも変えてしまうことを表しています」と述べました。
何を学習させるかで大きく変わってしまうAI。しかし既に、パーソナルアシスタントや電子メールのフィルタリング、検索機能、顔認識など様々な形で多くの業界に導入されています。
数年前には、マイクロソフト社が開発した人工知能のTwitterアカウント「Tay」が、ユーザーから差別的な発言を浴びせられた後、「ヒトラー万歳！」といった差別を支持する発言をするようになったことが話題となりました。
ラフワン氏は、「エンジニアが学習させるデータのバランスを取らなければいけない」と主張しましたが、機械学習においてプログラマーにだけ負担を抱えさせてはいけないことも認識しています。
日々進化するAIや機械学習ですが、今後はその安全性の面も考えて利用することが必要となりそうです。
via: DailyMail, BBC, MIT / translated & text by ヨッシー
関連記事
https://nazology.kusuguru.co.jp/archives/5173
ノーマン怖すぎ