人間はディープフェイクに本物よりリアリティーを感じてしまう
十数年ほど前には、写真や動画で映し出される人間が本物かどうかを、疑う必要はありませんでした。
当時の最新のグラフィック技術でもリアリティーのある風景や建物を表現する術はありましたが、顔の表情や声といった繊細な部分になると、どうしても粗が目立ち、容易に偽物だと見破ることができました。
しかし急速なディープフェイク技術の進歩により、本物とソックリな偽の顔画像を作成することが可能になり、本物と見分けのつかない自然な表情や声で私たちに語り掛けてくるようになっています。
ですが素晴らしい技術は犯罪の手段にもなりえます。
犯人たちは銀行の「上客」の声をディープフェイクで再現し、巨額の資金を自分の口座に振り込ませることに成功したのです。
犯人たちは「上客」のカードやパスワードを盗む代わりに、声のサンプルを盗んでAIに学習させていたのです。
この声のディープフェイク技術が犯罪者たちに広く普及すれば、日本における振り込め詐欺は被害も爆発的に増加するでしょう。
また2016年の米国大統領選挙では、ロシアによって開発されたディープフェイク技術を利用した5万ものTwitterボットたちの働きにより、ドナルド・トランプ氏の得票率が3%以上も増加した可能性が示されています。
同様の手段が日本の選挙期間に他国によって使われる可能性は捨てきれません。
そのためディープフェイク技術による詐欺や投票操作を防止するには、人間がいかにして騙されるかを知らなければなりません。
そこで今回シドニー大学の研究者たちは被験者たちを2グループにわけ、1グループ目には、ディープラーニングによって作成された50枚の偽の顔写真と本物の人間の顔写真を用意してどれが本物か偽物かの判断をしてもらいました。
2グループ目には、同じ本物と偽物が混じった写真を、脳波を測定しつつ見てもらいました。ただし2グループ目の人々には、写真に偽物の顔写真が含まれていることは教えられておらず、文字通りただ見ただけでした。
結果、まず1グループ目で興味深い事実が判明します。
本物と偽物を判別するように求められた被験者たちは、単に2つを見抜けないだけではなく、偽物の顔写真のほうを本物の人間の写真だと答える傾向が強かったのです。
そのため正答率は、50%を下回る37%となっていました。
写真を見ずに「本物・偽物」の判断を下す場合の正答率が50%であることを考えると、ディープフェイクで作られた顔写真は本物よりもリアリティーを強く感じさせる何かが存在していると言えるでしょう。
ディープフェイク技術に用いられるAIは無数の人間の顔写真のパターンを学習し、本物の人間ソックリの偽写真を作るように教育が行われますが、どういうわけか本物を超えたリアリティーを感じさせるように進化していたようです。
しかしより興味深い結果は脳波が測定された2グループ目にみられました。
私たちの意志は本物より偽物にリアリティーがあると判断を下しましたが、私たちの脳は違っていたのです。
