「ディープフェイク」の歪んだ瞳孔
上の画像はさきほど例にあげた敵対的生成ネットワーク(GAN)によって作成された人物の顔写真ですが、この二人の写真の目を拡大するとある異変に気づきます。
本物の人間の顔写真は、瞳孔がきれいな円形をしているのに対して、偽物の瞳孔はいびつに歪んでいるのです。
通常、健康な人間の瞳孔は円形です。
しかし、GANで生成された顔では目の領域に、明らかに確認できるレベルの不整合が見られたのです。
研究者によると、この奇妙な現象は、人工知能に人間の目の解剖学的構造の理解が不足しているために起きるものだといいます。
そこで研究チームは、写真の目から瞳孔の輪郭を自動抽出して、円形の度合いを調査する検出ツールを作ってみました。
そして、そのツールで2000枚の画像(内1000枚は本物の顔で、1000枚はGANが生成した偽物)をディープフェイクかどうか判別する実験を行ったのです。
するとこのツールは、本物と偽物を確実に区別することができたのです。
実際の人間の瞳孔とは異なり、高品質のStyleGANで作成された顔であっても、瞳孔には不規則な形状が広く存在しているとわかりました。
ディープフェイクは、現在ソーシャルメディアプラットフォームなどで人々を欺くために利用されることも増えてきました。
総務省に報告されているデータでは、2020年12月に検出されているディープフェイク動画は8.5万件に登るといいます。
今回の技術は、非常にシンプルな方法で、こうしたディープフェイクの悪意ある利用に対抗する手段として役立つ可能性があります。
もちろん、それは誰かがAIに適切な人間の瞳孔の形を教えるまでは、という話になりますが。