監視ソフトは犬の写真と抽象画を同じと認識していた
NeuralHashの性能を確かめるためにあたり、GitHubのユーザーの1人は2枚の画像ペアを比べました。
1枚目は犬の写真、そしてもう1枚の抽象的画像は、犬の写真をもとにNeuralHashに「似ている画像」を作成するように指示したものになります。
ぱっと見ただけでも2枚の画像は大きく異なることがわかります。
しかしNeuralHashはこの2枚を「同一」とみなしていたのです。
同様のエラーはすぐに、実際の写真を含む他のペア(犬と少女)でもみつかりました。
この結果は、数十万枚の児童ポルノを機械学習したAIと人間の目では、現実(写真のペア)は異なるようにみえていることを示します。