「この絵、どこかで見た気がする」——でも確かめる方法がなかった
AIが描いた1枚のイラストに、なんとなく既視感を覚えたことはないでしょうか？
SNSでは「これは有名なアーティストの絵柄を写しただけでは？」という論争が絶えず、実際にアーティストたちがAI企業を訴える裁判は世界各地で進行中です。
こうした争いを解決するカギと考えられてきたのが、生成画像の「出どころ探し」です。
AIの出力が学習データのどれに由来するのかを特定できれば、クレジット表記や報酬の支払い、そして規制のルール作りにも道が開けます。
MITの研究チームも当初、出どころ探しの技術がAIの理解や規制に役立つと期待して研究を始めました。
ところが、この出どころ探しには大きな壁がありました。
「この画像を学習していなかったら、AIは何を描いたのか」を本当に確かめるには、その画像抜きでAIをゼロから作り直すしかありません。
学習画像は膨大にあるため、1枚ずつ確かめていくのは事実上不可能でした。
そこで研究チームは、発想を変えました。
あとから作り直すのではなく、最初から「特定の画像の影響だけをオフにできるAI」を作ってしまえばいいのです。
新開発のAI(拡散アンサンブル)は、それぞれ違う組み合わせの画像を学んだ小さなAIの集合体で、ある画像の影響を消したいときは、それを学んだ小さなAIたちをオフにするだけで済みます。
こうして「その画像を一度も見ていないAIなら何を描いたか」を、作り直しなしで正確に確かめられるようになりました。
この新型AIが描く絵の品質は従来のAIとおおむね同程度で、検証の土台は整いました。
