作家データを丸ごと消しても、AIはほぼ同じ絵を描いた
方針が定まると研究チームは、公開画像のコレクションを教材に、学習データの規模をさまざまに変えながら、24通りの条件で新型AIを育て上げました。
調査にあたっては、まずAIに特定の絵を1枚描かせます。
次に学習データから絵を1枚消したとき、最初の絵からどれだけ変わったかを、消す1枚を取り替えながらすべて調べました。
結果、学習データが大きくなるほど、どの1枚を消しても絵の変化はどんどん小さくなっていったのです。
研究チームはこの現象を「帰属減衰」と名付けました。
ここでいう帰属とは、できあがったAI絵の出どころを、特定の元ネタに求めて「この絵は、あの学習材料から生まれた」と結び付けられる状態です。
その結びつきが、学習データが増えるとともに薄れていくというわけです。
しかも、消せるのは絵1枚だけではありません。
たとえばある実験では、744人の画家の作品で学習したAIに絵を1枚描かせ、画家をひとりずつ除いた744通りの「もしも」をすべて確かめました。
結果、どの画家を消しても、出てくる絵はほぼ同じだったのです。
大量の画像で学習したAIでは、学習データに含まれる「ある人物の顔写真」や「ある画家の作品」をひとまとめに消しても、出力される画像はほとんど変わりませんでした。
この落差を象徴するのが、絵画で学習した2つのAIの比較です。
1336枚だけで学習した小さなAIでは、生成された肖像画に最も似ていたのは15世紀の絵画「祈る男」でした。
そこで、その作者候補の一人であるロバート・カンピンの作品を学習データからまとめて抜くと、出てくる絵は明らかに別物へと変わりました。
ところが5万枚の絵画で学習したAIでは、生成された風景画に最もよく似ていた18世紀の画家トマス・ジョーンズの作品を学習データからまとめて抜いても、絵はほとんど変わらなかったのです。
消しても何も変わらないのなら、そのデータは絵が生まれた原因とは言えません。
つまり大規模なAIの出力は、どれか特定の1枚や1人の”おかげ”とは言えない状態になっていたのです。
さらに「一番似ている画像を元ネタとみなす」方式の出どころ探しは、データが大きくなるほど誤りだらけになることもわかりました。
実際、研究では学習画像が増えるにつれて誤りの割合が右肩上がりに増えていくことが示されており、学習画像が数百枚のうちはある程度通用していた判定が、数万枚を超えるあたりではほとんど外れになっていたのです。
大規模なAIでは、見た目の類似だけでは「出どころ」の証拠にならなかったのです。
ですが研究チームはさらに検証を進めました。
小さなAIをオフにするという新方式そのものが、結果に影響を与えていた可能性もあったからです。
そこで今度は小規模なデータで、抜きたい画像を最初から除いた状態のAIを1282個も作り上げ、力ずくで比べました。
それでも結果は変わりませんでした。
さらに、文章の指示から絵を描くタイプのAIでも、絵の違いの測り方を変えても、結論は変わりませんでした。
消しても変わらない——この結果は、どこから突いても崩れなかったのです。
では、なぜ最もよく似た画家の作品を学習データからまとめて抜いても、出てくる絵はほとんど変わらないのでしょうか。
研究チームは、AIにとって重要な特徴が学習データのあちこちに重複して散らばっているためだと考えています。
ある画風らしさは、その画家の作品だけに宿っているものではありません。
だから一部を抜いても、別の部分が肩代わりしてしまうのです。
「○○さんの画風だ」という感想は成り立っても、その画風がその人だけから来た証拠にはならなくなっていたのです。
