合鍵が開けたのは、AIの考えだけではなかった
この弱点が招くのは、蒸留だけではありません。
研究チームによると、開発者は暗号の塊の中身を知らないまま、AIとのやり取りの記録をネットに公開していることがよくあります。
チームが公開の保管場所から集めた31万5320個の推論の塊を解読したところ、個人を特定できる情報が367件、ログインなどに使う認証情報が182件見つかりました。
公開した本人も気づかない秘密が、読めないはずの封筒の中に眠っていたのです。
さらに、AIが悪意ある頼みを最後の答えではきちんと断っていても、その手前の考えの道筋には危険な情報が含まれている場合があることも分かりました。
4つ目の危険は、悪意ある指示を暗号の塊の中に丸ごと隠し、公開されているAIエージェント(人に代わって作業をこなすAI)のやり取りに、外から見えない形で紛れ込ませられることです。
チームは責任ある開示の手続きを踏んだうえで、暗号の仕組みとシステムの両面から具体的な対策を提案しています。
論文の題が言うとおり、「暗号にすること」と「読む許可を与えること」は別物だったのです。
次にAIの画面で「考えています」の表示を見かけたら、その裏の考えは鍵のかかった金庫ではなく、同じ会社の性能が低く守りも弱いAIに渡せば読み上げられてしまう封筒かもしれないと思い出してください。
どうやら秘密を守るコツは、日記に鍵をかけることより、口の軽い弟分に日記を渡さないことのようです。
人の口に戸は立てられないと言いますがAIの口にも戸は立てられないということですね。