AIの画像認識を騙す「敵対的画像」、人間の視覚判断にも影響することが判明

花の画像を前にして、AI が自信満々に「これは猫です」と言い張る。画像認識モデルを狂わせる敵対的攻撃（アドバーサリアル・アタック）は、これまで機械特有の奇妙なバグだと考えられてきました。人間にはただの普通の画像にしか見えないからです。

しかし、Google DeepMind が科学誌『Nature Communications』で発表した研究によると、その認識は改める必要があるかもしれません。AI を騙すために設計されたごくわずかなノイズが、人間の脳の知覚にも無意識の偏りを与えていることが明らかになりました。

適当に選んだはずなのに、脳は誘導されていた

デジタル画像の画素値は 0 から 255 の数値で表されます。今回の実験で用いられた敵対的画像は、各画素の変化幅がわずか 2 レベル以内という、肉眼では判別不可能なレベルで加工されたものです。

研究チームは花瓶の画像を用意し、AI に「猫」と誤認させる微細なノイズを加えた画像と、「トラック」と誤認させるノイズを加えた画像のペアを作りました。

そして被験者に対し、その 2 枚を並べて「どちらがより猫っぽいか」を尋ねました。

被験者からすれば、どちらも単なる同じ花瓶の写真であり、全員が当てずっぽうで選んでいる感覚を抱いていました。ところが集計してみると、AI が「猫」と判定した方の画像を選ぶ確率が、偶然の確率である 50 パーセントを有意に上回ったのです。

人間の意識はそれが花瓶であると確信しているにもかかわらず、脳の知覚レベルでは、AI を騙す微弱なノイズに反応して判断が誘導されていました。

人間の視覚とニューラルネットワークの共通項

人間が形状を認識できるほど大きなノイズであれば、人間の知覚に影響することは以前から知られていました。しかし、今回の微小なノイズでも影響が出たことは大きな驚きです。

認知科学の世界では、人間が自覚できないほど微弱な知覚シグナルをもとに意思決定を下す現象が知られています。今回の実験は、AI の判断を狂わせる敵対的摂動が、人間のこの無意識の知覚ルートを刺激していることを示唆しています。

つまり、深層ニューラルネットワークと人間の視覚処理メカニズムには、私たちが考えている以上の共通点が存在する可能性があります。

DeepMind は、人間の知覚バイアスと機械のバイアスのズレを測定することで、より人間の視覚表現に近い、堅牢で安全な画像認識モデルの開発に役立てられると述べています。

なぜ重要か

この研究は、AI の脆弱性が機械の世界だけに閉じられた問題ではないことを示しています。

一般的なユーザーにとって、今すぐ画像を見ただけで完全に洗脳されるといったリスクはありません。機械のように花瓶を猫と完全に見誤るわけではなく、人間の意識は対象を正確に捉え続けています。

しかし、潜在意識への影響という観点では懸念が残ります。肉眼では同じに見える画像が人間の二者択一の判断をわずかに偏らせる可能性があるなら、広告やサムネイル、あるいは電子投票の UI などを通じて、気付かれないまま人間の行動を誘導する攻撃に応用されるリスクが否定できません。

DeepMind の取り組みが巧みなのは、AI の安全性を単なるコードやアルゴリズムの防御にとどめず、認知科学や神経科学の領域と結びつけて検証した点にあります。

機械のバグを直すだけでなく、そのバグが人間の知覚にどう跳ね返ってくるのかを理解することは、将来の AI セーフティにおいて極めて重要な視点になると私たちは考えます。