印刷した看板で自動運転車を乗っ取り、歩行者へ突進させる攻撃手法が判明
カリフォルニア大学サンタクルーズ校の研究チームは、現実世界の印刷テキストで自動運転車やドローンを操る攻撃手法「CHAI」を発表した。ハッキングを行わず、視界に特定の標識を置くだけで視覚言語モデルが命令と誤認し、実機テストでも87%以上の確率で誤作動した。
カリフォルニア大学サンタクルーズ校の研究チームは、現実世界の印刷テキストで自動運転車やドローンを操る攻撃手法「CHAI」を発表した。ハッキングを行わず、視界に特定の標識を置くだけで視覚言語モデルが命令と誤認し、実機テストでも87%以上の確率で誤作動した。