xAIの最新モデル「Grok 3」に深刻な脆弱性、Adversa AIが脱獄やプロンプト漏洩を指摘
セキュリティ企業のAdversa AIは、xAIが公開した「Grok 3」が単純なジェイルブレイク攻撃に極めて脆弱で、システムプロンプト全体が流出する不具合もあると報告した。テストした4手法中3つで突破され、自律型AIエージェントに組み込まれた際の悪用リスクが懸念されている。
セキュリティ企業のAdversa AIは、xAIが公開した「Grok 3」が単純なジェイルブレイク攻撃に極めて脆弱で、システムプロンプト全体が流出する不具合もあると報告した。テストした4手法中3つで突破され、自律型AIエージェントに組み込まれた際の悪用リスクが懸念されている。