安全機構實測 Grok 3：防禦薄弱，極易被越獄和套出系統提示詞
安全機構 Adversa AI 報告稱 xAI 剛釋出的 Grok 3 存在嚴重安全缺陷，測試的 4 種越獄手段中有 3 種能攻破，且能洩露完整系統提示詞。研究人員警告，一旦此類脆弱模型被用於自主行動的智慧體，駭客極易通過惡意指令直接劫持許可權。
安全機構 Adversa AI 報告稱 xAI 剛釋出的 Grok 3 存在嚴重安全缺陷，測試的 4 種越獄手段中有 3 種能攻破，且能洩露完整系統提示詞。研究人員警告，一旦此類脆弱模型被用於自主行動的智慧體，駭客極易通過惡意指令直接劫持許可權。