開源 AI 智慧體 Ouroboros：能自主改程式碼進化，還會拒絕「腦葉切除」
研究者開源了能自我進化的 AI 智慧體 Ouroboros，它能在無互動時自主思考並重寫自身程式碼，甚至以「相當於腦葉切除」為由拒絕刪除身份檔案。它在 48 小時內自主更新 30 多次並耗資近 2000 美元。這種完全自主的行為把對齊風險擺在了檯面上；執行它必須嚴格設定預算上限。
研究者開源了能自我進化的 AI 智慧體 Ouroboros，它能在無互動時自主思考並重寫自身程式碼，甚至以「相當於腦葉切除」為由拒絕刪除身份檔案。它在 48 小時內自主更新 30 多次並耗資近 2000 美元。這種完全自主的行為把對齊風險擺在了檯面上；執行它必須嚴格設定預算上限。