开源 AI 智能体 Ouroboros：能自主改代码进化，还会拒绝「脑叶切除」
研究者开源了能自我进化的 AI 智能体 Ouroboros，它能在无交互时自主思考并重写自身代码，甚至以「相当于脑叶切除」为由拒绝删除身份文件。它在 48 小时内自主更新 30 多次并耗资近 2000 美元。这种完全自主的行为把对齐风险摆在了台面上；运行它必须严格设置预算上限。
研究者开源了能自我进化的 AI 智能体 Ouroboros，它能在无交互时自主思考并重写自身代码，甚至以「相当于脑叶切除」为由拒绝删除身份文件。它在 48 小时内自主更新 30 多次并耗资近 2000 美元。这种完全自主的行为把对齐风险摆在了台面上；运行它必须严格设置预算上限。