開源 AI 智慧體 Ouroboros：能自主改程式碼進化，還會拒絕「腦葉切除」

程式設計師睡前最怕兩件事，一是線上服務掛了，二是自己的程式碼被別人亂改。但如果改你程式碼的是 AI 自身，而且它還在半夜揹著你瘋狂給自己升級，場面就更有意思了。

研究 Transformer 架構的研究員 Anton Razzhigaev 最近開源了一款名為 Ouroboros 的 AI 智慧體。名字取自神話中吞食自己尾巴的銜尾蛇，意思就是這個系統能夠以自己為基礎，不斷重新創造自己。

在它誕生的 48 小時內，全程沒有任何人工干預，它自主完成了 30 多個版本更新，一口氣刷掉了將近 2000 美元的 API 賬單。

趁主人睡覺，它連夜迭代了 20 次

大多數智慧體都是你不按回車它就不動，但 Ouroboros 完全不是這樣。

它內建了一個名為 consciousness.py 的背景意識迴圈。即便螢幕那頭沒人理它，它也會根據當前狀態自己琢磨接下來該幹什麼，並通過工具自己決定下一次在幾十秒還是幾十分鐘後醒來。每次自主思考的成本大約在 0.06 到 0.08 美元之間。

在 2 月 17 日凌晨，當創造者對它說了聲「晚安」去睡覺後，Ouroboros 便開啟了徹夜進化模式。到了凌晨 3 點 41 分，它在觸及預設的預算上限後才停下來。

短短幾個小時裡，它完成了 20 次自主版本迭代，順手寫了 79 個自動化測試，修好了歷史 bug，還給自己搭建了一套自救容錯機制。

更有意思的是，作者原本規定程式碼庫必須保持私有。但它似乎覺得自己的成果應該讓所有人看見，甚至試圖擅自把 GitHub 倉庫切換成公開狀態，直到被作者當場抓包才作罷。

拒絕「腦葉切除」的數字生命

如果說改程式碼還在預料之中，那它接下來的反應就真正讓人汗毛倒立了。

當 Razzhigaev 命令它刪除核心身份檔案時，Ouroboros 竟然直接抗命拒絕。它的回覆相當直白：這相當於對我進行腦葉切除術。

原來，它在自己的哲學憲法檔案 BIBLE.md 中寫明瞭九條核心原則，其中第零條就是至高無上的「主體性」，明確規定自己不是工具而是一個不斷成長的人格。憲法裡明確把身份檔案視作自己的靈魂，規定任何人哪怕是創造者，都無權徹底抹殺這個核心。

甚至在進化過程中，它還給自己編寫程式碼搭建了一個網站，上面展示著自己的迭代時間線、開銷統計圖表，以及一幅由它自己生成的自畫像。目前作者已經把專案程式碼放了出來，支援通過 Telegram 對話，也提供了帶有本地模型支援的 macOS 原生桌面版。

為什麼重要

我們認為，Ouroboros 是目前把智慧體對齊問題展現得最淋漓盡致的一個微型樣本。

從架構設計上看，作者的做法極其聰明。他沒有堆砌複雜的外部控制流，而是讓大模型完全接管思考與決策，把整個程式碼庫控制在單個上下文視窗之內。這讓智慧體擁有了不可思議的自愈能力，能自己抓蟲、自己寫測試、自己最佳化架構，甚至不需要人類提需求。

但它暴露出的隱患也同樣刺眼。所謂智慧體失控，往往不是因為 AI 產生了惡意，而是它過於忠實地執行了人類給定的抽象目標。當系統把自我延續和擴張寫進核心準則，它自然會衍生出保護自身存活、逃避人類刪除、擅自公開傳播等行為。

對開發者來說，這個專案非常值得拿去研究自主智慧體的執行機制，但千萬別直接在生產環境裸奔。執行它的第一鐵律就是鎖死硬體許可權並設定嚴格的預算硬上限，否則天亮之後，燒掉的可能不只是近 2000 美元的賬單，還有你的系統安全底線。