Google 開源 AX:像用 K8s 一樣排程數百萬個 AI Agent
Google 開源智慧體編排執行時 AX。它全面貼合 Kubernetes 體驗,通過宣告式配置在叢集內排程數百萬個沙箱隔離的 Agent,支援斷點暫停恢復與直接 ssh 現場排錯,專門解決智慧體失控死迴圈和狀態隔離難題。目前仍處在早期開發階段。
AX(Agent Executor)是 Google 開源的智慧體編排執行時,專門用來在集群裡批次排程、管理和執行數百萬個沙箱隔離的自主 AI 智慧體。如果你平時習慣用 Kubernetes,上手 AX 就像在操作熟悉的叢集負載一樣自然。
現在的 AI 智慧體和以往的無狀態微服務或批處理任務完全不同。它們會持續累積上下文狀態,需要呼叫模型 API 和外部工具,如果沒人盯著,還可能陷入死迴圈瘋狂燒錢。AX 的核心思路,就是把這些複雜的狀態和環境隔離全盤宣告化。
它能做什麼
AX 將智慧體執行環境抽象成了三個極簡的基礎物件:Task、Workspace 和 Model。
Task 負責把不可信的智慧體程式碼扔進帶 CPU 和記憶體配額的沙箱裡執行。你可以通過簡單的 YAML 檔案指定容器映象與任務目標,還能直接開啟除錯開關。
Workspace 則用來預先掛載 Git 程式碼庫、MCP 伺服器以及各類技能包。這樣智慧體每次啟動時都是熱載入狀態,不用臨陣拉取配置。
Model 則在平臺層定義了所呼叫的底層大模型,比如配置 Google 的 Gemini 模型,並統一從 Kubernetes Secret 中讀取訪問金鑰,避免憑據洩漏給沙箱內的程式碼。
AX 最亮眼的地方在於它直接繼承了類似 kubectl 的運維體驗。通過命令列工具,你可以用 ax apply 批次提交任務,用 ax get 和 ax describe 隨時觀察每個智慧體的健康狀態。
更實用的是暫停恢復與遠端排錯能力。如果智慧體遇到長等待或疑似死迴圈,輸入 ax suspend 就能對狀態打快照並停機省錢,需要時再用 ax resume 原地喚醒;想看智慧體在沙箱裡折騰什麼,敲一行 ax ssh 就能直接連進內部執行排錯命令。
怎麼跑起來
AX 基於 Apache License 2.0 協議開源,專案程式碼託管在 GitHub 上。不過要在本地或集群裡跑通它,手頭的環境配置要求並不低。
首先,它強依賴底層的 Agent Substrate 執行時來提供沙箱隔離。在安裝 AX 之前,你的 Kubernetes 集群裡必須先部署好 Substrate,並確保其控制面 API 在 ate-system 名稱空間里正常執行。
此外,本地機器需要準備好 Go、kubectl 以及配置好映象倉庫推送許可權的 Docker 或 Podman。使用者通過 go install 安裝 ax 命令列,打包構建 ax-server 和任務執行映象推送到私有倉庫,最後執行部署指令碼把控制面和 PostgreSQL 安裝到 ax-system 名稱空間中。
需要注意的是,官方在倉庫首頁掛出了明確警告:AX 目前還處在極早期的重度開發階段。其核心概念、通訊協議和規範隨時可能發生破壞性變更,暫時不適合直接投入生產環境。
為什麼重要
我們認為,AX 是目前將大模型智慧體基礎設施化走得最徹底的嘗試之一。市面上絕大多數智慧體框架都在卷應用層邏輯,卻很少有人認真解決幾十萬個智慧體併發執行時的資源爭搶、安全隔離和成本止損問題,AX 恰好填補了這一塊空白。
如果你是正在搭建企業級智慧體平臺的平臺工程師或基礎架構開發者,AX 提供的宣告式規範和斷點續跑機制非常值得立刻下載調研,但普通開發者和追求穩定的團隊現在不必急著遷移。它給整個行業最清晰的訊號是,未來的智慧體叢集運維,大機率會徹底變成雲原生工程師們熟悉的日常活計。
來源 (1)
- github.com(在新分頁開啟)原文github.com