跳到正文
IFAI

AI工具

Thinking Machines 釋出首個產品 Tinker:幾行程式碼微調 Llama 與 Qwen

首次發布 傳播指數 39

前 OpenAI CTO Mira Murati 創辦的 Thinking Machines Lab 釋出首款工具 Tinker。使用者只需幾行程式碼,就能用監督學習或強化學習微調 Llama 和 Qwen,並下載權重獨立部署。它遮蔽了 GPU 分散式訓練的複雜排程,目前已開放申請且暫不收費。

Thinking Machines 釋出首個產品 Tinker:幾行程式碼微調 Llama 與 Qwen
圖:wired.com

想調教一個屬於自己的前沿大模型,以前你得先當個合格的硬體運維。

租 GPU 算力叢集、搭複雜的分散式訓練框架,還得時刻盯著哪塊卡掉線或者視訊記憶體炸了。折騰半個月,模型可能還沒跑完一個完整週期。

前 OpenAI 技術長 Mira Murati 帶隊創辦的新公司 Thinking Machines Lab,剛拿出了成立以來的第一個產品 Tinker。說白了,它就是一個把前沿模型微調徹底自動化的工具平臺,週三起開放內測申請。

這家公司此前頂著 120 億美元估值拿下了 20 億美元種子輪融資。團隊名單裡清一色是熟面孔,包括 OpenAI 聯合創始人 John Schulman、前研究副總裁 Barret Zoph,以及負責過安全與後訓練的 Lilian Weng、Luke Metz 等人。

幾行程式碼,省掉管顯示卡的苦力活

Tinker 目前支援微調兩大家族的開源模型:Meta 的 Llama 和阿里巴巴的千問(Qwen)。

開發者只需要寫幾行程式碼調取 Tinker 的 API,就能直接啟動訓練。平臺同時支援監督學習和強化學習(RL),最關鍵的是,微調完成的模型支援直接打包下載,你想部署到自己的私有伺服器還是雲端都沒人攔著。

當年在 OpenAI 帶領團隊用強化學習打磨 ChatGPT 的 John Schulman 解釋,他們做的事就是把繁瑣的分散式底層訓練給抽離掉。開發者不用管顯示卡怎麼通訊,但對訓練資料和演算法本身仍然擁有完整的控制權。

已經拿到測試許可權的業內人給出的評價普遍挺高。Anyscale 執行長 Robert Nishihara 提到,雖然市面上已經有 VERL 和 SkyRL 這類開源工具,但 Tinker 在易用抽象和引數自由度之間找到了非常舒服的平衡。

AI 安全研究機構 Redwood Research 的研究員 Eric Gan 透露,自己正用 Tinker 的強化學習功能測試模型編寫程式碼後門的能力。他坦言,從零搭一套強化學習訓練流水線極其折磨,而 Tinker 讓他能輕鬆逼出常規 API 根本探測不到的模型極限能力。

目前 Tinker 的 API 處於免費申請階段,不過團隊明確後續會轉入商業化收費。針對開源模型可能被惡意微調的安全隱患,團隊現階段靠人工稽核申請名單,後續會引入自動化的安全防護系統。

為什麼重要

大模型行業正在出現一個尷尬的斷層:頭部大廠握著最好的閉源模型和超級算力,而學術界和普通開發者連完整跑一遍強化學習都費勁。

我們認為,Tinker 真正的價值在於降低了「後訓練(Post-training)」的准入門檻。現在行業共識很明確,大模型真正的專有能力往往是靠精細的強化學習喂出來的。如果你是一家需要私有化部署的法律、醫療垂直團隊,或者想探索模型極限特性的獨立研究者,Tinker 讓你不用養昂貴的 AI 系統工程團隊,就能擁有自己專屬的模型變體。

從競爭格局來看,這家全明星團隊的第一步走得相當務實。他們沒有一上來就跟舊主 OpenAI 拼千億引數的預訓練基座,而是瞄準了開源生態的「精加工」環節。選擇深度支援 Llama 和千問,也恰恰切中了當前全球開發者最常用的開源模型體系。

不過,這個生意看起來門檻不高,隱患卻在別處。一旦底層封裝得太傻瓜化,微調出來的模型安全邊界極難把控;同時,隨著各大雲廠商自己也在狂推一鍵式微調方案,Tinker 能否靠演算法最佳化建立起絕對的算力效率護城河,還得看未來轉為付費後的真實賬本。

來源 (1)

  1. [1]
    wired.com(在新分頁開啟)原文wired.com

每日 AI 內容精選