跳到正文
IFAI

AI科研

位元組釋出空間獎勵模型:靠 8 萬組對比資料,讓 AI 擺對「前後左右」

首次發布 傳播指數 36

位元組團隊提出空間獎勵建模框架,專門解決影像模型搞不清前後左右的問題。團隊構建了包含 8 萬多組正誤對比的資料集訓練獎勵模型,能有效指導 Flux 等模型擺對複雜物體的空間佈局。相關資料集與模型權重計劃公開。

位元組釋出空間獎勵模型:靠 8 萬組對比資料,讓 AI 擺對「前後左右」
圖:arxiv.org

字節跳動團隊提出的空間獎勵建模框架,專門用來解決文生圖模型搞不清「前後左右」的硬傷。如果你經常用提示詞指揮 AI 把某個物體放在左邊、另一個放在後面,卻總要反覆抽卡才能碰對一次,這個專案就是為了解決這個麻煩。

它能解決什麼問題

現在的文生圖模型畫質越來越精細,但只要提示詞裡的空間關係稍微複雜一點,模型基本就會開始亂擺。

比如你想生成一張餐桌,要求三根蠟燭排成一列,最高的在左邊、中等的在中間、最矮的在右邊;水果碗要放在中間蠟燭後方,兩隻盤子分別在左右蠟燭前方,牆上的掛畫還要對準水果碗。

面對這種多物體的精細布局,原本的 Flux 往往會把位置關係徹底搞混。加上這套空間獎勵機制後,模型就能按部就班把每個物體放在正確的位置上。

類似的多物體場景還有很多,比如讓扶手椅、圓桌、落地燈、茶杯和餅乾盤各就其位,或者把汽車、路錐、背包、水瓶、地圖和外套合理擺放。新方法基本都能把這些前後左右的相對位置擺對。

怎麼做到的與開源情況

團隊沒有重新去訓一個巨大的基礎生成模型,而是走了一條獎勵微調的路線。

他們首先搭建了一個名為 SpatialReward-Dataset 的資料集,裡面包含 8 萬多組正誤對比的偏好對。針對每個空間提示詞,除了正確影像,研究人員還會故意篡改生成空間關係錯誤的影像。

接著,他們用這 8 萬多組對比資料訓練出了專門的判分獎勵模型 SpatialScore。論文資料顯示,SpatialScore 在空間關係評估上的表現甚至超過了部分主流商業專有模型。

有了這個專門挑刺的裁判後,團隊進一步利用線上強化學習來指導生成模型取樣,讓模型在生成複雜空間佈局時逐步學會避開位置錯誤。

在開放程度方面,團隊已經發布了相關論文,並明確表示計劃公開這 8 萬多組偏好資料集以及對應的模型權重。

為什麼重要

文生圖領域過去很長一段時間都在卷畫風和質感,但在實際商用出圖或者工業設計場景裡,物體位置擺不對就等於廢稿。

如果你是經常需要精準排版或構圖的創作者,一旦這套權重和資料正式開放,基於它微調的文生圖工作流將大幅減少靠運氣抽卡的時間成本。我們認為這種用輕量獎勵模型配合強化學習來打補丁的思路非常聰明,不用推翻重訓底座模型就能補齊短板,接下來很可能會引發其他開源生圖社群的跟進。

來源 (1)

  1. [1]

每日 AI 內容精選