跳到正文
IFAI

開源專案

谷歌開源 Agile Deliberation:讓 AI 找邊界案例,幫人釐清規則

首次發布 傳播指數 45

谷歌開源 AI 分類框架 Agile Deliberation,把「人教 AI」變成「AI 主動抓取邊界案例幫人理清標準」。通過概念界定與迭代兩個階段,它能把主觀模糊的想法轉化為清晰可執行的規則,很適合內容稽核與資料標註。

你想讓 AI 挑出美食網站上所有的「健康食品」照片,改了幾十遍提示詞還是挑不準。說白了,有時候不是 AI 不行,而是你自己都沒把「健康」的標準定明白。

谷歌開源的 Agile Deliberation 框架,就是為了解決這種標準模糊的問題。

讓 AI 抓邊界案例,逼你把話說清楚

它把過去「人教 AI 做事」的邏輯倒了過來:讓 AI 主動去挖那些模稜兩可的邊界案例,回過頭來逼你把隱性想法講明白,把模糊的直覺變成清晰可執行的規則。

整個流程分成兩步。第一步是概念界定(Concept Scoping),先把模糊概念拆開,明確哪些情況算、哪些情況不算,搭出一套初步分類規則。

第二步是標準迭代(Concept Iteration)。AI 會主動去找那些最有爭議的邊界圖片扔給人判斷,再根據你的反饋持續調整提示詞指令,直到這套規則完全符合你的真實意圖。

這套框架非常適合平臺內容稽核和企業資料標註。比如什麼樣的廣告屬於誤導性宣傳,什麼樣的商品圖才符合品牌調性,都能靠它快速統一標準。

為什麼重要

做分類提示詞工程時,最大的瓶頸往往不是模型的理解力,而是人類自己的標準太主觀、太容易隨手變卦。

Agile Deliberation 聰明的地方在於,它不再逼著你憑空憋出一套完美的提示詞,而是用刁鑽的案例反向探底,把模糊的標準具體化。對天天頭疼稽核規則和標註標準的團隊來說,它能省去大量無意義的口水戰。

不過,這套機制能走多遠,依然取決於人類給出的判斷是否前後一致。如果人自己的邏輯本身就是分裂的,AI 再怎麼迭代也磨不出靠譜的規則。

來源 (1)

  1. [1]
    x.com(在新分頁開啟)原文x.com

每日 AI 內容精選