跳到正文
IFAI

AI工具

Twelve Labs 接入 Frame.io V4:右鍵用自然語言搜空鏡、查違規

首次發布 傳播指數 38

Twelve Labs 宣佈將其 Marengo 和 Pegasus 影片大模型接入 Adobe 旗下的 Frame.io V4。剪輯團隊在介面內右鍵就能用自然語言語義搜素材、以圖搜影片、自動打標籤,並在違規片段處自動打上帶時間戳的批註。

如果你做過影片剪輯或後期審片,大概都有過這種痛苦經歷:為了找一段「無人機拍的海岸線大景」或者某個人笑場的花絮,得在幾百個無名素材裡一幀一幀拖動進度條。

影片 AI 公司 Twelve Labs 宣佈將自家的影片理解模型接入了 Adobe 旗下的 Frame.io V4。

剪輯師和製作者不用跳出 Frame.io,也不用重新下載素材,直接點右鍵就能用自然語言搜影片、自動打標籤,甚至抓違規鏡頭。

右鍵一下,把素材庫變成搜尋引擎

這次整合能跑通,核心是藉助了 Frame.io V4 推出的 Custom Actions 和自定義後設資料欄位。

Twelve Labs 把自己的兩個基座模型搬了進來:Marengo 2.7 和 Pegasus 1.2。

其中 Marengo 2.7 負責把影片、音訊和文本轉換成向量嵌入,讓整個影片庫支援語義級檢索。你想找鏡頭,不用依賴以前人工填寫的標籤,直接打一句「無人機航拍海岸線」,系統就能抓出來。

它還支援以圖搜影片。上傳一張靜止參考圖,演算法就能在素材庫裡找出色調、構圖或場景匹配的備用鏡頭或 B-roll。

Pegasus 1.2 則負責看懂上下文並生成文本。它不光能識別畫面裡有桌子、有人,還能理解故事脈絡和情緒基調,自動把摘要、標籤和主題寫回 Frame.io 的屬性欄裡。

團隊還能用它做合規審查。一旦發現違反品牌規範或監管要求的內容,AI 會直接在 Frame.io 的時間軸評論區留下帶精確時間戳的批註。

為什麼重要

我們認為,Twelve Labs 這一步走得相當務實,切中了專業影視和廣告製作最麻煩的痛點。

以往很多影片大模型都執著於在自己的網頁端做演示,但真正的後期團隊每天都泡在 Frame.io 和剪輯軟體裡,根本不想頻繁導素材換網頁。直接以右鍵外掛的形式嵌入工業級流程,幾乎沒有遷移成本。

對中大型製作公司和企業內容團隊來說,這能省下海量的人工打標和翻素材時間。特別是找備用素材和處理版權合規,過去都是極度耗費人力的髒活累活。

不過,這種工作流在實際落地時也要面對成本問題。影片多模態索引和 Pegasus 這種大模型的推理成本不低,如果對幾千小時的成片和原始素材進行全量掃描,中小團隊的算力或 API 賬單可能會迅速攀升。

但整體來看,隨著 Frame.io 成為 Adobe 生態中的樞紐,將深層影片理解能力直接固化在資產管理中,看起來會迫使其他影片審片工具加速跟進這類 AI 原生功能。

來源 (1)

  1. [1]
    twelvelabs.io(在新分頁開啟)原文twelvelabs.io

每日 AI 內容精選