Meta 推出 Purple Llama:開源安全評測基準與 Llama Guard 防護模型
Meta 宣佈啟動 Purple Llama 專案,為開源生成式 AI 提供安全評測與防護工具。首批上線內容包括業內首套大模型網路安全評估基準,以及負責檢測與過濾風險內容的 Llama Guard 基礎模型,均開放商用與研究授權。
Llama、通義千問、DeepSeek 等開源大模型的新版本,以及值得一用的開源資料集、框架和開發工具。
Meta 宣佈啟動 Purple Llama 專案,為開源生成式 AI 提供安全評測與防護工具。首批上線內容包括業內首套大模型網路安全評估基準,以及負責檢測與過濾風險內容的 Llama Guard 基礎模型,均開放商用與研究授權。
Apple 機器學習團隊悄然開源了針對 Apple Silicon 最佳化的機器學習框架 MLX 及資料庫 MLX Data。它借鑑了 PyTorch 等設計,利用共享記憶體架構讓 CPU 與 GPU 無需搬運資料,足以在 Mac 本地訓練和執行 Llama、Stable Diffusion 等大模型。
Meta 公佈全新語音翻譯系統 Seamless,包含兩大模型:延遲僅約兩秒的流式翻譯 SeamlessStreaming,以及能保留語速、節奏與情緒的 SeamlessExpressive。模型均基於 SeamlessM4T v2 架構構建,Meta 已將模型與對齊工具全量開源。
TechCrunch 報道 Hugging Face 旗下僅有兩名成員的 H4 團隊,正專注於大模型對齊研究。他們此前打造了熱門的 Zephyr-7B-α 等開源模型,團隊雖小但呼叫了千張 A100 GPU,並把訓練程式碼與資料集整合成手冊免費公開。
李開復創辦的人工智慧初創公司 01.AI 釋出開源雙語大模型 Yi-34B。該模型在 Hugging Face 預訓練基礎模型榜單上力壓 Meta 的 LLaMA 2,拿下榜首;公司也已完成新一輪融資,估值突破 10 億美元。李開復表示儲備的晶片至少可支撐運營一年,未來將重點發力應用生態。
Meta AI 負責人 Joelle Pineau 表示,現存軟體開源協議無法應對大模型的版權與安全風險,許可規則需要更新。儘管 Llama 2 設立門檻被外界批評不算真開源,但開源促進會(OSI)也承認傳統規則不夠用,正著手起草專門面向 AI 的開源定義。
Replit 在 Hugging Face 開源了程式碼生成模型 Replit Code V1.5 3B。該模型基於 1 萬億 token 程式碼資料訓練,覆蓋 30 種主流程式語言。最值得關注的是,它在微調後表現超越了 CodeLlama 7B 等更大尺寸的模型,且無嚴格商業限制。
NVIDIA 推出開源庫 TensorRT-LLM,專為加速大語言模型推理設計。它引入動態組批與 FP8 精度,在 H100 上相比 A100 帶來最高 8 倍吞吐提升,Llama 2 推理提速 4.6 倍。開發者通過 Python API 即可呼叫底層並行最佳化,大幅降低算力與電費支出。
Hugging Face Diffusers 團隊聯合 T2I-Adapter 作者推出適配 SDXL 的輕量控制模型。相比 ControlNet 動輒 2.5 GB,它僅 79M 引數、158 MB,且在去噪階段只執行一次,讓普通顯示卡也能低成本完成線稿與骨骼控制。
TII 在 Hugging Face 釋出開源模型 Falcon 180B,擁有 1800 億引數。它基於 3.5 萬億 token 訓練,在基準測試中超越 Llama 2 70B,效能比肩 PaLM 2-Large。不過商用限制嚴格,推理需 8 張 A100。
Meta 宣佈將計算機視覺模型 DINOv2 轉向 Apache 2.0 協議,正式允許商業使用,並同步推出語義分割與深度估計擴充套件模型。此外,Meta 還發布了評估視覺模型公平性的基準 FACET,包含 3.2 萬張標註影像,僅供研究評估。
研究團隊開源 ICCV 2023 論文專案 StableVideo 程式碼。該工具結合 Text2LIVE 與 ControlNet,通過擴散模型實現文本引導的影片編輯,重點解決跨幀閃爍問題,並最佳化視訊記憶體以支援低視訊記憶體裝置執行。
週五,Alibaba 開源兩款視覺語言模型 Qwen-VL 與 Qwen-VL-Chat。模型支援更高解析度的影像讀取,能識別街標指路、根據照片解數學題,甚至串聯多張圖講故事。開發者可以直接在魔搭社群和 Hugging Face 下載並做微調。
Meta 釋出專為程式碼任務打造的開源大模型 Code Llama。該模型基於 Llama 2 在程式碼資料集上進一步訓練,提供 7B 到 70B 等尺寸,支援最高 10 萬 token 的上下文,並具備程式碼補全與除錯能力。
Meta 推出全能多模態翻譯模型 SeamlessM4T,支援近 100 種語言的語音與文本互譯,包含近百種語言語音轉文本及 36 種語言語音互譯。該模型以研究許可開源,同時放出了 27 萬小時語音文本對齊資料集 SeamlessAlign 的後設資料。
Stability AI 釋出首個日語語言模型 Japanese StableLM Alpha,引數量為 70 億。模型基於 7500 億 token 訓練,在多項日語基準測試中表現領先。其中基礎模型採用 Apache 2.0 協議支援商用,指令微調版本僅限研究用途。
週四,阿里巴巴宣佈開源 70 億引數大模型 Qwen-7B 及對話版 Qwen-7B-Chat,支援中英文。全球開發者均可免費商用,月活超 1 億的企業需申請免費授權。阿里此舉直接對標 Meta 的 Llama 系列,意在以開源拉攏開發者,進而帶動阿里雲業務增長。
IBM 與 Hugging Face 宣佈,將 IBM 與 NASA 聯合研發的地理空間 AI 基礎模型在 Hugging Face 開源。該模型基於 NASA 衛星資料訓練,僅需一半標註資料就能比現有方案效能提升 15%,可用於追蹤森林砍伐和洪水監測。
Meta 正式開源音訊生成框架 AudioCraft,並公開全部程式碼與權重。該框架打包了文本生成音樂的 MusicGen、生成環境音效的 AudioGen 以及升級版神經編解碼器 EnCodec。研究者和創作者可以直接用自己的資料集訓練專屬模型。
開源促進會(OSI)發文批評 Meta 濫用「開源」概念,指出 LLaMA 2 限制商業規模和特定領域,並不符合開源定義。OSI 認為開源必須賦予開發者完整自主權,不能限制用途,他們計劃在 10 月 17 日拿出「開源 AI」的正式定義草案。