Stability AI 釋出首個日語模型:70 億引數,基礎版開源可商用
Stability AI 釋出首個日語語言模型 Japanese StableLM Alpha,引數量為 70 億。模型基於 7500 億 token 訓練,在多項日語基準測試中表現領先。其中基礎模型採用 Apache 2.0 協議支援商用,指令微調版本僅限研究用途。
Stability AI 釋出首個日語語言模型 Japanese StableLM Alpha,引數量為 70 億。模型基於 7500 億 token 訓練,在多項日語基準測試中表現領先。其中基礎模型採用 Apache 2.0 協議支援商用,指令微調版本僅限研究用途。
週四,阿里巴巴宣佈開源 70 億引數大模型 Qwen-7B 及對話版 Qwen-7B-Chat,支援中英文。全球開發者均可免費商用,月活超 1 億的企業需申請免費授權。阿里此舉直接對標 Meta 的 Llama 系列,意在以開源拉攏開發者,進而帶動阿里雲業務增長。
IBM 與 Hugging Face 宣佈,將 IBM 與 NASA 聯合研發的地理空間 AI 基礎模型在 Hugging Face 開源。該模型基於 NASA 衛星資料訓練,僅需一半標註資料就能比現有方案效能提升 15%,可用於追蹤森林砍伐和洪水監測。
Meta 正式開源音訊生成框架 AudioCraft,並公開全部程式碼與權重。該框架打包了文本生成音樂的 MusicGen、生成環境音效的 AudioGen 以及升級版神經編解碼器 EnCodec。研究者和創作者可以直接用自己的資料集訓練專屬模型。
開源促進會(OSI)發文批評 Meta 濫用「開源」概念,指出 LLaMA 2 限制商業規模和特定領域,並不符合開源定義。OSI 認為開源必須賦予開發者完整自主權,不能限制用途,他們計劃在 10 月 17 日拿出「開源 AI」的正式定義草案。
Stability AI 正式開源旗艦文生圖模型 SDXL 1.0。新模型支援原生 1024x1024 解析度,大幅改善了手部渲染、文字和複雜構圖能力,簡短提示詞即可出圖,不再需要堆砌「masterpiece」等修飾詞。模型採用雙階段管線,8GB 視訊記憶體顯示卡即可執行。
Hugging Face 推出 JavaScript 庫 Agents.js,讓大語言模型能在瀏覽器或 Node 環境中呼叫多模態工具。它開箱即帶文生圖、影像描述等能力,並支援接入自定義模型與工具。不過目前它通過在環境中執行生成程式碼運作,官方提醒在不可信環境存在安全風險。
InvokeAI 正式釋出 3.0.0 版本。系統程式碼被全面重寫為節點化架構,並加入實驗性的節點編輯器。新版本還集成了 ControlNet、動態提示詞,初步支援 SDXL,支援超過 77 個 token 的長提示詞,並讓 Mac 使用者能以半精度載入模型省視訊記憶體。
Hugging Face 釋出實驗性專案 AI WebTV。該方案用 ChatGPT 構思提示詞,串接 Zeroscope V2 生成影片短片,再經 FILM 插幀與 MusicGen 配樂,最後通過 FFmpeg 自動推流。雖然畫質和連貫性有限,但跑通了開源多模態端到端自動播出的流水線。
據《華盛頓郵報》報道,Meta 開源大語言模型 LLaMA 正被用於建立露骨的色情聊天機器人,部分甚至包含暴力角色扮演內容。開源讓模型脫離了商業護欄的審查與管控,這再次引發了關於 AI 究竟該開源共享還是閉源把關的激烈爭論。
微軟研究院公佈 130 億引數模型 Orca。它通過學習 GPT-4 的逐步推理過程,在 BBH 推理測試中表現追平 ChatGPT,比 Vicuna 提升 100%。這意味著輕量模型不用依賴龐大數據中心也能擁有紮實推理能力,不過在綜合考試表現上它仍落後於 GPT-4。
Meta 開源計算機視覺模型 I-JEPA。它不再死磕畫素細節,而是像人類一樣在抽象語義層面預測影像的缺失部分。這套架構僅用 16 塊 A100 訓練不到 72 小時,計算效率高出數倍,被視作邁向通用世界模型的重要一步。
Hugging Face 宣佈全面整合阿布扎比 TII 開源的 Falcon 系列模型。Falcon-40B 採用 Apache 2.0 協議且允許商用,在開源排行榜上擊敗 LLaMA-65B 登頂。得益於 Multi-Query Attention,其推理視訊記憶體大幅降低,7B 版本甚至可在消費級顯示卡及 Mac 上執行。
一款新的開源 AI 音樂生成器在 GitHub 釋出,支援僅憑文本提示詞和歌詞生成帶人聲的完整歌曲。實測音訊具備立體聲效果且聲底乾淨,不過個別字詞發音仍有輕微瑕疵,目前模型與本地執行說明已對外開放。
Meta 開源 Massively Multilingual Speech(MMS)系列模型與程式碼。它將語音識別和合成支援拓展到 1100 多種語言,並能識別 4000 多種口語。團隊通過多語種聖經朗讀音訊解決了小語種資料匱乏的問題,希望以此減緩全球瀕危語言的消亡。