Google 上線 Gemini 1.5 Flash-8B 正式版：限速翻倍至 4000 RPM
Google 宣佈輕量模型 Gemini 1.5 Flash-8B 正式面向生產環境可用。它的效能接近原版 1.5 Flash，呼叫單價在所有 Gemini 模型中最低，併發限速也翻倍至每分鐘 4000 次請求，適合大批次呼叫場景。
大模型 · 日報
週四
10月3日 星期四
週一
9月30日 星期一
AMD 釋出首款小語言模型 AMD-135M：主打投機解碼加速推理
AMD 公佈首個小語言模型 AMD-135M 系列，包含基礎版與程式碼特化版兩款模型。該系列基於 Llama 架構，由 4 個 AMD MI250 節點訓練而成，核心賣點是利用投機解碼技術充當草稿模型以加速大模型推理，瞄準企業私有化部署需求。
Liquid AI 釋出非 Transformer 模型 LFMs：極低記憶體處理百萬 token
MIT 衍生初創公司 Liquid AI 推出首批非 Transformer 架構模型 LFMs，涵蓋 1.3B、3.1B 和 40.3B 三款規格。新模型基於液態神經網路，能在極低記憶體佔用下處理多達 100 萬 token 序列，跑分媲美甚至超越同級傳統大模型，給端側部署和長上下文處理提供了全新路線。
週二
9月24日 星期二
OpenAI 上線高階語音：新增 5 種聲音與記憶功能，Plus 使用者本週可用
OpenAI 宣佈向 ChatGPT Plus 和 Team 使用者全面推送高階語音模式，預計本週內完成覆蓋。除了自然的即時對話，這次還加入了記憶功能、自定義指令以及 5 種新聲音，且口音表現有所改善。等了幾個月的擬人語音終於進到日常可用階段。
Google 釋出 Gemini 1.5 新版：數學提升兩成，Pro 降價 64%
Google 推出更新版 Gemini-1.5-Pro-002 與 Flash-002，數學成績提升約 20%，預設輸出更簡練。10 月 1 日起 1.5 Pro 輸入降價 64%、輸出降價 52%，API 速率上限也大幅提高。開發者能以更低成本執行更聰明的模型。
週二
9月17日 星期二
OpenAI 上調 o1 額度：o1-mini 暴漲 7 倍至每天 50 條
OpenAI 宣佈放寬 Plus 和 Team 使用者的 o1 模型使用限制。輕量模型 o1-mini 的限額直接翻了 7 倍，從每週 50 條增加到每天 50 條；成本更高的 o1-preview 也從每週 30 條上調至每週 50 條，讓付費使用者能更痛快地測試推理能力。
週一
9月16日 星期一
探測 o1 推理過程或被封號：OpenAI 發警告信嚴守「思維鏈」
OpenAI 自上週推出具備推理能力的 o1 模型後，開始向試圖窺探其隱藏思維鏈的使用者傳送警告信甚至威脅封號。o1 在介面中只展示經二道過濾的思考總結，不少使用者和安全研究員嘗試用提示詞注入套取真實過程，甚至輸入「reasoning trace」一詞就會觸發違規警告。
週四
8月29日 星期四
Magic 公佈 1 億 Token 超長上下文模型，獲 3.2 億美元新融資
AI 程式設計初創公司 Magic 公佈其首個 1 億 Token 上下文模型 LTM-2-mini，相當於約 1000 萬行程式碼。官方稱其推理計算成本比 Llama 3.1 405B 便宜約千倍，同時宣佈完成 3.2 億美元融資，並聯手 Google Cloud 搭建 GB200 超算叢集。
週三
8月28日 星期三
阿里釋出視覺模型 Qwen2-VL：開源 2B/7B，支援 20 分鐘長影片
阿里 Qwen 團隊釋出視覺語言模型 Qwen2-VL，開源 2B 與 7B 權重並上線 72B API。新模型支援動態解析度、20 分鐘以上長影片理解與手機操控智慧體，72B 評測表現對標 GPT-4o。
週二
8月27日 星期二
Google 推出三款實驗模型：新增 Flash-8B，Pro 版程式設計能力大漲
Google 推出三款實驗性 Gemini 模型，包括小尺寸的 Gemini 1.5 Flash-8B、大幅提升的 Flash，以及在程式設計與複雜提示詞上更強的 Pro。三者均支援 100 萬 token 上下文，現已在 Google AI Studio 和 API 開放免費測試。
OpenAI 曝光新模型 Strawberry：向美官員展示，正用來訓練下一代 Orion
據 The Information 報道，OpenAI 正研發專注邏輯推理的代號模型 Strawberry，擅長數學和程式設計，並已向美國國家安全官員展示。最值得關注的是，Strawberry 不僅有望最快今秋整合進 ChatGPT，還在負責生成高質量合成數據，用於訓練下一代旗艦模型 Orion。
週一
8月26日 星期一
Anthropic 公開 Claude 系統提示詞：停用絕對詞，假裝自己「完全臉盲」
Anthropic 公開了 Claude 3.5 Sonnet 等模型的官方系統提示詞。提示詞除了嚴禁識別人臉、要求假裝「完全臉盲」外，還規定不能用「certainly」等絕對詞開頭，並要求中立探討爭議話題。頭部 AI 廠商主動公開系統人設底牌，這還是頭一次。
週五
8月23日 星期五
xAI 三天重寫推理程式碼：Grok-2 mini 提速一倍，大模型推理更順暢
xAI 團隊在過去三天裡用開源框架 SGLang 從頭重寫了推理技術棧。Grok-2 mini 的執行速度直接翻倍，且模型準確率略微上升；同時這一重構也讓需要多機推理的 Grok-2 大模型擁有了更合理的服務響應速度。
週二
8月20日 星期二
OpenAI 開放 GPT-4o 微調：幾十條資料起訓，限時每天送百萬 token
OpenAI 宣佈面向所有付費開發者開放 GPT-4o 微調功能。開發者只需幾十條樣本就能定製響應格式與行業特定語氣，訓練費用為每百萬 token 25 美元。9 月 23 日前，每個組織每天還能獲贈 100 萬免費訓練 token。
NVIDIA 推出首款端側模型 Nemotron-4 4B：遊戲 NPC 可本地即時互動
本週 Gamescom 上，NVIDIA 宣佈數字人套件 NVIDIA ACE 迎來首款端側小語言模型 Nemotron-4 4B Instruct。該模型由 15B 模型蒸餾量化而來，視訊記憶體佔用極低且響應迅速，支援角色扮演與函式呼叫。最值得關注的是，它能直接在 RTX 電腦上本地執行，讓遊戲 NPC 無需雲端也能即時聽懂指令並互動。
週三
8月14日 星期三
OpenAI 悄悄更新 GPT-4o：重回競技場第一，官方卻說不清哪變強了
據報道，OpenAI 已在 ChatGPT 中上線 GPT-4o 更新版本並重奪 Chatbot Arena 榜首。官方坦言很難細緻量化模型行為變化，僅表示是基於使用者反饋增刪資料與常規迭代，同時將最大輸出擴充套件至 16,384 token。
Anthropic 上線提示詞快取：長提示詞成本砍掉 90%，延遲降 85%
Anthropic 正式在 API 中推出提示詞快取（Prompt caching）。開發者可以在多次呼叫之間快取常用的長上下文，長提示詞的費用直接打一折、響應速度最高提升 85%。像完整程式碼庫問答、長篇文件對話和多輪智慧體呼叫，現在跑起來不僅更快，成本也大幅下降。
GPT-4o 最新版重奪 LMSYS 榜首：超越 Gemini，程式碼能力大漲 30 分
LMSYS 宣佈 OpenAI 最新版 GPT-4o（20240808）以 1314 分重登 Chatbot Arena 榜首，反超 Google Gemini-1.5-Pro-Exp。新版在程式碼、高難度提示和指令遵循等子榜均拿下第一，開發者可通過 API 的 chatgpt-4o-latest 體驗。
週二
8月13日 星期二
xAI 釋出 Grok-2 預覽版：競技場登頂，支援畫圖並向會員開放
xAI 推出 Grok-2 和 Grok-2 mini 測試版。其測試版在 LMSYS 競技場得分超越 Claude 3.5 Sonnet，並與 Black Forest Labs 合作接入 FLUX.1 實現影像生成。目前模型已面向 X 平臺 Premium 會員開放測試，企業 API 預計本月晚些時候上線。
週一
8月12日 星期一
OpenAI 悄然更新 GPT-4o：輸出長度翻四倍，但拒絕透露改了啥
OpenAI 宣佈已於上週在 ChatGPT 中低調上線新版 GPT-4o。官方表示這不是全新前沿模型，而是實驗反饋更好的改進版，但具體差異仍在研究如何量化表達。新版本支援最多輸出 16,384 個 token，約為舊版四倍。
