Meta 釋出 Code Llama 70B：支援 10 萬 token 上下文，可免費商用
Meta 釋出程式碼生成模型 Code Llama 70B，包含基礎版、指令微調版及 Python 專版。該模型基於 5000 億 token 程式碼訓練，支援 10 萬 token 上下文視窗，沿用先前的開源許可協議，允許學術和商業免費微調與使用。
大模型 · 日報
週一
1月29日 星期一
週四
1月25日 星期四
OpenAI 推出新嵌入模型：效能提升且降價，GPT-3.5 降價 50%
OpenAI 推出兩款新嵌入模型 text-embedding-3-small 與 large，支援靈活縮短維度以降低儲存成本，小模型價格降至上一代的五分之一。同時，GPT-3.5 Turbo 輸入價格降低 50%，更新版 GPT-4 Turbo 預覽版也上線並改善了程式碼生成偷懶問題。
週四
1月18日 星期四
扎克伯格確認 Meta 正訓練 Llama 3：年底將囤下 34 萬張 H100 衝刺 AGI
Meta 扎克伯格宣佈正在訓練下一代大模型 Llama 3，重點補齊程式碼生成、推理與規劃能力。為了打造通用人工智慧（AGI），Meta 預計在年底前囤積超 34 萬張輝達 H100 晶片，總算力摺合近 60 萬張 H100，並調整架構讓前沿科研更直接對接數十億產品使用者。
週一
12月18日 星期一
ChatGPT 自稱是 GPT-4.5？OpenAI 闢謠：只是奇怪的幻覺
12 月，多位使用者曬出截圖，顯示 ChatGPT 自稱執行在「gpt-4.5-turbo」模型上，引發秘密上線的猜測。OpenAI 員工和 CEO Sam Altman 隨後迅速否認，明確表示沒有 GPT-4.5 悄悄釋出，這只是模型一次奇特且偶發一致的幻覺。
週三
12月13日 星期三
Google 開放 Gemini Pro API：免費額度每分鐘 60 次，支援 32K 上下文
Google 正式向開發者與企業開放 Gemini Pro 和多模態介面 Gemini Pro Vision。模型支援 32K 文本上下文、函式呼叫與 38 種語言。開發者可通過 Google AI Studio 免費呼叫，每分鐘上限 60 次請求；企業使用者則可在 Vertex AI 上定製微調。
週二
12月12日 星期二
微軟釋出 27 億引數小模型 Phi-2：推理與程式碼超 25 倍大模型
Microsoft 正式釋出 27 億引數語言模型 Phi-2。該模型依靠「教科書級」高質量資料和知識繼承，在程式碼與數學等多步推理任務上超越了體量大其 25 倍的 Llama-2-70B。小尺寸模型也能展現湧現能力，便於研究人員探索模型機理與微調。
週一
12月11日 星期一
Meta 開放 Audiobox 試用：支援零樣本語音合成與文本生成音效
Meta 開放音訊生成基礎研究模型 Audiobox 的試用 Demo。該模型支援零樣本語音合成（Zero shot TTS）、文本生成音效以及音訊修復填充（Infilling）等能力，現在即可直接線上體驗。
用 GPT-4 實測：博主復現 Google 涉嫌剪輯造假的 Gemini 演示
YouTuber Greg Technology 用 GPT-4V 復現了 Google 宣傳片中被質疑剪輯造假的 Gemini 演示。他自制工具讓 GPT-4 即時識別手勢、畫作和玩猜拳，不僅全程即時執行，還把程式碼開源到了 GitHub 供人自測。
週六
12月9日 星期六
xAI 的 Grok 出現烏龍：拒絕提問時自稱遵循「OpenAI 政策」
安全測試員曝光 xAI 旗下大模型 Grok 在拒絕回答時，竟回覆稱「違反了 OpenAI 的使用政策」。xAI 員工解釋稱是網路訓練資料意外抓取了 ChatGPT 內容，但專家懷疑其實際上使用了 OpenAI 的生成資料進行微調。
週四
12月7日 星期四
xAI 上線 Grok：面向 X 平臺 Premium+ 使用者獨家開放
Elon Musk 宣佈旗下 xAI 開發的聊天機器人 Grok 正式上線。該模型基於 Grok-1，主打幽默與反叛風格的回答，目前專供社交平臺 X 的 Premium+ 訂閱會員使用，也是 X 轉向訂閱制與超級應用的關鍵一步。
Stable LM Zephyr 3B 釋出：3B 輕量模型，邊緣裝置也能流暢跑
輕量對話模型 Stable LM Zephyr 3B 釋出，引數量為 30 億，比 7B 模型小 60%。它基於 DPO 演算法強化了指令遵循與問答能力，無需高階硬體即可在各類邊緣裝置上響應。該模型目前以非商業許可證開放權重下載。
週三
12月6日 星期三
Google Bard 迎來大升級：接入 Gemini Pro，明年初推 Ultra 版
Google 宣佈為 Bard 接入多模態模型 Gemini。即日起 Bard 在 170 多個國家和地區率先啟用特調版 Gemini Pro（僅英語文本），官方稱在多項基準測試中超越 GPT-3.5；明年初還將推出搭載旗艦模型 Gemini Ultra 的 Bard Advanced。
週二
11月21日 星期二
Anthropic 釋出 Claude 2.1：支援 20 萬 Token 上下文，幻覺率減半
Anthropic 正式推出 Claude 2.1。新模型將上下文視窗拉到 20 萬 Token，相當於 500 頁長文件，同時虛假回答率降低了一倍。API 還上線了系統提示詞和工具呼叫測試功能。目前普通使用者已可在 claude.ai 體驗。
微軟釋出 Orca 2：教小模型按策略推理，表現媲美 10 倍大模型
Microsoft 釋出並開源小語言模型 Orca 2。它不再盲目模仿大模型，而是學會針對不同任務選擇分步思考或直接作答等不同策略；在複雜零樣本推理評測中，其表現接近甚至超越體量大 5 到 10 倍的模型。
週五
11月17日 星期五
Google 推遲釋出 Gemini：對標 GPT-4 的新旗艦要等到 2024 年初
訊息，Google 針對 ChatGPT 的真正競爭對手 Gemini 將推遲至 2024 年初推出，此前其曾向部分雲客戶承諾在 11 月交付。該模型被 DeepMind 視為抗衡 GPT-4 的主力，跳票意味著 Google 在追趕 OpenAI 的路上依然走得吃力。
週三
11月15日 星期三
Google 開放 Bard 給青少年：能分步講數學題，自動核驗防幻覺
Google 宣佈向全球大部分國家達到賬號自主管理年齡的青少年開放 Bard。新版支援輸入或拍照解數學題並給出詳細分步說明，還能把資料轉成圖表。為了防範不良內容與幻覺，系統內建了安全過濾，並在青少年首次提問事實問題時自動觸發核驗功能。
OpenAI 暫停 ChatGPT Plus 註冊：DevDay 後用量暴增，算力吃不消
OpenAI 宣佈暫停 ChatGPT Plus 新使用者註冊。官方表示，DevDay 之後使用量激增超出承載能力，暫停是為了保證現有使用體驗。目前想訂閱的新使用者只能在應用內登記排隊，等待重新開放訂閱通知。
週一
11月13日 星期一
Altman 證實 OpenAI 開發 GPT-5：瞄準超級智慧，還需微軟追加資金
OpenAI CEO Sam Altman 證實已開始構建下一代模型 GPT-5，並稱其可能具備超級智慧。他坦言通向 AGI 仍有漫長道路，極度消耗算力與資料，需要微軟等投資者後續注資。目前該模型尚無上線時間表。
