OpenAI 開放 GPT-4o 微調：幾十條資料起訓，限時每天送百萬 token
OpenAI 宣佈面向所有付費開發者開放 GPT-4o 微調功能。開發者只需幾十條樣本就能定製響應格式與行業特定語氣，訓練費用為每百萬 token 25 美元。9 月 23 日前，每個組織每天還能獲贈 100 萬免費訓練 token。
VibeCoding
檢視更新的新聞
Perplexity 灰度上線程式碼直譯器：能裝第三方庫，直接渲染圖表
Perplexity CEO 宣佈正逐步向使用者推送程式碼直譯器和圖表渲染功能。新功能支援安裝第三方 Python 庫並在結果中渲染圖表，比如呼叫 yfinance 繪製股市走勢。目前該能力正處於逐步灰度開放階段。
微軟展示 PowerToys 新功能：一鍵啟動並自動排列常用視窗
Microsoft 展示了 Windows 輔助工具套件 PowerToys 即將推出的 Workspaces 功能。該工具支援儲存自定義應用佈局，能通過快捷方式一鍵啟動一組軟體並自動排列貼靠到多個螢幕的指定區域，預計隨 0.84 版本推送。
Anthropic 上線提示詞快取：長提示詞成本砍掉 90%，延遲降 85%
Anthropic 正式在 API 中推出提示詞快取（Prompt caching）。開發者可以在多次呼叫之間快取常用的長上下文，長提示詞的費用直接打一折、響應速度最高提升 85%。像完整程式碼庫問答、長篇文件對話和多輪智慧體呼叫，現在跑起來不僅更快，成本也大幅下降。
GPT-4o 最新版重奪 LMSYS 榜首：超越 Gemini，程式碼能力大漲 30 分
LMSYS 宣佈 OpenAI 最新版 GPT-4o（20240808）以 1314 分重登 Chatbot Arena 榜首，反超 Google Gemini-1.5-Pro-Exp。新版在程式碼、高難度提示和指令遵循等子榜均拿下第一，開發者可通過 API 的 chatgpt-4o-latest 體驗。
OpenAI 推出 SWE-bench Verified：500 道人工核驗的程式設計評測題
OpenAI 聯合原作者推出 SWE-bench Verified 基準測試。他們組織 93 名專業開發者人工核驗，剔除描述不清和測試過於苛刻的樣本，最終篩選出 500 個高質量題目。這意味著評估 AI 解決真實軟體問題的表現將更加客觀可靠。
Cosine 釋出 AI 程式設計師 Genie：SWE-bench 得分 30% 反超 Devin
初創公司 Cosine 釋出自主 AI 軟體工程師 Genie，在基準測試 SWE-Bench 上跑出 30% 得分，大幅超越 Devin 的 13.8%。它基於 OpenAI 未公開的長輸出 GPT-4o 變體微調，能模模擬人寫程式碼和修 bug。目前僅開放邀請測試。
Google 砍掉 Gemini 1.5 Flash 價格：輸入暴降 78%，微調全量開放
Google 宣佈 Gemini 1.5 Flash 將從 8 月 12 日起大幅降價，128K 以內輸入降價 78% 至每百萬 token 0.075 美元，輸出降 71%。同時，文本微調向所有開發者全量開放，AI Studio 和 API 也正式支援包含圖表的原生 PDF 視覺理解。
OpenAI 上線結構化輸出：API 響應 100% 遵從 JSON Schema
OpenAI 在 API 中正式上線結構化輸出（Structured Outputs）功能。官方採用上下文無關文法（CFG）和約束取樣技術，在新模型 gpt-4o-2024-08-06 評測中達到 100% 格式吻合度。開發者再也不用寫提示詞或反覆重試來兜底 JSON 格式了，不過首次呼叫新 Schema 時需要幾秒進行預處理快取。
OpenAI 確認 DevDay 不發下一代旗艦模型：改辦三地巡迴，主講 API
OpenAI 宣佈調整今年 DevDay 開發者大會的形式，由單場大型釋出會改為在舊金山、倫敦和新加坡三站巡迴，並確認不會在會上釋出下一代旗艦大模型。大會重心將轉向 API 更新與開發者支援。
Mistral AI 釋出 Mistral Large 2：123B 引數單節點可跑，程式設計推理叫板頂流
Mistral AI 釋出新旗艦模型 Mistral Large 2。它擁有 1230 億引數和 128k 上下文視窗，專為單節點高吞吐推理設計。程式碼和推理能力大幅提升，能比肩 GPT-4o 與 Claude 3 Opus，還強化了防幻覺機制與多語言支援。研究用途免費開放，商業部署需獲授權。
Cohere 推出 Rerank 3 Nimble：速度提升 3 倍，專供 SageMaker
Cohere 推出 Rerank 3 Nimble，專為企業搜尋和 RAG 系統設計。它的速度比 Rerank 3 快約 3 倍，同時保持了高準確度。不過該模型目前僅在 Amazon SageMaker 上獨家提供。
Meta 釋出 Llama 3.1：405B 開源旗艦對標 GPT-4o，允許資料蒸餾
Meta 釋出 Llama 3.1 系列，其中 405B 旗艦模型擁有 128K 上下文並在多項基準上對齊 GPT-4o。最值得關注的是，Meta 修改了協議，正式允許開發者用 405B 輸出的資料去蒸餾訓練其他小模型。
Mistral 釋出 Codestral Mamba：基於新架構，支援 256k 程式碼上下文
Mistral AI 聯手 Albert Gu 與 Tri Dao 推出程式碼模型 Codestral Mamba。相比 Transformer，它具備線性時間推理優勢，上下文檢索測試達 256k tokens。模型以 Apache 2.0 協議開源，開放 Hugging Face 權重下載與雲端測試。
Claude 上線 Artifacts 分享功能：生成的程式碼與小遊戲支援一鍵 Remix
Anthropic 宣佈 Claude 的 Artifacts 正式支援釋出與公開分享，並且允許其他人直接「Remix」進行二次編輯。Artifacts 能在對話旁即時預覽並除錯程式碼、圖表甚至小遊戲，這一更新讓生成的成果真正具備了社群互動性。
Hugging Face 接入谷歌雲 TPU：每小時 1.38 美元起，一鍵跑開源大模型
Hugging Face 宣佈在 Inference Endpoints 與 Spaces 上線 Google Cloud TPU v5e。最低單核例項每小時 1.375 美元，配合開源庫 Optimum TPU，開發者動動滑鼠就能一鍵部署執行 Gemma、Llama 和 Mistral。
Anthropic 控制台上新：支援自動生成測試用例與提示詞並排對比
Anthropic 在開發者控制台上線提示詞評估工具。開發者可以直接用 Claude 3.5 Sonnet 自動生成提示詞與測試用例，或匯入 CSV 批次測試，還能並排比對多個版本的輸出並打分。不用再靠表格人肉比對，提示詞調優變得像寫單元測試一樣省事。
Poe 推出 Previews 功能：在聊天框裡直接把玩 AI 寫的網頁應用
Poe 推出新功能「Previews」，讓使用者能在聊天框裡直接檢視並互動 AI 生成的 Web 應用。該功能特別適配 Claude 3.5 Sonnet、GPT-4o 和 Gemini 1.5 Pro 等程式設計強項模型。也就是說，AI 寫完前端程式碼後無需複製到外部環境，點開就能就地測試。
LangChain 釋出 LangGraph v0.1：多智慧體可控落地，支援「時光倒流」除錯
LangChain 釋出智慧體開發框架 LangGraph v0.1 穩定版，並同步開啟 LangGraph Cloud 封測。新版本提供精細的狀態流控制，支援人機協作打斷與狀態編輯，配套的雲平臺與 Studio 工具讓多智慧體告別黑盒失控，能可靠應對複雜生產環境。
OpenAI 推出 CriticGPT：用 GPT-4 給自己挑錯，準確率提升 60%
OpenAI 推出基於 GPT-4 訓練的模型 CriticGPT，專門輔助人類標註員找出 ChatGPT 程式碼中的隱蔽錯誤。測試顯示，人機配合找錯的表現比單人高出 60%。OpenAI 正將該類模型整合進 RLHF 流程，以解決模型日益聰明後的對齊難題。