Google 升級 Gemini API:開放 200 萬上下文,自帶程式碼執行沙箱
Google 宣佈向所有開發者開放 Gemini 1.5 Pro 的 200 萬 token 上下文視窗,無需排隊。同時 Gemini API 與 Google AI Studio 上線程式碼執行沙箱,模型可動態生成並執行 Python 程式碼解算複雜推理,開源模型 Gemma 2 也同步加入 AI Studio。
Google 宣佈向所有開發者開放 Gemini 1.5 Pro 的 200 萬 token 上下文視窗,無需排隊。同時 Gemini API 與 Google AI Studio 上線程式碼執行沙箱,模型可動態生成並執行 Python 程式碼解算複雜推理,開源模型 Gemma 2 也同步加入 AI Studio。
Anthropic 正式釋出 Claude 3.5 Sonnet。新模型在程式設計和推理能力上超越前代旗艦 Opus,執行速度提升至 2 倍,且維持中端定價;網頁端還同步上線了能即時執行程式碼和預覽介面的 Artifacts 側邊欄。目前該模型已在 Claude.ai 及 API 開放使用。
DeepSeek 開源混合專家程式碼模型 DeepSeek Coder V2,支援 338 種程式語言與 128K 上下文。它在 HumanEval 等程式碼評測中超越了 GPT-4 Turbo 和 Claude 3 Opus,成為首個在程式設計基準上擊敗頂尖閉源方案的開源模型。提供 16B 和 236B 兩種尺寸,遵循 MIT 協議。
Mistral AI 釋出首個專用程式碼生成模型 Codestral,引數量 22B,支援 32k 上下文與 80 多種程式語言。最值得關注的是其支援中間填空補全,長程式碼測試成績亮眼。該模型開放權重供研究測試,並提供 8 周免費測試 API,商用需另獲授權。
Near 聯合創始人 Illia Polosukhin 透露正規劃一款 AI 智慧體,讓完全不懂程式設計的使用者靠自然語言端到端構建去中心化應用。工具可自動編寫智慧合約、前端介面與中介軟體,旨在降低 Web3 開發門檻,並對抗中心化巨頭的操縱風險。
Microsoft 在 Windows 11 的 PowerToys 0.81 中推出 Advanced Paste 功能。它能將剪貼簿內容直接轉換為 Markdown 或 JSON,開啟 AI 選項後還能即時翻譯、總結與改寫程式碼。不過使用 AI 轉換需要自備 OpenAI API 金鑰並付費。
GitHub 推出 GitHub Copilot Extensions。開發者可以直接在 VS Code、Visual Studio 或網頁端 Copilot Chat 中用自然語言呼叫 Docker、Sentry、Azure 等外部工具,甚至接入企業私有 API 排查故障與部署。最值得關注的是它減少了多工具切換的割裂感;目前部分擴充套件面向受邀使用者開放測試。
Anthropic 在 Anthropic Console 中上線提示詞生成工具。使用者只需描述想要達成的目標,Claude 就會利用 chain-of-thought 推理等提示工程技巧,自動生成可直接用於生產環境的高效、可靠提示詞。
Stack Overflow 與 OpenAI 宣佈達成合作。OpenAI 將通過 OverflowAPI 接入其技術內容來最佳化模型,並在 ChatGPT 中直接展示帶社群署名的技術知識與程式碼;Stack Overflow 也將藉此開發 OverflowAI。首批功能預計 2024 上半年推出。
GitHub 開啟 Copilot Workspace 技術預覽版,支援開發者全程用自然語言把想法或 Issue 轉化為可執行的程式碼。它由多款智慧體驅動,自動拆解步驟並理解程式碼庫,所有計劃與程式碼均可自由修改。目前已開放技術預覽申請。
AI 程式設計初創公司 Augment 結束隱身狀態,宣佈完成 2.52 億美元融資,估值達 9.77 億美元。團隊由前微軟與谷歌工程師創辦,獲 Eric Schmidt 等投資,主打企業級程式設計助手,直接叫板 GitHub Copilot。目前產品僅面向部分企業小範圍測試,預計年內正式上線。
Snowflake 推出企業級大模型 Arctic LLM,採用 Apache 2.0 協議完全開源並允許商用。該模型基於混合專家架構,總引數 480B 但每次僅啟用 17B,訓練成本僅約 200 萬美元,主打企業資料庫程式碼生成與 SQL 查詢,表現據稱優於 Databricks 的 DBRX。
OpenAI 針對 API 企業使用者上線多項新特性。新推出的 Batch API 可在 24 小時內非同步返回結果,呼叫價格直接減半;Assistants API 單助手檢索檔案上限從 20 個暴增 500 倍至 1 萬個,並支援流式輸出。此外還加入了 Private Link 專線互通和專案級許可權隔離功能。
Mistral AI 延續傳統在 X 上直接釋出磁力連結,推出開源模型 Mixtral 8x22B。該模型總引數達 1760 億,採用 MoE 架構,每次推理僅啟用 440 億引數,支援 65k 上下文視窗。最值得關注的是它採用寬鬆的 Apache 2.0 協議開源,開發者可自由商用與微調。
OpenAI 宣佈升級版 GPT-4 Turbo 正式上線 API,並開始向 ChatGPT 陸續推送。帶有視覺能力的 GPT-4 Turbo 結束預覽進入通用可用階段,不僅支援影像理解,視覺請求還能直接搭配 JSON 模式和函式呼叫,方便開發者直接提取結構化資料。
Google 聯合 Hugging Face 上線程式碼模型 CodeGemma。該系列在 Gemma 基礎上補充了 5000 億 token 訓練,推出主打程式碼填充的 2B 版本、兼顧自然語言的 7B 基礎版及 7B 對話版。其中 2B 版僅需約 6 GB 記憶體,適合在端側裝置快速補全程式碼。
Google Cloud 宣佈推出 Gemini for Google Cloud。原 Duet AI 升級為 Gemini Code Assist,支援企業跨倉庫連線私有程式碼並由 Gemini 1.5 Pro 提供全程式碼庫感知,同時將 AI 助手拓展至架構運維、安全與 BigQuery 分析。
OpenAI 宣佈升級微調 API,新增按輪次儲存檢查點、多模型並排對比的 Playground 以及與第三方平臺整合等功能。此外還正式推出「輔助微調」專案,由官方團隊協助企業利用 PEFT 等深度技術定製專屬模型。
xAI 釋出新模型 Grok-1.5。其上下文視窗擴充套件至 128,000 token,是前代的 16 倍;在 MATH 基準測試中得分 50.6%,HumanEval 程式設計得分達 74.1%。該模型將在接下來的幾天內面向 𝕏 平臺早期測試者推送。
Apple 宣佈 2024 年全球開發者大會(WWDC)將於 6 月 10 日至 14 日舉行。除了釋出 iOS 18 等新系統,這次重心明顯轉向追趕生成式 AI,預計將帶來升級版 Siri、系統級文本摘要,以及具備程式碼補全能力的 Xcode AI 工具。