Google 升级 Gemini API:开放 200 万上下文,自带代码执行沙箱
Google 宣布向所有开发者开放 Gemini 1.5 Pro 的 200 万 token 上下文窗口,无需排队。同时 Gemini API 与 Google AI Studio 上线代码执行沙箱,模型可动态生成并运行 Python 代码解算复杂推理,开源模型 Gemma 2 也同步加入 AI Studio。
Google 宣布向所有开发者开放 Gemini 1.5 Pro 的 200 万 token 上下文窗口,无需排队。同时 Gemini API 与 Google AI Studio 上线代码执行沙箱,模型可动态生成并运行 Python 代码解算复杂推理,开源模型 Gemma 2 也同步加入 AI Studio。
Anthropic 正式发布 Claude 3.5 Sonnet。新模型在编程和推理能力上超越前代旗舰 Opus,运行速度提升至 2 倍,且维持中端定价;网页端还同步上线了能实时运行代码和预览界面的 Artifacts 侧边栏。目前该模型已在 Claude.ai 及 API 开放使用。
DeepSeek 开源混合专家代码模型 DeepSeek Coder V2,支持 338 种编程语言与 128K 上下文。它在 HumanEval 等代码评测中超越了 GPT-4 Turbo 和 Claude 3 Opus,成为首个在编程基准上击败顶尖闭源方案的开源模型。提供 16B 和 236B 两种尺寸,遵循 MIT 协议。
Mistral AI 发布首个专用代码生成模型 Codestral,参数量 22B,支持 32k 上下文与 80 多种编程语言。最值得关注的是其支持中间填空补全,长代码测试成绩亮眼。该模型开放权重供研究测试,并提供 8 周免费测试 API,商用需另获授权。
Near 联合创始人 Illia Polosukhin 透露正规划一款 AI 智能体,让完全不懂编程的用户靠自然语言端到端构建去中心化应用。工具可自动编写智能合约、前端界面与中间件,旨在降低 Web3 开发门槛,并对抗中心化巨头的操纵风险。
Microsoft 在 Windows 11 的 PowerToys 0.81 中推出 Advanced Paste 功能。它能将剪贴板内容直接转换为 Markdown 或 JSON,开启 AI 选项后还能即时翻译、总结与改写代码。不过使用 AI 转换需要自备 OpenAI API 密钥并付费。
GitHub 推出 GitHub Copilot Extensions。开发者可以直接在 VS Code、Visual Studio 或网页端 Copilot Chat 中用自然语言调用 Docker、Sentry、Azure 等外部工具,甚至接入企业私有 API 排查故障与部署。最值得关注的是它减少了多工具切换的割裂感;目前部分扩展面向受邀用户开放测试。
Anthropic 在 Anthropic Console 中上线提示词生成工具。用户只需描述想要达成的目标,Claude 就会利用 chain-of-thought 推理等提示工程技巧,自动生成可直接用于生产环境的高效、可靠提示词。
Stack Overflow 与 OpenAI 宣布达成合作。OpenAI 将通过 OverflowAPI 接入其技术内容来优化模型,并在 ChatGPT 中直接展示带社区署名的技术知识与代码;Stack Overflow 也将借此开发 OverflowAI。首批功能预计 2024 上半年推出。
GitHub 开启 Copilot Workspace 技术预览版,支持开发者全程用自然语言把想法或 Issue 转化为可运行的代码。它由多款智能体驱动,自动拆解步骤并理解代码库,所有计划与代码均可自由修改。目前已开放技术预览申请。
AI 编程初创公司 Augment 结束隐身状态,宣布完成 2.52 亿美元融资,估值达 9.77 亿美元。团队由前微软与谷歌工程师创办,获 Eric Schmidt 等投资,主打企业级编程助手,直接叫板 GitHub Copilot。目前产品仅面向部分企业小范围测试,预计年内正式上线。
Snowflake 推出企业级大模型 Arctic LLM,采用 Apache 2.0 协议完全开源并允许商用。该模型基于混合专家架构,总参数 480B 但每次仅激活 17B,训练成本仅约 200 万美元,主打企业数据库代码生成与 SQL 查询,表现据称优于 Databricks 的 DBRX。
OpenAI 针对 API 企业用户上线多项新特性。新推出的 Batch API 可在 24 小时内异步返回结果,调用价格直接减半;Assistants API 单助手检索文件上限从 20 个暴增 500 倍至 1 万个,并支持流式输出。此外还加入了 Private Link 专线互通和项目级权限隔离功能。
Mistral AI 延续传统在 X 上直接发布磁力链接,推出开源模型 Mixtral 8x22B。该模型总参数达 1760 亿,采用 MoE 架构,每次推理仅激活 440 亿参数,支持 65k 上下文窗口。最值得关注的是它采用宽松的 Apache 2.0 协议开源,开发者可自由商用与微调。
OpenAI 宣布升级版 GPT-4 Turbo 正式上线 API,并开始向 ChatGPT 陆续推送。带有视觉能力的 GPT-4 Turbo 结束预览进入通用可用阶段,不仅支持图像理解,视觉请求还能直接搭配 JSON 模式和函数调用,方便开发者直接提取结构化数据。
Google 联合 Hugging Face 上线代码模型 CodeGemma。该系列在 Gemma 基础上补充了 5000 亿 token 训练,推出主打代码填充的 2B 版本、兼顾自然语言的 7B 基础版及 7B 对话版。其中 2B 版仅需约 6 GB 内存,适合在端侧设备快速补全代码。
Google Cloud 宣布推出 Gemini for Google Cloud。原 Duet AI 升级为 Gemini Code Assist,支持企业跨仓库连接私有代码并由 Gemini 1.5 Pro 提供全代码库感知,同时将 AI 助手拓展至架构运维、安全与 BigQuery 分析。
OpenAI 宣布升级微调 API,新增按轮次保存检查点、多模型并排对比的 Playground 以及与第三方平台集成等功能。此外还正式推出「辅助微调」项目,由官方团队协助企业利用 PEFT 等深度技术定制专属模型。
xAI 发布新模型 Grok-1.5。其上下文窗口扩展至 128,000 token,是前代的 16 倍;在 MATH 基准测试中得分 50.6%,HumanEval 编程得分达 74.1%。该模型将在接下来的几天内面向 𝕏 平台早期测试者推送。
Apple 宣布 2024 年全球开发者大会(WWDC)将于 6 月 10 日至 14 日举行。除了发布 iOS 18 等新系统,这次重心明显转向追赶生成式 AI,预计将带来升级版 Siri、系统级文本摘要,以及具备代码补全能力的 Xcode AI 工具。