OpenAI 开放 GPT-4o 微调：几十条数据起训，限时每天送百万 token
OpenAI 宣布面向所有付费开发者开放 GPT-4o 微调功能。开发者只需几十条样本就能定制响应格式与行业特定语气，训练费用为每百万 token 25 美元。9 月 23 日前，每个组织每天还能获赠 100 万免费训练 token。
VibeCoding
查看更新的新闻
Perplexity 灰度上线代码解释器：能装第三方库，直接渲染图表
Perplexity CEO 宣布正逐步向用户推送代码解释器和图表渲染功能。新功能支持安装第三方 Python 库并在结果中渲染图表，比如调用 yfinance 绘制股市走势。目前该能力正处于逐步灰度开放阶段。
微软展示 PowerToys 新功能：一键启动并自动排列常用窗口
Microsoft 展示了 Windows 辅助工具套件 PowerToys 即将推出的 Workspaces 功能。该工具支持保存自定义应用布局，能通过快捷方式一键启动一组软件并自动排列贴靠到多个屏幕的指定区域，预计随 0.84 版本推送。
Anthropic 上线提示词缓存：长提示词成本砍掉 90%，延迟降 85%
Anthropic 正式在 API 中推出提示词缓存（Prompt caching）。开发者可以在多次调用之间缓存常用的长上下文，长提示词的费用直接打一折、响应速度最高提升 85%。像完整代码库问答、长篇文档对话和多轮智能体调用，现在跑起来不仅更快，成本也大幅下降。
GPT-4o 最新版重夺 LMSYS 榜首：超越 Gemini，代码能力大涨 30 分
LMSYS 宣布 OpenAI 最新版 GPT-4o（20240808）以 1314 分重登 Chatbot Arena 榜首，反超 Google Gemini-1.5-Pro-Exp。新版在代码、高难度提示和指令遵循等子榜均拿下第一，开发者可通过 API 的 chatgpt-4o-latest 体验。
OpenAI 推出 SWE-bench Verified：500 道人工核验的编程评测题
OpenAI 联合原作者推出 SWE-bench Verified 基准测试。他们组织 93 名专业开发者人工核验，剔除描述不清和测试过于苛刻的样本，最终筛选出 500 个高质量题目。这意味着评估 AI 解决真实软件问题的表现将更加客观可靠。
Cosine 发布 AI 程序员 Genie：SWE-bench 得分 30% 反超 Devin
初创公司 Cosine 发布自主 AI 软件工程师 Genie，在基准测试 SWE-Bench 上跑出 30% 得分，大幅超越 Devin 的 13.8%。它基于 OpenAI 未公开的长输出 GPT-4o 变体微调，能模仿真人写代码和修 bug。目前仅开放邀请测试。
Google 砍掉 Gemini 1.5 Flash 价格：输入暴降 78%，微调全量开放
Google 宣布 Gemini 1.5 Flash 将从 8 月 12 日起大幅降价，128K 以内输入降价 78% 至每百万 token 0.075 美元，输出降 71%。同时，文本微调向所有开发者全量开放，AI Studio 和 API 也正式支持包含图表的原生 PDF 视觉理解。
OpenAI 上线结构化输出：API 响应 100% 遵从 JSON Schema
OpenAI 在 API 中正式上线结构化输出（Structured Outputs）功能。官方采用上下文无关文法（CFG）和约束采样技术，在新模型 gpt-4o-2024-08-06 评测中达到 100% 格式吻合度。开发者再也不用写提示词或反复重试来兜底 JSON 格式了，不过首次调用新 Schema 时需要几秒进行预处理缓存。
OpenAI 确认 DevDay 不发下一代旗舰模型：改办三地巡回，主讲 API
OpenAI 宣布调整今年 DevDay 开发者大会的形式，由单场大型发布会改为在旧金山、伦敦和新加坡三站巡回，并确认不会在会上发布下一代旗舰大模型。大会重心将转向 API 更新与开发者支持。
Mistral AI 发布 Mistral Large 2：123B 参数单节点可跑，编程推理叫板顶流
Mistral AI 发布新旗舰模型 Mistral Large 2。它拥有 1230 亿参数和 128k 上下文窗口，专为单节点高吞吐推理设计。代码和推理能力大幅提升，能比肩 GPT-4o 与 Claude 3 Opus，还强化了防幻觉机制与多语言支持。研究用途免费开放，商业部署需获授权。
Cohere 推出 Rerank 3 Nimble：速度提升 3 倍，专供 SageMaker
Cohere 推出 Rerank 3 Nimble，专为企业搜索和 RAG 系统设计。它的速度比 Rerank 3 快约 3 倍，同时保持了高准确度。不过该模型目前仅在 Amazon SageMaker 上独家提供。
Meta 发布 Llama 3.1：405B 开源旗舰对标 GPT-4o，允许数据蒸馏
Meta 发布 Llama 3.1 系列，其中 405B 旗舰模型拥有 128K 上下文并在多项基准上对齐 GPT-4o。最值得关注的是，Meta 修改了协议，正式允许开发者用 405B 输出的数据去蒸馏训练其他小模型。
Mistral 发布 Codestral Mamba：基于新架构，支持 256k 代码上下文
Mistral AI 联手 Albert Gu 与 Tri Dao 推出代码模型 Codestral Mamba。相比 Transformer，它具备线性时间推理优势，上下文检索测试达 256k tokens。模型以 Apache 2.0 协议开源，开放 Hugging Face 权重下载与云端测试。
Claude 上线 Artifacts 分享功能：生成的代码与小游戏支持一键 Remix
Anthropic 宣布 Claude 的 Artifacts 正式支持发布与公开分享，并且允许其他人直接「Remix」进行二次编辑。Artifacts 能在对话旁实时预览并调试代码、图表甚至小游戏，这一更新让生成的成果真正具备了社区互动性。
Hugging Face 接入谷歌云 TPU：每小时 1.38 美元起，一键跑开源大模型
Hugging Face 宣布在 Inference Endpoints 与 Spaces 上线 Google Cloud TPU v5e。最低单核实例每小时 1.375 美元，配合开源库 Optimum TPU，开发者动动鼠标就能一键部署运行 Gemma、Llama 和 Mistral。
Anthropic 控制台上新：支持自动生成测试用例与提示词并排对比
Anthropic 在开发者控制台上线提示词评估工具。开发者可以直接用 Claude 3.5 Sonnet 自动生成提示词与测试用例，或导入 CSV 批量测试，还能并排比对多个版本的输出并打分。不用再靠表格人肉比对，提示词调优变得像写单元测试一样省事。
Poe 推出 Previews 功能：在聊天框里直接把玩 AI 写的网页应用
Poe 推出新功能「Previews」，让用户能在聊天框里直接查看并交互 AI 生成的 Web 应用。该功能特别适配 Claude 3.5 Sonnet、GPT-4o 和 Gemini 1.5 Pro 等编程强项模型。也就是说，AI 写完前端代码后无需复制到外部环境，点开就能就地测试。
LangChain 发布 LangGraph v0.1：多智能体可控落地，支持「时光倒流」调试
LangChain 发布智能体开发框架 LangGraph v0.1 稳定版，并同步开启 LangGraph Cloud 封测。新版本提供精细的状态流控制，支持人机协作打断与状态编辑，配套的云平台与 Studio 工具让多智能体告别黑盒失控，能可靠应对复杂生产环境。
OpenAI 推出 CriticGPT：用 GPT-4 给自己挑错，准确率提升 60%
OpenAI 推出基于 GPT-4 训练的模型 CriticGPT，专门辅助人类标注员找出 ChatGPT 代码中的隐蔽错误。测试显示，人机配合找错的表现比单人高出 60%。OpenAI 正将该类模型整合进 RLHF 流程，以解决模型日益聪明后的对齐难题。