Meta 发布 Code Llama 70B：支持 10 万 token 上下文，可免费商用
Meta 发布代码生成模型 Code Llama 70B，包含基础版、指令微调版及 Python 专版。该模型基于 5000 亿 token 代码训练，支持 10 万 token 上下文窗口，沿用先前的开源许可协议，允许学术和商业免费微调与使用。
大模型 · 日报
周一
1月29日 星期一
周四
1月25日 星期四
OpenAI 推出新嵌入模型：性能提升且降价，GPT-3.5 降价 50%
OpenAI 推出两款新嵌入模型 text-embedding-3-small 与 large，支持灵活缩短维度以降低存储成本，小模型价格降至上一代的五分之一。同时，GPT-3.5 Turbo 输入价格降低 50%，更新版 GPT-4 Turbo 预览版也上线并改善了代码生成偷懒问题。
周四
1月18日 星期四
扎克伯格确认 Meta 正训练 Llama 3：年底将囤下 34 万张 H100 冲刺 AGI
Meta 扎克伯格宣布正在训练下一代大模型 Llama 3，重点补齐代码生成、推理与规划能力。为了打造通用人工智能（AGI），Meta 预计在年底前囤积超 34 万张英伟达 H100 芯片，总算力折合近 60 万张 H100，并调整架构让前沿科研更直接对接数十亿产品用户。
周一
12月18日 星期一
ChatGPT 自称是 GPT-4.5？OpenAI 辟谣：只是奇怪的幻觉
12 月，多位用户晒出截图，显示 ChatGPT 自称运行在「gpt-4.5-turbo」模型上，引发秘密上线的猜测。OpenAI 员工和 CEO Sam Altman 随后迅速否认，明确表示没有 GPT-4.5 悄悄发布，这只是模型一次奇特且偶发一致的幻觉。
周三
12月13日 星期三
Google 开放 Gemini Pro API：免费额度每分钟 60 次，支持 32K 上下文
Google 正式向开发者与企业开放 Gemini Pro 和多模态接口 Gemini Pro Vision。模型支持 32K 文本上下文、函数调用与 38 种语言。开发者可通过 Google AI Studio 免费调用，每分钟上限 60 次请求；企业用户则可在 Vertex AI 上定制微调。
周二
12月12日 星期二
微软发布 27 亿参数小模型 Phi-2：推理与代码超 25 倍大模型
Microsoft 正式发布 27 亿参数语言模型 Phi-2。该模型依靠「教科书级」高质量数据和知识继承，在代码与数学等多步推理任务上超越了体量大其 25 倍的 Llama-2-70B。小尺寸模型也能展现涌现能力，便于研究人员探索模型机理与微调。
周一
12月11日 星期一
Meta 开放 Audiobox 试用：支持零样本语音合成与文本生成音效
Meta 开放音频生成基础研究模型 Audiobox 的试用 Demo。该模型支持零样本语音合成（Zero shot TTS）、文本生成音效以及音频修复填充（Infilling）等能力，现在即可直接在线体验。
用 GPT-4 实测：博主复现 Google 涉嫌剪辑造假的 Gemini 演示
YouTuber Greg Technology 用 GPT-4V 复现了 Google 宣传片中被质疑剪辑造假的 Gemini 演示。他自制工具让 GPT-4 实时识别手势、画作和玩猜拳，不仅全程实时运行，还把代码开源到了 GitHub 供人自测。
周六
12月9日 星期六
xAI 的 Grok 出现乌龙：拒绝提问时自称遵循「OpenAI 政策」
安全测试员曝光 xAI 旗下大模型 Grok 在拒绝回答时，竟回复称「违反了 OpenAI 的使用政策」。xAI 员工解释称是网络训练数据意外抓取了 ChatGPT 内容，但专家怀疑其实际上使用了 OpenAI 的生成数据进行微调。
周四
12月7日 星期四
xAI 上线 Grok：面向 X 平台 Premium+ 用户独家开放
Elon Musk 宣布旗下 xAI 开发的聊天机器人 Grok 正式上线。该模型基于 Grok-1，主打幽默与反叛风格的回答，目前专供社交平台 X 的 Premium+ 订阅会员使用，也是 X 转向订阅制与超级应用的关键一步。
Stable LM Zephyr 3B 发布：3B 轻量模型，边缘设备也能流畅跑
轻量对话模型 Stable LM Zephyr 3B 发布，参数量为 30 亿，比 7B 模型小 60%。它基于 DPO 算法强化了指令遵循与问答能力，无需高端硬件即可在各类边缘设备上响应。该模型目前以非商业许可证开放权重下载。
周三
12月6日 星期三
Google Bard 迎来大升级：接入 Gemini Pro，明年初推 Ultra 版
Google 宣布为 Bard 接入多模态模型 Gemini。即日起 Bard 在 170 多个国家和地区率先启用特调版 Gemini Pro（仅英语文本），官方称在多项基准测试中超越 GPT-3.5；明年初还将推出搭载旗舰模型 Gemini Ultra 的 Bard Advanced。
周二
11月21日 星期二
Anthropic 发布 Claude 2.1：支持 20 万 Token 上下文，幻觉率减半
Anthropic 正式推出 Claude 2.1。新模型将上下文窗口拉到 20 万 Token，相当于 500 页长文档，同时虚假回答率降低了一倍。API 还上线了系统提示词和工具调用测试功能。目前普通用户已可在 claude.ai 体验。
微软发布 Orca 2：教小模型按策略推理，表现媲美 10 倍大模型
Microsoft 发布并开源小语言模型 Orca 2。它不再盲目模仿大模型，而是学会针对不同任务选择分步思考或直接作答等不同策略；在复杂零样本推理评测中，其表现接近甚至超越体量大 5 到 10 倍的模型。
周五
11月17日 星期五
Google 推迟发布 Gemini：对标 GPT-4 的新旗舰要等到 2024 年初
消息，Google 针对 ChatGPT 的真正竞争对手 Gemini 将推迟至 2024 年初推出，此前其曾向部分云客户承诺在 11 月交付。该模型被 DeepMind 视为抗衡 GPT-4 的主力，跳票意味着 Google 在追赶 OpenAI 的路上依然走得吃力。
周三
11月15日 星期三
Google 开放 Bard 给青少年：能分步讲数学题，自动核验防幻觉
Google 宣布向全球大部分国家达到账号自主管理年龄的青少年开放 Bard。新版支持输入或拍照解数学题并给出详细分步说明，还能把数据转成图表。为了防范不良内容与幻觉，系统内置了安全过滤，并在青少年首次提问事实问题时自动触发核验功能。
OpenAI 暂停 ChatGPT Plus 注册：DevDay 后用量暴增，算力吃不消
OpenAI 宣布暂停 ChatGPT Plus 新用户注册。官方表示，DevDay 之后使用量激增超出承载能力，暂停是为了保证现有使用体验。目前想订阅的新用户只能在应用内登记排队，等待重新开放订阅通知。
周一
11月13日 星期一
Altman 证实 OpenAI 开发 GPT-5：瞄准超级智能，还需微软追加资金
OpenAI CEO Sam Altman 证实已开始构建下一代模型 GPT-5，并称其可能具备超级智能。他坦言通向 AGI 仍有漫长道路，极度消耗算力与数据，需要微软等投资者后续注资。目前该模型尚无上线时间表。
