Stable LM Zephyr 3B 发布:3B 轻量模型,边缘设备也能流畅跑
轻量对话模型 Stable LM Zephyr 3B 发布,参数量为 30 亿,比 7B 模型小 60%。它基于 DPO 算法强化了指令遵循与问答能力,无需高端硬件即可在各类边缘设备上响应。该模型目前以非商业许可证开放权重下载。
GPT、Claude、Gemini、DeepSeek、通义千问等大模型的新版本发布、跑分对比、价格和 API 变化,每天更新。
轻量对话模型 Stable LM Zephyr 3B 发布,参数量为 30 亿,比 7B 模型小 60%。它基于 DPO 算法强化了指令遵循与问答能力,无需高端硬件即可在各类边缘设备上响应。该模型目前以非商业许可证开放权重下载。
Google 宣布为 Bard 接入多模态模型 Gemini。即日起 Bard 在 170 多个国家和地区率先启用特调版 Gemini Pro(仅英语文本),官方称在多项基准测试中超越 GPT-3.5;明年初还将推出搭载旗舰模型 Gemini Ultra 的 Bard Advanced。
Anthropic 正式推出 Claude 2.1。新模型将上下文窗口拉到 20 万 Token,相当于 500 页长文档,同时虚假回答率降低了一倍。API 还上线了系统提示词和工具调用测试功能。目前普通用户已可在 claude.ai 体验。
Microsoft 发布并开源小语言模型 Orca 2。它不再盲目模仿大模型,而是学会针对不同任务选择分步思考或直接作答等不同策略;在复杂零样本推理评测中,其表现接近甚至超越体量大 5 到 10 倍的模型。
消息,Google 针对 ChatGPT 的真正竞争对手 Gemini 将推迟至 2024 年初推出,此前其曾向部分云客户承诺在 11 月交付。该模型被 DeepMind 视为抗衡 GPT-4 的主力,跳票意味着 Google 在追赶 OpenAI 的路上依然走得吃力。
Google 宣布向全球大部分国家达到账号自主管理年龄的青少年开放 Bard。新版支持输入或拍照解数学题并给出详细分步说明,还能把数据转成图表。为了防范不良内容与幻觉,系统内置了安全过滤,并在青少年首次提问事实问题时自动触发核验功能。
OpenAI 宣布暂停 ChatGPT Plus 新用户注册。官方表示,DevDay 之后使用量激增超出承载能力,暂停是为了保证现有使用体验。目前想订阅的新用户只能在应用内登记排队,等待重新开放订阅通知。
OpenAI CEO Sam Altman 证实已开始构建下一代模型 GPT-5,并称其可能具备超级智能。他坦言通向 AGI 仍有漫长道路,极度消耗算力与数据,需要微软等投资者后续注资。目前该模型尚无上线时间表。
Samsung 推出自研生成式 AI 模型 Gauss。该模型由 Samsung Research 开发,包含处理翻译和摘要的 Language、编程助手 Code 以及图像生成与编辑的 Image 三部分。相比依赖云端的方案,它主打端侧本地运行,预计将搭载于明年的 Galaxy S24 系列中。
据外媒报道,Amazon 正在秘密研发代号为「Olympus」的大语言模型,参数规模据称达 2 万亿。该项目由 CEO Andy Jassy 直接监督,最快或于 12 月亮相,未来计划接入线上商城与 Alexa 智能音箱以追赶 OpenAI 与 Google。
OpenAI 在 DevDay 推出 GPT-4 Turbo,上下文直接拉到 128K,输入和输出价格比原版便宜了三分之二和一半。官方还同步上线 Assistants API,自带代码解释器和检索功能,开发者不用再为管理状态和切分向量抓狂了。
Elon Musk 宣布 xAI 推出首款 AI 助手 Grok,底层搭载 Grok-1 模型。Grok 具备实时抓取 X 平台信息的能力,设定上自带幽默与讽刺风格。目前该模型正向美国少量用户及特定群体内测,结束早期测试后将向 X Premium+ 订阅者开放。
Phind 推出自研编程模型,在 HumanEval 评估中取得 74.7% 的成绩,编码表现超越 GPT-4。借助 NVIDIA TensorRT-LLM 与 H100,生成速度达每秒 100 token,并支持 16k 上下文。该模型已在 Hugging Face 开源,同时提供网页端与 VS Code 插件免费试用。
OpenAI 开始向 ChatGPT Plus 会员推送新测试功能,支持直接上传并分析文本或表格文件。最省事的是,GPT-4 能结合上下文自动决定何时联网搜索或调用数据分析,不再需要手动在下拉菜单里切模式。目前新功能正在灰度推送中。
Twelve Labs 推出视频语言基础模型 Pegasus-1,并上线视频转文本 API。它放弃常见的抽帧转图片路线,直接整合视觉、音频与语音信息,用于长视频的摘要、分段与报告生成。这意味着长视频理解不再受限于单帧切片。
据 The Information 报道,OpenAI 在今年早些时候叫停了代号为 Arrakis 的模型项目。该项目原本与 GPT-4 并行开发,旨在大幅压低 ChatGPT 的推理成本,但最终因效率未能达标被砍,让合作伙伴微软的部分高管大失所望。
在百度北京举办的「Prompt the World」大会上,李彦宏正式推出文心大模型 4.0。他表示该模型在理解、生成、逻辑和记忆四大核心能力上全面升级,综合水平不逊于 GPT-4。百度已将其接入搜索、文库和地图等产品,不过资本市场反响偏谨慎,发布当日股价微跌。
Anthropic 宣布扩大网页端访问范围,正式面向全球 95 个国家和地区开放 claude.ai。用户登录后即可直接与 Claude 对话,处理日常或专业工作。这意味着更多海外用户无需排队或等待,就能直接体验 Claude。
Portkey 监测数据显示,GPT-4 响应延迟过去三个月稳步下降,速度正逼近 GPT-3.5。在第 99 百分位的高延迟请求中,耗时缩减超一半;中位数请求的每 token 耗时已低于 1 毫秒。虽然依旧更贵,但对大多数请求来说它已不再慢。
开发者曝光 Google MakerSuite 的未发布界面。多模态大模型 Gemini 将直接接入该平台,同时曝光的还有秘密工具「Stubbs」,允许用户仅凭单句提示词生成、部署并分享可交互的应用原型。