商汤发布日日新 5.0:支持 20 万上下文,主打端云协同矩阵
SenseTime 在上海技术交流日发布 SenseNova 5.0 大模型及端侧产品矩阵。新模型训练数据超 10TB token,支持约 20 万有效上下文,在多模态基准 MMBench 上获综合第一。同时推出的端侧模型在旗舰平台每秒可生成 78.3 字。

大家都在聊云端万亿大模型的时候,商汤把算盘打到了你的手机和工位上的主机里。
商汤科技在上海的技术交流日上正式发布日日新 5.0(SenseNova 5.0)。自 2023 年 4 月发布第一版以来,这已经是日日新大模型的第五次迭代。商汤董事长兼 CEO 徐立表示,模型依然遵循尺度定律,基于知识、推理和执行的三层架构来构建。
训了 10TB Token,上下文拉到 20 万
日日新 5.0 采用了混合专家架构,也就是大家熟悉的 MoE。整个训练过程吃下了超过 10TB Token 的数据,其中包含了大量合成数据。
在推理阶段,它的有效上下文窗口覆盖达到了约 20 万。商汤重点拔高了它在知识、数学、推理和代码上的表现,用来应对金融、数据分析等对准确度要求极高的高价值场景。
多模态能力也是这次的更新重心。日日新 5.0 不仅能解析高分辨率图片、做图文互答,还能跨多个文档提取复杂数据并完成汇总。在权威多模态基准 MMBench 上,它的综合得分拿下了第一,同时在 MathVista、AI2D 和 ChartQA 榜单上也排在前列。
商汤还在现场秀了一把文生视频能力。用户输入几句话就能生成一段视频,而且可以预设人物的服装、发型和场景,保持画面风格连贯,目前这项能力正在排队上线。
把大模型塞进手机和一体机
相比云端参数的堆叠,商汤这次端出的「端云全栈」产品矩阵更接地气,直接把大模型塞进了终端设备。
在端侧大语言模型上,商汤在中端平台上跑出了每秒 18.3 词的速度,而在旗舰平台上,生成速度直接飙到了每秒 78.3 词。
端侧图像扩散模型表现同样扎实。商汤的端侧 LDM 技术在主流平台上的推理时间压缩到了 1.5 秒以内,能直接生成 1200 万像素以上的高清图像,还顺带支持等比扩图、自由扩图和旋转扩图。
针对金融、医疗和政务这些对数据敏感的行业,商汤推出了企业级大模型一体机。官方数据显示,这款设备只用 50% 的 CPU 占用率就能完成加速搜索,整体推理成本降低了大约 80%。
商业落地上,金山办公把商汤大模型接入了 WPS 365 办公平台,海通证券用它跑智能投顾与风控,刚刚发布的小米 SU7 智能座舱里,也用上了商汤的技术。
为什么重要
我们认为,商汤在日日新 5.0 上最聪明的策略,不是去跟同行硬卷云端基准跑分,而是把宝押在了「端侧落地」和「行业私有化」上。
对于开发者和企业来说,云端调 API 固然简单,但昂贵的 Token 账单和数据安全隐患一直是一块心病。商汤给出的一体机把推理成本砍掉八成,端侧模型在旗舰机上能跑到每秒近 80 词,这意味着很多低延迟、高隐私的交互场景,完全可以脱离云端独立运行。
把模型塞进小米 SU7 和 WPS,看起来商汤已经找到了清晰的变现抓手。不过,端侧硬件的算力和发热限制始终是道坎,如何在有限的芯片资源下持续平衡模型精度与续航,依然需要市场检验。
来源 (1)
- prnewswire.com(在新标签页打开)原文prnewswire.com