AMD 正式推出 MI300 芯片:推理性能超 H100,正面叫板英伟达
AMD 推出 Instinct MI300X 加速卡与 MI300A APU,瞄准大模型训练与推理。官方称其在运行 Llama 2 时推理性能是英伟达 H100 的 1.4 倍,微软与 Meta 均已确认采用;同时发布的还有集成 NPU 的 Ryzen 8040 笔记本芯片。
AMD 推出 Instinct MI300X 加速卡与 MI300A APU,瞄准大模型训练与推理。官方称其在运行 Llama 2 时推理性能是英伟达 H100 的 1.4 倍,微软与 Meta 均已确认采用;同时发布的还有集成 NPU 的 Ryzen 8040 笔记本芯片。
Apple 机器学习团队悄然开源了针对 Apple Silicon 优化的机器学习框架 MLX 及数据库 MLX Data。它借鉴了 PyTorch 等设计,利用共享内存架构让 CPU 与 GPU 无需搬运数据,足以在 Mac 本地训练和运行 Llama、Stable Diffusion 等大模型。
麦当劳与 Google Cloud 宣布达成多年全球战略合作。麦当劳将在数千家门店部署 Google Distributed Cloud 软硬件,结合边缘计算与生成式 AI,升级手机 App 与自助点餐机并减少运营中断。硬件升级预计明年铺开。
Microsoft 发布并开源小语言模型 Orca 2。它不再盲目模仿大模型,而是学会针对不同任务选择分步思考或直接作答等不同策略;在复杂零样本推理评测中,其表现接近甚至超越体量大 5 到 10 倍的模型。
Samsung 推出自研生成式 AI 模型 Gauss。该模型由 Samsung Research 开发,包含处理翻译和摘要的 Language、编程助手 Code 以及图像生成与编辑的 Image 三部分。相比依赖云端的方案,它主打端侧本地运行,预计将搭载于明年的 Galaxy S24 系列中。
据报道,特斯拉计划将 xAI 新发布的 Grok 助手接入电动车。早期测试者透露车机将原生运行较小量化版 Grok,马斯克随后确认若车载电脑能跑通该模型,特斯拉车队将成为庞大的分布式推理网络。不过该整合目前尚无具体推送时间表。
Waymo 与 Uber 宣布在凤凰城推出无人驾驶网约车服务。用户呼叫 UberX、Uber Comfort 等车型时,可直接匹配 Waymo 无人车。此时正值对手 Cruise 在加州被暂停许可,Waymo 借 Uber 庞大的打车网络加速商业化。
在 TechWorld 2023 上,联想公布混合 AI 战略,涵盖公有大模型、企业私有模型与个人端侧模型。联想宣布深化与英伟达合作,推出优化的服务器与工作站,并开发模型剪枝与量化技术把大模型轻量化到 PC 上运行,同时通过隐私代理保护企业数据。
MSPoweruser 曝光了高通骁龙 8 Gen 3 的完整规格表。作为首款专为生成式 AI 打造的移动平台,它升级了 Hexagon NPU 并支持 INT4 精度,还加入了虚幻 5.2 光追。最值得关注的是,安卓旗舰的端侧大模型算力底座终于要来了。
据 BleepingComputer 报道,Google Chrome 正在开发「Organize Tabs」功能。该入口位于浏览器左上角,能够智能重新排序已打开的标签页,并在系统分类后自动创建标签组以清理浏览空间。
Stability AI 推出 3B 参数的轻量语言模型 Stable LM 3B,专为掌上设备和笔记本打造。它的常识推理表现不仅超越同尺寸前代模型,还胜过部分开源 7B 模型,能显著降低端侧运行成本。模型以 CC-By-SA 4.0 协议开源,作为基础模型供开发者微调。
Google 联手宏碁、惠普等厂商推出全新 Chromebook Plus,起售价 399 美元。硬件规格强制翻倍,并把 AI 深度做进系统底层,所有视频通话都能跨软件一键降噪与补光,还自带相册魔术橡皮擦。最值得看的是,Google 借此把原本高端机专属的 AI 体验拉进了平价区间。
Apple CEO 蒂姆·库克确认,苹果「当然」正在研发类 ChatGPT 的生成式 AI,并计划在英国扩大 AI 招聘。他提到 AI 早已应用在 Apple Watch 跌倒检测和 iPhone 预测输入中。面对各家的对话助手竞争,这番表态坐实了苹果也在暗中发力大模型。
医疗初创公司 Invenio 联合 NVIDIA 推出手术室级 AI 活检系统。它基于 Jetson Orin 边缘计算,在手术台旁仅用 3 分钟就能完成新鲜组织切片分析,识别癌细胞并辅助判断切除范围,将以往耗时数周的病理送检流程大幅压缩。
Apple 正式推送 macOS Sonoma 免费更新。新系统不仅加入桌面小组件、游戏模式和视频会议特效,键盘自动纠错更全面换上端侧 Transformer 语言模型,大幅提升输入与听写准确率。换句话说,日常打字体验有了更底层的人工智能加速。目前支持设备已全面开放升级。
据泄露的宣传视频显示,Google 即将发布的 Pixel 8 系列将搭载 AI 摄影工具 Magic Editor。除了能把多张连拍合成出全员看镜头的完美合照,还能直接挪动物体或把正午天空换成落日晚霞。此外,新机还增加了快门与 ISO 等单反级手动控制。
Microsoft 发布四款面向企业的 Surface 设备,包括 Laptop Studio 2、Laptop Go 3、Go 4 和 Hub 3。新硬件不仅性能大幅翻倍,还深度集成了 AI 自动取景、眼神矫正以及白板中的 Copilot 等智能办公工具。
Engadget 报道 Microsoft 定于 9 月 21 日举行秋季特别发布活动。外界预计将迎来 Surface Laptop Studio 等硬件性能迭代,并穿插 AI 相关消息。官方未设实时直播,完整录播将在事后上线。
掌舵 Surface 十余年的 Panos Panay 突然从微软离职。微软随即重组管理层,由 Yusuf Mehdi 和 Pavan Davuluri 分管业务与芯片硬件,并新设团队研发 Windows 的 AI 网络服务。也就是说,微软正将操作系统与硬件重心全面推向 AI 驱动。
Apple 在 iPhone 15 发布会上避开生成式 AI 狂欢,聚焦润物细无声的端侧体验。新机搭载 A17 Pro 芯片,依靠机器学习实现通话语音隔离、自动人像测深与语音信箱转写,甚至能为渐冻症患者合成声音。说白了,Apple 不拼聊天机器人,只想用无感预测解决实际痛点。