Intel 发布 Gaudi 3:宣称部分大模型表现比英伟达 H100 快 1.7 倍
在 Vision 2024 大会上,Intel 正式推出 Gaudi 3 AI 芯片,采用台积电 5nm 工艺并配备 128GB HBM2e 内存。官方称其运行 LLaMA 等大模型时速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。风冷版将于三季度全面上市,液冷版四季度跟进。
在 Vision 2024 大会上,Intel 正式推出 Gaudi 3 AI 芯片,采用台积电 5nm 工艺并配备 128GB HBM2e 内存。官方称其运行 LLaMA 等大模型时速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。风冷版将于三季度全面上市,液冷版四季度跟进。
Intel 透露微软计划让 Copilot 的更多功能直接在 PC 本地运行,从而减少云端延迟并保护隐私。不过下一代 AI PC 要求 NPU 算力超过 40 TOPS,目前市面上在售的消费级处理器均未达到这一标准。
MLCommons 公布最新 MLPerf 推理评测结果,Nvidia 携 H200 参测全部项目,配合 TensorRT-LLM 表现强劲,其推理业务已占数据中心收入约 40%。Intel 提交了 Gaudi2 与至强成绩,而 AMD MI300 再次缺席。
Forbes 披露主导研发 Stable Diffusion 的核心学者 Robin Rombach 等三人已从 Stability AI 辞职。此前该公司已有多位副总裁与高管出走,正面临每月数百万美元的高额算力与薪资开支,现金流吃紧且融资受阻。
Intel 联手投资机构 DigitalBridge,将内部生成式 AI 业务拆分为独立公司 Articul8 AI。该平台起步于与 BCG 的合作,主打让图文模型在本地或私有云中运行,确保数据不出企业安全边界。Intel 将保留股权并提供算力支持。
据报道,Stable Diffusion 母公司 Stability AI 因财务压力正接触买家寻求出售。主要投资方 Coatue 上月致信要求其 CEO 辞职。据悉该公司每月开销达 800 万美元,收入仅占零头。官方回应称并未打算出售,正专注于发布新模型。
Intel CEO Pat Gelsinger 表示,受成本、延迟和隐私影响,AI 必将从云端走向边缘。Intel 计划年内推出搭载专用 AI 硬件的 Meteor Lake 芯片。凭借超 80% 的 x86 PC 市场份额,Intel 押注端侧算力能帮软件商大幅削减昂贵的云端开销。
苏黎世大学和 Intel 研发的自主系统 Swift 击败三位无人机竞速世界冠军。Swift 依靠机载摄像头与深度强化学习实时控速,最快单圈比人类纪录领先半秒。不过如果光线等外部环境出现变化,它的适应能力依然比不上人类。
Nvidia 发布 Q2 2024 财报,单季营收 135 亿美元,净利润达 61.88 亿美元,同比暴涨 843%。其中数据中心业务创下 103.2 亿美元纪录,单季翻倍。生成式 AI 爆发让其赚得盆满钵满,下季度营收预期更喊到 160 亿美元。
Microsoft 宣布配备 NVIDIA H100 的 Azure ND H100 v5 虚拟机正式可用,并同步将 Azure OpenAI Service 扩展至日本东部、英国南部等 5 个新区域。该机型搭载 8 张 H100,FP8 矩阵运算速度提升最高达 6 倍。随着企业客户破 1.1 万家,微软正全线扩容底层算力。
在 2023 年第二季度财报会上,Intel CEO Pat Gelsinger 宣布计划把 AI 融入公司制造的每一款产品中。首款内置神经处理器的消费级芯片 Meteor Lake 将于今年晚些时候出货。他强调网络延迟与高昂成本决定了 AI 不能全依赖云端,大量场景必须在客户端和边缘设备本地跑完。
Stable Diffusion 2.0 正式发布,最大看点是新增 depth2img 功能。该功能利用 MiDaS 算法根据 2D 图推算深度图,生成时能严格保留主体的 3D 几何结构。这意味着 3D 创作者只要搭个简单灰盒,就能直接用 AI 快速探索材质与光影方案。
ML6 工程师展示了基于开源库 Anomalib 的工业视觉质检方案。该方案采用教师-学生网络架构的单分类学习,仅需无缺陷样本即可训练,能在像素级精确定位缺陷。配合 OpenVINO 在 CPU 上的推理速度提升近 4 倍,达到 30.2 fps。