高通押注端侧生成式 AI:新一代旗舰芯片 10 月登场,明年进高端手机
高通透露正把生成式 AI 做进下一代旗舰芯片,将于 10 月底夏威夷峰会亮相。端侧运行让用户数据无需传上云端,离线可用且省去昂贵的服务器开销。最值得关注的是,高通预计明年高端 Android 手机就能在本地跑起百亿参数模型。
高通透露正把生成式 AI 做进下一代旗舰芯片,将于 10 月底夏威夷峰会亮相。端侧运行让用户数据无需传上云端,离线可用且省去昂贵的服务器开销。最值得关注的是,高通预计明年高端 Android 手机就能在本地跑起百亿参数模型。
Nvidia 发布 Q2 2024 财报,单季营收 135 亿美元,净利润达 61.88 亿美元,同比暴涨 843%。其中数据中心业务创下 103.2 亿美元纪录,单季翻倍。生成式 AI 爆发让其赚得盆满钵满,下季度营收预期更喊到 160 亿美元。
Stability AI 宣布与 NVIDIA 合作,通过 TensorRT 深度优化 SDXL 并开放 ONNX 权重。在 H100 GPU 上模型性能翻倍,高清图生成仅需 1.47 秒,延迟降低 41%、吞吐量提升 70%。生图效率大幅提高,能直接降低创作者与开发者的部署成本。
Microsoft 宣布与埃森哲合作推出甲烷排放监测方案。通过在 Azure 上结合 AI 异常检测、传感器布局算法与数字孪生,企业可以近实时捕捉管道和设施的泄漏源头。这让能源行业的漏气排查从被动抢修转向了预防式监控。
NVIDIA 在 Gamescom 推出 DLSS 3.5,重点引入光线重建技术。官方用超算训练的 AI 网络取代传统人工降噪器,训练数据量比 DLSS 3 增加 5 倍,能明显改善反射与全局光照,面向所有 RTX 显卡开放,今秋将落地《赛博朋克 2077》等大作。
本周,美国总统拜登签署行政令,限制美国资本向中国 AI、半导体及量子计算领域进行未来投资。限制主要涵盖私募股权、风险投资和合资项目,重点盯防芯片设计软件与制造设备。规定在经历公众意见征集后预计明年正式生效。
NVIDIA 在 SIGGRAPH 宣布推出轻量开发工具套件 AI Workbench。开发者可以在本地 RTX PC 或工作站上一键整合来自 Hugging Face 等平台的开源模型进行微调,随后直接扩展到数据中心或云端算力。同步更新的 AI Enterprise 4.0 则强化了 NeMo 等生产级部署支持。
NVIDIA 与 Hugging Face 宣布合作,把 DGX Cloud 超算直接接入 Hugging Face 平台。平台将推出「训练集群即服务」,每个实例搭载 8 块 H100 或 A100,让开发者一键调用多节点算力定制企业大模型。该服务预计在未来数月内上线。
Microsoft 宣布配备 NVIDIA H100 的 Azure ND H100 v5 虚拟机正式可用,并同步将 Azure OpenAI Service 扩展至日本东部、英国南部等 5 个新区域。该机型搭载 8 张 H100,FP8 矩阵运算速度提升最高达 6 倍。随着企业客户破 1.1 万家,微软正全线扩容底层算力。
Cointelegraph 撰文指出,上半年 AI 领域吸收超 250 亿美元融资,但行业已现泡沫征兆。大量初创公司缺乏核心 IP,巨额融资几乎全用于抢购英伟达 GPU;伴随 ChatGPT 流量首度回落与套壳公司裁员,单纯靠堆算力的繁荣正面临考验。
在 2023 年第二季度财报会上,Intel CEO Pat Gelsinger 宣布计划把 AI 融入公司制造的每一款产品中。首款内置神经处理器的消费级芯片 Meteor Lake 将于今年晚些时候出货。他强调网络延迟与高昂成本决定了 AI 不能全依赖云端,大量场景必须在客户端和边缘设备本地跑完。
高通与 Meta 宣布达成合作,计划从 2024 年起在高通芯片驱动的手机和 PC 上直接运行开源大模型 Llama 2。这意味着 AI 不必全挤在昂贵的云端数据中心,能大幅压低运行成本,让手机自带更敏捷的本地虚拟助手。
Microsoft 宣布与 Meta 扩大合作,成为 Llama 2 商业化的首选合作伙伴。Azure 客户现可直接微调和部署 7B、13B 和 70B 参数的 Llama 2;同时该模型针对 Windows 做了优化,开发者可通过 ONNX Runtime 在本地 PC 运行。
Elon Musk 宣布新成立的 xAI 将与 Tesla 在芯片和 AI 软件层面协同,并使用 Twitter 公开推文训练模型。Musk 还计划利用特斯拉的真实驾驶数据帮助 AI 理解物理世界。这意味着他正调动旗下所有商业资产,为 xAI 铺平算力与数据底座。
马斯克正式宣布成立人工智能初创公司 xAI,目标是「理解宇宙的真实本质」。团队吸纳了来自 OpenAI、DeepMind 和微软等机构的技术骨干,计划与推特数据及特斯拉算力协同。这也是他与 OpenAI 分道扬镳后,亲自下场正面竞争大模型赛道的关键一步。
Inflection AI 宣布完成 13 亿美元融资,由微软、比尔·盖茨及英伟达等领投,估值达到 40 亿美元。他们正联手 CoreWeave 和英伟达建造拥有 2.2 万张 H100 的超算集群,用来训练自研大模型并支持个人助理 Pi,目前已全网免费开放。
NVIDIA 宣布 H100 GPU 在最新 MLPerf 训练基准测试中包揽全部 8 项纪录。由 CoreWeave 搭建的 3584 块 H100 集群在不到 11 分钟内跑完了 GPT-3 测试。这展现了大集群上近乎线性的扩展能力,也进一步稳固了其在大模型训练算力上的统治地位。
AWS 宣布设立 1 亿美元的生成式 AI 创新中心计划,直接派出数据科学家和架构师帮企业客户做方案、调模型。该计划提供免费研讨与培训,重点对接金融、医疗等行业,并开放 Bedrock 和 CodeWhisperer 的技术支持。
Cisco 推出专为 AI 超级计算机设计的 G200 和 G202 网络芯片,直接叫板博通和 Marvell。两款芯片性能较前代翻倍,最多可将 32,000 块 GPU 连接在一起,并降低最高 40% 的功耗。目前六大云服务商中已有五家进场测试。
AMD 举办数据中心与 AI 技术发布会,CEO 苏姿丰展示了新一代服务器产品与路线图。其中 Instinct MI300 加速芯片成为核心看点,被列为其 AI 战略的首要重点,直接对标英伟达的 Hopper 架构。