传微软自研 AI 芯片 Athena:对标英伟达,OpenAI 员工已在测 GPT-4
据报道,微软自 2019 年起秘密研发代号为 Athena 的自研 AI 芯片,旨在训练大语言模型并摆脱对英伟达昂贵 GPU 的过度依赖。目前部分微软与 OpenAI 员工已拿到芯片测试 GPT-4 运行表现,最早或于明年在内部铺开。

现在只要做大模型,几乎都在给英伟达打工。
随着各家巨头疯抢算力,英伟达最新款 H100 显卡在 eBay 上甚至被炒到了 4 万美元以上。据业内估算,光是支撑 ChatGPT 的商业化运转,OpenAI 就得吃下超过 3 万张 A100。
面对这种天文数字般的硬件账单,微软显然不想一直被卡脖子。据外媒 The Information 报道,微软其实从 2019 年起就在秘密研发一款代号为 Athena 的自研 AI 芯片,试图在大模型训练和推理上省下一大笔钱。
代号 Athena,OpenAI 员工已经上手
这颗内部代号为 Athena 的芯片并不是临时起意。微软已经悄悄打磨了数年,并且研发节奏正在明显加快。
据报道,部分微软和 OpenAI 的员工目前已经拿到了工程芯片,正在测试它运行 GPT-4 等最新前沿大模型的表现。
按照目前的规划,微软最早可能在明年把 Athena 更广泛地部署到公司内部以及 OpenAI 的业务中。而且这并不是一次性尝试,微软内部已经为这款芯片制定了包含未来好几代的长期路线图。
不过,目前还不清楚微软未来是否会将 Athena 开放给 Azure 云计算客户使用。知情人士也提到,这颗芯片并不是为了彻底取代英伟达的所有硬件,而是作为自研主力,用来帮微软自家的 Bing、Office 办公套件和 GitHub 等全面铺开的 AI 功能减轻成本压力。
其实微软做定制芯片早有前科。早在 2020 年,彭博社就曾披露微软在为服务器甚至未来的 Surface 设备研发 ARM 架构处理器。此外,微软也曾与高通、AMD 深度合作为 Surface 设备定制芯片。
为什么重要
如果消息属实,微软将正式加入自研 AI 算力的顶级俱乐部,和谷歌的 TPU、亚马逊的 Trainium 以及 Meta 的定制硬件站在同一起跑线。
我们认为这一步微软走得非常务实。现在全行业都在抢购 GPU,英伟达的利润率高得吓人,交货周期更是被排到了几个季度之后。微软在产品端全面接入 GPT-4 和 Copilot,每多一个活跃用户,服务器的电费和芯片折旧就在疯狂燃烧。自研芯片哪怕性能只能追平上一代硬件,只要在推理成本和功耗上砍下一半,对微软来说就是省下了几十亿美元的真金白银。
对行业来说,这也是一个明确的信号:即便像微软这样与英伟达关系最铁的头号盟友,也不愿意把自己的身家性命押在单一供应商身上。
当然,做芯片从来不是一件容易的事。开发出能点亮的硅片只是第一步,配套的编译器、底层驱动、算子优化以及针对大模型的通信框架,难度一点都不比造芯片本身低。微软选择让 OpenAI 的核心团队直接参与实测,看起来就是想从最底层的实际负载出发,少走当年通用算力芯片走过的弯路。
来源 (2)
- theverge.com(在新标签页打开)原文theverge.com
- reuters.com(在新标签页打开)报道reuters.com