跳到正文
IFAI

行业动态

Meta 发布首款自研 AI 芯片 MTIA:专攻推荐系统,能效达 GPU 三倍

首次发布 传播指数 38

周四,Meta 发布首款专为 AI 打造的自研芯片 MTIA。该芯片自 2020 年启动研发,采用 8×8 阵列架构并深度绑定 PyTorch,专攻深度学习推荐系统,每瓦能效最高达 GPU 的三倍。不过面对更复杂的神经网络时它仍逊于 GPU。

Meta 发布首款自研 AI 芯片 MTIA:专攻推荐系统,能效达 GPU 三倍
图:zdnet.com

过去几年,微软、Google、亚马逊甚至各大初创公司都在忙着造芯片,想从英伟达手里抢点主动权。一直把大把资金砸向英伟达 GPU 的 Meta,终于也把自家的秘密武器端上了台面。

周四,Meta 正式公布了第一款专门用来跑 AI 程序的自研定制芯片,名字叫 MTIA(Meta Training and Inference Accelerator)。这个项目从 2020 年就已经启动,如今拿出来的是第一代产品。

专挑自己的主战场下手

MTIA 没有一上来就说要取代英伟达去跑通用大模型,而是把刀口对准了 Meta 最赚钱的命根子:深度学习推荐模型。

换句话说,你在 Facebook 或 Instagram 上刷到的信息流、看过的短视频,以及平台给你推送的定向广告,背后全靠这类模型计算。Meta 的硬件架构设计得很针对性,芯片核心是一个由 64 个处理单元组成的 8×8 网格,采用了经典的脉动阵列设计,让数据能以最高速度在单元间穿梭流转。

有意思的是,业界通常会把训练和推理拆开,用两套完全不同的芯片来跑,而 Meta 这颗芯片打算两头兼顾。根据 Meta 的说法,在能效比上,MTIA 每瓦电力输出的浮点运算次数能达到 GPU 的 3 倍。

不过 Meta 也很诚实地补了一句:一旦遇到结构更复杂的神经网络,MTIA 的表现就会落后于 GPU,后续版本还需要继续死磕复杂任务。

为了让开发者用起来顺手,Meta 的芯片团队跟自家著名的开源框架 PyTorch 团队做了深度软硬协同。开发者除了用 PyTorch 或 C++ 写代码,还能用一种叫 KNYFE 的专用语言,直接把高级机器学习算子转成针对 MTIA 优化的底层 C++ 内核代码。

除了 MTIA,Meta 当天还端出了一颗叫 MSVP 的自研视频处理器。Facebook 上用户每天产生超过 40 亿次视频播放,消耗了一半的使用时长。MSVP 就是为了甩开英特尔 CPU 和英伟达 GPU,专门做超低功耗的视频转码和压缩,最高画质下一路输入能支持五路 4K 15fps 输出,标准画质能拉到 4K 60fps。配合这些芯片,Meta 还在规划支持液冷和高带宽互联的下一代 AI 数据中心。

为什么重要

我们认为,Meta 这步棋下得非常务实,但也暴露了它在算力供应链上的妥协与野心。

它聪明的地方在于不贪大。Meta 最大的开销不是训练下一个万亿参数的大模型,而是每天几百亿次在推荐算法和视频流转码上的日常消耗。把这部分基础吞吐搬到自研的专用芯片上,能效比能直接翻 3 倍,省下来的电费和采购费就是实打实的利润。而且他们手里握着 PyTorch 这个杀手级软件生态,生态迁移的摩擦力比其他硬件创业团队小得多。

但隐患也很明显。芯片既想管训练又想管推理,在复杂网络面前立马就显出疲态,说明它目前还远远动不了英伟达的护城河。Meta 接下来训练前沿尖端模型,网线另一头依然得插满英伟达的卡。

对于整个行业来说,这意味着头部科技巨头已经全员完成「去英伟达单一依赖」的初期布局。自研专用芯片管自家高频业务,通用 GPU 管前沿探索,双轨制已经成了巨头们的标配生存法则。

来源 (1)

  1. [1]
    zdnet.com(在新标签页打开)原文zdnet.com

每日 AI 内容精选