Meta 公布新一代自研 AI 芯片 MTIA：算力翻倍，专攻推荐与推理

大家都在抢英伟达 GPU 的时候，Meta 正在悄悄把自家的第二代 AI 芯片塞进数据中心。

Meta 正式公布了下一代自研 AI 芯片 MTIA 的技术细节。这个专门用来跑推荐和排序算法的推理芯片，性能比第一代翻了数倍，目前已经在 16 个地区的数据中心投入实际生产。

堆内存和带宽，专治推荐算法

很多人以为大厂造芯都是奔着去训练 GPT-4 那样的大模型，但 Meta 最赚钱、最消耗日常算力的，其实是每天给数十亿人信息流推广告和短视频的推荐系统。

推荐算法的特点是计算密集度不算极高，但对内存带宽、延迟和片上存储挑剔得很。Meta 这一次把制程从台积电 7 纳米换到了 5 纳米，主频拉到 1.35 GHz，功耗也从前代的 25 瓦放宽到 90 瓦。

数字看起来更实在。稠密算力提升到上一代的 3.5 倍，稀疏算力直接提升了 7 倍。片上 SRAM 翻倍到了 256 MB，带宽冲到每秒 2.7 TB，外挂的 LPDDR5 内存也加码到 128 GB。

硬件系统也跟着大改。Meta 设计了专门的机架系统，一个机架能塞进 72 个 MTIA 加速器，走 PCIe 5.0 高速通道，还能按需加装 RDMA 网卡往集群扩展。

软件跟得上，9 个月就上线接客

自研硬件最怕的是做出来没人会写代码，或者软件适配拖个两三年。作为 PyTorch 的娘家人，Meta 在这方面确实占尽了便宜。

他们把整套芯片直接接进了 PyTorch 2.0，搞了个 Triton-MTIA 编译器后端。开发者写代码时基本不用感知底层变动，代码还能完全兼容第一代芯片。

靠着软件栈的无缝衔接，新芯片从拿到第一批样片到在 16 个地区的数据中心跑起线上流量，前后花了不到 9 个月。Meta 在四个关键推荐模型上的测试显示，单芯片性能是上一代的 3 倍；放到机架平台层面，吞吐量提升了 6 倍，能效比也涨了 1.5 倍。

为什么重要

对于刷 Instagram 和 Facebook 的普通人来说，这颗芯片最直接的效果，就是信息流里的广告和推荐视频推得更快、算得更准，甚至未来能实时跑一些轻量级的生成式体验。它虽然不对外卖给开发者，但撑起了 Meta 最核心的变现底盘。

更关键的是对整个 AI 芯片行业的影响。现在顶级 GPU 供应极度紧张，一张 H100 动辄几万美元。我们认为，Meta 这一步走得相当清醒：它没打算硬造一颗通用芯片去直接挑战英伟达，而是把最消耗日常资源、商业回报最高的推荐推理业务剥离出来，用自研的高性价比定制芯片接管。

这样一来，省下的巨额电费和机柜空间，以及采购到的宝贵英伟达 GPU，就能全部集中调去攻坚大语言模型训练。看起来，这种专属芯片搭配通用 GPU 的混合布局，会成为未来所有超大规模云厂商的必经之路。