Etched 发布专用芯片 Sohu:号称 Transformer 推理比 H100 快 20 倍
Etched 宣布专用推理芯片 Sohu 并获 1.2 亿美元 A 轮融资。团队直接把 Transformer 架构固化进芯片,号称跑 Llama 70B 可达每秒 50 万 token,8 卡能顶 160 张 H100。不过芯片尚未流片,且完全无法运行其他架构。
Etched 宣布专用推理芯片 Sohu 并获 1.2 亿美元 A 轮融资。团队直接把 Transformer 架构固化进芯片,号称跑 Llama 70B 可达每秒 50 万 token,8 卡能顶 160 张 H100。不过芯片尚未流片,且完全无法运行其他架构。