Etched 釋出專用晶片 Sohu:號稱 Transformer 推理比 H100 快 20 倍
Etched 宣佈專用推理晶片 Sohu 並獲 1.2 億美元 A 輪融資。團隊直接把 Transformer 架構固化進晶片,號稱跑 Llama 70B 可達每秒 50 萬 token,8 卡能頂 160 張 H100。不過晶片尚未流片,且完全無法執行其他架構。
Etched 宣佈專用推理晶片 Sohu 並獲 1.2 億美元 A 輪融資。團隊直接把 Transformer 架構固化進晶片,號稱跑 Llama 70B 可達每秒 50 萬 token,8 卡能頂 160 張 H100。不過晶片尚未流片,且完全無法執行其他架構。