Taalas 推出 HC1 芯片:将模型刻进硬件,每秒输出 17000 token
Taalas 推出专用 AI 芯片 HC1,把 Llama 3.1 8B 直接硬编码进硅片。其输出速度高达每秒 17000 token,据称达到英伟达 B200 的 40 倍,且功耗降至十分之一。存算一体消除了内存瓶颈,不过它专芯专用,无法换跑其他模型。
Taalas 推出专用 AI 芯片 HC1,把 Llama 3.1 8B 直接硬编码进硅片。其输出速度高达每秒 17000 token,据称达到英伟达 B200 的 40 倍,且功耗降至十分之一。存算一体消除了内存瓶颈,不过它专芯专用,无法换跑其他模型。