TaalasがHC1発表:Llamaをチップに直接焼き込み秒間1.7万トークン達成
Taalas は Llama 3.1 8B をハードウェアに直接焼き込んだ AI チップ「HC1」を発表した。演算とメモリを統合することで NVIDIA B200 の約 40 倍となる毎秒 17,000 トークンを実現した。メモリ帯域のボトルネックを解消した一方、特定モデル専用という制限が残る。
Taalas は Llama 3.1 8B をハードウェアに直接焼き込んだ AI チップ「HC1」を発表した。演算とメモリを統合することで NVIDIA B200 の約 40 倍となる毎秒 17,000 トークンを実現した。メモリ帯域のボトルネックを解消した一方、特定モデル専用という制限が残る。