Tiiny AIが手のひら大のAIスパコン発表：120Bモデルを完全オフライン動作
Tiiny AIはギネス世界記録に認定された世界最小の個人向けAIスパコン「Pocket Lab」を発表した。モバイルバッテリー大の筐体と65Wの消費電力で、TurboSparseやPowerinfer技術を活用し、GPU不要で最大120BのLLMを完全オフラインで動作させる。
Tiiny AIはギネス世界記録に認定された世界最小の個人向けAIスパコン「Pocket Lab」を発表した。モバイルバッテリー大の筐体と65Wの消費電力で、TurboSparseやPowerinfer技術を活用し、GPU不要で最大120BのLLMを完全オフラインで動作させる。