Tiiny AI, 주머니 속 AI 슈퍼컴퓨터 공개: 120B 모델 오프라인 구동
Tiiny AI가 기네스 인증을 받은 세계 최소형 개인용 AI 슈퍼컴퓨터 'Pocket Lab'을 발표했다. 보조배터리 크기에 소비전력 65W 수준으로, TurboSparse와 Powerinfer 기술을 통해 고성능 GPU 없이도 최대 120B 규모의 대형 언어 모델을 완전히 오프라인에서 구동한다.
Tiiny AI가 기네스 인증을 받은 세계 최소형 개인용 AI 슈퍼컴퓨터 'Pocket Lab'을 발표했다. 보조배터리 크기에 소비전력 65W 수준으로, TurboSparse와 Powerinfer 기술을 통해 고성능 GPU 없이도 최대 120B 규모의 대형 언어 모델을 완전히 오프라인에서 구동한다.