蘋果站臺 AWS:正在用亞馬遜自研晶片,並評估 Trainium2 訓大模型
Apple 在 AWS re:Invent 上透露,其搜尋等服務已採用亞馬遜 Inferentia 與 Graviton 晶片,使效率提升 40%。蘋果目前還在評估最新款 Trainium2 晶片,預計預訓練效率可提升高達 50%,未來有望用於訓練 Apple Intelligence。
Apple 在 AWS re:Invent 上透露,其搜尋等服務已採用亞馬遜 Inferentia 與 Graviton 晶片,使效率提升 40%。蘋果目前還在評估最新款 Trainium2 晶片,預計預訓練效率可提升高達 50%,未來有望用於訓練 Apple Intelligence。
在 re:Invent 大會上,Amazon 宣佈與 Anthropic 聯手打造超算 Project Rainer,將配備數十萬顆自研 Trainium 2 晶片,規模達 Anthropic 現役最強叢集的 5 倍。AWS 稱該叢集比輝達方案便宜 30% 至 40%,同時還公佈了效能翻 4 倍的 Trainium 3。