跳到正文
IFAI

AI算力

行业标签545 条新闻

  1. 开源项目传播指数 48

    HRM-Text:花 1000 美元就能从零预训练 1B 推理模型

    Sapient Intelligence 开源 HRM-Text 预训练框架,主打用约 1000 美元算力从零训练 1B 参数推理模型。它基于分层循环架构,号称算力减少 130 至 600 倍、数据需求降至千分之一,在 GSM8k 达到 84.7%。目前全套代码已在 GitHub 按 Apache 2.0 开源。

  2. AI科研传播指数 36

    Sakana 联手 Nvidia:跳过无效计算,大模型推理提速超 30%

    Sakana AI 联手 Nvidia 推出稀疏计算技术 TwELL,通过定制 CUDA 内核让 GPU 专门跳过模型内部的无效计算。在 H100 上,大模型推理提速超 30%、能耗降低三成,训练内存减少超 20%。也就是说,不用牺牲模型规模也能大幅省电省钱,代码与内核均已开源。