Falcon 模型接入 Hugging Face:40B 登顶开源榜,支持商用
Hugging Face 宣布全面集成阿布扎比 TII 开源的 Falcon 系列模型。Falcon-40B 采用 Apache 2.0 协议且允许商用,在开源排行榜上击败 LLaMA-65B 登顶。得益于 Multi-Query Attention,其推理显存大幅降低,7B 版本甚至可在消费级显卡及 Mac 上运行。
Hugging Face 宣布全面集成阿布扎比 TII 开源的 Falcon 系列模型。Falcon-40B 采用 Apache 2.0 协议且允许商用,在开源排行榜上击败 LLaMA-65B 登顶。得益于 Multi-Query Attention,其推理显存大幅降低,7B 版本甚至可在消费级显卡及 Mac 上运行。