Falcon 模型接入 Hugging Face:40B 登頂開源榜,支援商用
Hugging Face 宣佈全面整合阿布扎比 TII 開源的 Falcon 系列模型。Falcon-40B 採用 Apache 2.0 協議且允許商用,在開源排行榜上擊敗 LLaMA-65B 登頂。得益於 Multi-Query Attention,其推理視訊記憶體大幅降低,7B 版本甚至可在消費級顯示卡及 Mac 上執行。
Hugging Face 宣佈全面整合阿布扎比 TII 開源的 Falcon 系列模型。Falcon-40B 採用 Apache 2.0 協議且允許商用,在開源排行榜上擊敗 LLaMA-65B 登頂。得益於 Multi-Query Attention,其推理視訊記憶體大幅降低,7B 版本甚至可在消費級顯示卡及 Mac 上執行。