Hugging Faceの2人体制チーム「H4」、Zephyrなどオープンモデルを開発
米TechCrunchはHugging Faceの2人組チーム「H4」が対話型AIのオープンソース化を推進していると報じた。Zephyr-7B-αの開発を手がけ、1000基超のA100 GPUを活用しつつ、アライメント手法やコードをコミュニティに無償公開している。
Falcon-40B
オープンLLM「Falcon」がHugging Faceに登場、商用利用可能に
Hugging Face はアブダビ TII が開発したオープン言語モデル「Falcon」ファミリーへの対応を発表した。Apache 2.0 ライセンスで商用利用が可能で、Falcon-40B は LLaMA-65B を抑えてオープン LLM リーダーボードの首位を獲得。Multi-Query Attention により推論時のメモリ消費も大幅に抑えられている。