Meta 推出 Purple Llama:开源安全评测基准与 Llama Guard 防护模型
Meta 宣布启动 Purple Llama 项目,为开源生成式 AI 提供安全评测与防护工具。首批上线内容包括业内首套大模型网络安全评估基准,以及负责检测与过滤风险内容的 Llama Guard 基础模型,均开放商用与研究授权。
Meta 宣布启动 Purple Llama 项目,为开源生成式 AI 提供安全评测与防护工具。首批上线内容包括业内首套大模型网络安全评估基准,以及负责检测与过滤风险内容的 Llama Guard 基础模型,均开放商用与研究授权。
Apple 机器学习团队悄然开源了针对 Apple Silicon 优化的机器学习框架 MLX 及数据库 MLX Data。它借鉴了 PyTorch 等设计,利用共享内存架构让 CPU 与 GPU 无需搬运数据,足以在 Mac 本地训练和运行 Llama、Stable Diffusion 等大模型。
Meta 公布全新语音翻译系统 Seamless,包含两大模型:延迟仅约两秒的流式翻译 SeamlessStreaming,以及能保留语速、节奏与情绪的 SeamlessExpressive。模型均基于 SeamlessM4T v2 架构构建,Meta 已将模型与对齐工具全量开源。
TechCrunch 报道 Hugging Face 旗下仅有两名成员的 H4 团队,正专注于大模型对齐研究。他们此前打造了热门的 Zephyr-7B-α 等开源模型,团队虽小但调用了千张 A100 GPU,并把训练代码与数据集整合成手册免费公开。
李开复创办的人工智能初创公司 01.AI 发布开源双语大模型 Yi-34B。该模型在 Hugging Face 预训练基础模型榜单上力压 Meta 的 LLaMA 2,拿下榜首;公司也已完成新一轮融资,估值突破 10 亿美元。李开复表示储备的芯片至少可支撑运营一年,未来将重点发力应用生态。
Meta AI 负责人 Joelle Pineau 表示,现存软件开源协议无法应对大模型的版权与安全风险,许可规则需要更新。尽管 Llama 2 设立门槛被外界批评不算真开源,但开源促进会(OSI)也承认传统规则不够用,正着手起草专门面向 AI 的开源定义。
Replit 在 Hugging Face 开源了代码生成模型 Replit Code V1.5 3B。该模型基于 1 万亿 token 代码数据训练,覆盖 30 种主流编程语言。最值得关注的是,它在微调后表现超越了 CodeLlama 7B 等更大尺寸的模型,且无严格商业限制。
NVIDIA 推出开源库 TensorRT-LLM,专为加速大语言模型推理设计。它引入动态组批与 FP8 精度,在 H100 上相比 A100 带来最高 8 倍吞吐提升,Llama 2 推理提速 4.6 倍。开发者通过 Python API 即可调用底层并行优化,大幅降低算力与电费支出。
Hugging Face Diffusers 团队联合 T2I-Adapter 作者推出适配 SDXL 的轻量控制模型。相比 ControlNet 动辄 2.5 GB,它仅 79M 参数、158 MB,且在去噪阶段只运行一次,让普通显卡也能低成本完成线稿与骨骼控制。
TII 在 Hugging Face 发布开源模型 Falcon 180B,拥有 1800 亿参数。它基于 3.5 万亿 token 训练,在基准测试中超越 Llama 2 70B,性能比肩 PaLM 2-Large。不过商用限制严格,推理需 8 张 A100。
Meta 宣布将计算机视觉模型 DINOv2 转向 Apache 2.0 协议,正式允许商业使用,并同步推出语义分割与深度估计扩展模型。此外,Meta 还发布了评估视觉模型公平性的基准 FACET,包含 3.2 万张标注图像,仅供研究评估。
研究团队开源 ICCV 2023 论文项目 StableVideo 代码。该工具结合 Text2LIVE 与 ControlNet,通过扩散模型实现文本引导的视频编辑,重点解决跨帧闪烁问题,并优化显存以支持低显存设备运行。
周五,Alibaba 开源两款视觉语言模型 Qwen-VL 与 Qwen-VL-Chat。模型支持更高分辨率的图像读取,能识别街标指路、根据照片解数学题,甚至串联多张图讲故事。开发者可以直接在魔搭社区和 Hugging Face 下载并做微调。
Meta 发布专为代码任务打造的开源大模型 Code Llama。该模型基于 Llama 2 在代码数据集上进一步训练,提供 7B 到 70B 等尺寸,支持最高 10 万 token 的上下文,并具备代码补全与调试能力。
Meta 推出全能多模态翻译模型 SeamlessM4T,支持近 100 种语言的语音与文本互译,包含近百种语言语音转文本及 36 种语言语音互译。该模型以研究许可开源,同时放出了 27 万小时语音文本对齐数据集 SeamlessAlign 的元数据。