跳到正文
IFAI

大模型

Meta 放宽 Llama 使用限制:破例向美国防及国安机构开放

首次发布 传播指数 57

Meta 宣布打破军用禁令,向美国国防与国家安全机构及其承包商开放 Llama 模型。Oracle 已用其处理战机维护文档,Lockheed Martin 则用它生成代码。这一例外政策也同步适用于英、加、澳、新西兰四国对应机构。

Meta 放宽 Llama 使用限制:破例向美国防及国安机构开放
图:techcrunch.com

过去开源大模型总喜欢在协议里写上一条:严禁用于军事与战争。

但这道红线如今被亲自画上红线的人擦掉了。11 月 4 日,Meta 正式宣布向美国国家安全机构及其承包商开放 Llama 系列大模型,并允许将其用于国防任务。

联手五眼联盟防务巨头

Meta 过去的使用政策明确规定,禁止将 Llama 用于任何与军事、战争或间谍任务相关的项目。但根据 Meta 透露给彭博社的说法,这次政策破例不仅针对美国,同样适用于英国、加拿大、澳大利亚和新西兰等「五眼联盟」国家的类似政府机构及承包商。

为了把模型送进五角大楼,Meta 组建了一个规模庞大的企业联盟,合作名单里既有 Amazon Web Services、微软、甲骨文、IBM 这样的传统云巨头,也有 Palantir、Anduril、洛克希德·马丁(Lockheed Martin)这类核心防务巨头,再加上 Scale AI、Databricks、Snowflake、德勤、埃森哲和 Leidos 等数据服务商。

这些承包商拿 Llama 去做的事各不相同。甲骨文正在用 Llama 处理飞机维修技术文档,以加快检修流程;Scale AI 则在对模型进行微调,协助国家安全团队执行任务规划和威胁分析;洛克希德·马丁直接把 Llama 嵌入到防务交付方案中,比如帮客户自动生成代码。

开源被挪用的反向公关

这番动作的时机相当微妙。就在上周,路透社报道称,有中国军方的研究人员利用较早版本的 Llama 2 开发出了一套面向军事应用的工具,包括一个用于收集情报、处理数据并辅助作战决策的军用聊天机器人。

Meta 当时回应称,这种对单一过时模型的使用属于「未经授权」,完全违反了使用协议。但这一事件迅速激化了外界对开源模型扩散风险的质疑。

面对「自家的开源技术正在资助竞争对手」的舆论压力,Meta 干脆把姿态彻底转向,主张开源 AI 能够加速西方防务研发,捍卫美国经济与安全利益,并力求让美国的大模型成为全球规则制定的基础。

不过,军用大模型的前路并非一帆风顺。非营利机构 AI Now Institute 近期发布研究警告,军用 AI 依赖的个人数据极易被对手窃取并武器化,加上大模型天生的幻觉与偏见至今无法彻底根除,将商业模型直接挪到战场风险巨大。在此之前,谷歌和微软内部也屡次爆发员工抗议,反对公司接军方订单。而且即便军方有兴趣,目前美军各军种中真正落地生成式 AI 的也只有陆军等极少数部门,决策层对实际投入产出比依旧存疑。

为什么重要

我们认为,Meta 这一步棋走得极其老练,但同时也彻底打破了硅谷开源社区原有的道德边界。

从公关和商业角度看,既然开源权重的特性决定了 Meta 根本管不住海外对手私下下载使用,那不如顺水推舟,直接把 Llama 包装成符合五角大楼利益的「国家利器」。拉上洛克希德·马丁和 Palantir 这些深扎军政体系的老牌玩家,Meta 可以借机把开源模型深深织进西方公共部门的基础设施,用事实标准挤压闭源对手的生存空间。

但这里的隐患也同样刺眼。所谓「禁止军用」的开源许可协议,在现实的国家利益面前看起来脆弱得像一张废纸,说改就改的例外条款会让科技公司的合规承诺大打折扣。更关键的是,大模型本身无法杜绝的幻觉Bug,如果真的在情报分析和武器协同中发生误判,后果谁也无法承担。对普通开发者和创业团队来说,这一事件最清晰的信号在于:AI 巨头之间的竞争已经彻底脱离单纯的学术与产品优劣,变成了大国地缘博弈最前端的数字兵工厂。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

每日 AI 内容精选