跳到正文
IFAI

行业动态

Palantir 发布 AIP 平台:用类 ChatGPT 机器人规划军事打击

首次发布 传播指数 39

Palantir 推出人工智能平台 AIP,演示了操作员如何通过类似 ChatGPT 的界面调度无人机侦察并自动生成战术打击方案。该系统支持在保密网络运行开源大模型并设置权限护栏。但大模型固有的幻觉问题引发了外界对战场决策安全的担忧。

图:vice.com

想象一下,东欧前线的指挥室里,警报声响了。坐在屏幕前的军事人员既没拿起电话向上级汇报,也没在沙盘上推演,而是打开了一个长得像 ChatGPT 的聊天框,敲下一行字:现在该怎么办?

这不是科幻电影,而是数据分析巨头 Palantir 在宣传片里演示的真实场景。这家由彼得·蒂尔(Peter Thiel)联合创办的公司,正式推出了名为 AIP(Palantir 人工智能平台)的新系统,专门把 GPT-4 这类大语言模型搬进军用保密网络。

让聊天机器人呼叫死神无人机

在 Palantir 公布的演示中,一位负责监控东欧动态的操作员收到了 AIP 警报:敌军正在友军附近集结。

操作员没有自己翻看卫星图,而是直接在对话框里追问细节,让 AI 推测对方可能是什么编制。随后,操作员敲键盘让 AI 去拍更清晰的照片。

接到指令后,AI 自动调动了一架 MQ-9「死神」无人机飞往前线拍照。传回的画面显示,那是一辆苏联时代的俄制 T-80 坦克。

紧接着,操作员直接问 AI 该怎么打。AIP 迅速生成了三套打击方案:派 F-16 战斗机空袭、呼叫远程火炮,或者用「标枪」反坦克导弹攻击。

系统甚至还能自动统计附近友军手头还剩几枚「标枪」,并一键启动对敌方的通信干扰。操作员要做的事情,似乎只剩下了在屏幕上点选方案,顺着指挥链提交审批。

包装开源模型,靠权限管理讲故事

有意思的是,Palantir 并没有自己从头研发一套军用大模型。它卖的更像是一个高度受控的运行环境,把现成的技术套进去。

演示中支持的模型五花八门,除了 GPT-4 这类商业模型,还包括 FLAN-T5 XL、微调版 GPT-NeoX-20B 以及 Dolly-v2-12b 等开源模型,再加上各种自定义插件。

为了打消军方的顾虑,Palantir 在视频后半段花了大把时间展示后台架构,强调所谓的「安全三支柱」。

官方宣称,AIP 能部署在机密网络和战术边缘设备上,严格限制每个大模型能看什么、不能做什么。同时,系统会记录下操作员的每一步数字痕迹,确保全程合规、可审计。

但演示并没有解释一个最根本的问题:如果底层大模型当场出现幻觉,虚构了敌情或者漏算了弹药,所谓的权限护栏到底能不能拦得住。

为什么重要

对军事和防务部门来说,AIP 确实踩中了痛点。现代战争的数据量早已超过人脑负荷,谁能把情报汇总、无人机调度和后勤盘点整合进同一个自然语言界面,谁就能大幅缩短决策时间。但现在就让它参与生死决策,代价显然高得惊人。

我们认为,Palantir 这一步走得极其精明,但也留下了巨大的隐患。聪明之处在于,它没有陷在大模型的底层算力泥潭里,而是利用自己常年服务军政客户的渠道优势,把自己包装成防务大模型唯一的「安全看门人」。

隐患在于,它把极其严肃的战争决策抽象成了一个简单的对话气泡。所谓「人在回路」,在实际操作中很容易退化成操作员对 AI 建议的盲目点击同意。当大模型不可避免地胡说八道时,一套严格的数字审计记录,并不能挽回前线因为错误指令而造成的实际伤亡。

来源 (1)

  1. [1]
    vice.com(在新标签页打开)原文vice.com

每日 AI 内容精选