跳到正文
IFAI

產業動態

Palantir 釋出 AIP 平臺:用類 ChatGPT 機器人規劃軍事打擊

首次發布 傳播指數 39

Palantir 推出人工智慧平臺 AIP,演示了操作員如何通過類似 ChatGPT 的介面排程無人機偵察並自動生成戰術打擊方案。該系統支援在保密網路執行開源大模型並設定許可權護欄。但大模型固有的幻覺問題引發了外界對戰場決策安全的擔憂。

圖:vice.com

想像一下,東歐前線的指揮室裡,警報聲響了。坐在螢幕前的軍事人員既沒拿起電話向上級彙報,也沒在沙盤上推演,而是打開了一個長得像 ChatGPT 的聊天框,敲下一行字:現在該怎麼辦?

這不是科幻電影,而是資料分析巨頭 Palantir 在宣傳片裡演示的真實場景。這家由彼得·蒂爾(Peter Thiel)聯合創辦的公司,正式推出了名為 AIP(Palantir 人工智慧平臺)的新系統,專門把 GPT-4 這類大語言模型搬進軍用保密網路。

讓聊天機器人呼叫死神無人機

在 Palantir 公佈的演示中,一位負責監控東歐動態的操作員收到了 AIP 警報:敵軍正在友軍附近集結。

操作員沒有自己翻看衛星圖,而是直接在對話方塊裡追問細節,讓 AI 推測對方可能是什麼編制。隨後,操作員敲鍵盤讓 AI 去拍更清晰的照片。

接到指令後,AI 自動調動了一架 MQ-9「死神」無人機飛往前線拍照。傳回的畫面顯示,那是一輛蘇聯時代的俄製 T-80 坦克。

緊接著,操作員直接問 AI 該怎麼打。AIP 迅速生成了三套打擊方案:派 F-16 戰鬥機空襲、呼叫遠端火炮,或者用「標槍」反坦克導彈攻擊。

系統甚至還能自動統計附近友軍手頭還剩幾枚「標槍」,並一鍵啟動對敵方的通訊干擾。操作員要做的事情,似乎只剩下了在螢幕上點選方案,順著指揮鏈提交審批。

包裝開源模型,靠許可權管理講故事

有意思的是,Palantir 並沒有自己從頭研發一套軍用大模型。它賣的更像是一個高度受控的執行環境,把現成的技術套進去。

演示中支援的模型五花八門,除了 GPT-4 這類商業模型,還包括 FLAN-T5 XL、微調版 GPT-NeoX-20B 以及 Dolly-v2-12b 等開源模型,再加上各種自定義外掛。

為了打消軍方的顧慮,Palantir 在影片後半段花了大把時間展示後臺架構,強調所謂的「安全三支柱」。

官方宣稱,AIP 能部署在機密網路和戰術邊緣裝置上,嚴格限制每個大模型能看什麼、不能做什麼。同時,系統會記錄下操作員的每一步數字痕跡,確保全程合規、可審計。

但演示並沒有解釋一個最根本的問題:如果底層大模型當場出現幻覺,虛構了敵情或者漏算了彈藥,所謂的許可權護欄到底能不能攔得住。

為什麼重要

對軍事和防務部門來說,AIP 確實踩中了痛點。現代戰爭的資料量早已超過人腦負荷,誰能把情報彙總、無人機排程和後勤盤點整合進同一個自然語言介面,誰就能大幅縮短決策時間。但現在就讓它參與生死決策,代價顯然高得驚人。

我們認為,Palantir 這一步走得極其精明,但也留下了巨大的隱患。聰明之處在於,它沒有陷在大模型的底層算力泥潭裡,而是利用自己常年服務軍政客戶的渠道優勢,把自己包裝成防務大模型唯一的「安全看門人」。

隱患在於,它把極其嚴肅的戰爭決策抽象成了一個簡單的對話氣泡。所謂「人在迴路」,在實際操作中很容易退化成操作員對 AI 建議的盲目點選同意。當大模型不可避免地胡說八道時,一套嚴格的數字審計記錄,並不能挽回前線因為錯誤指令而造成的實際傷亡。

來源 (1)

  1. [1]
    vice.com(在新分頁開啟)原文vice.com

每日 AI 內容精選