Altman 談 AI 風險：擔心的不是殺手機器人，而是「微妙的社會失調」

大家聊起人工智慧的風險，腦子裡總會浮現科幻片裡的末日場景：拿著重武器的終結者走上街頭，或是超級系統突然有了意識決定消滅人類。

但作為這輪 AI 浪潮最前線的代表，OpenAI 執行長 Sam Altman 關心的完全不是這一套。

Altman 通過影片連線參加了在迪拜舉行的世界政府峰會（World Governments Summit）。在和阿聯酋人工智慧國務部長 Omar al-Olama 對談時，他直言那些讓他夜不能寐的事情，根本不是什麼「街頭亂竄的殺手機器人」。

惡意的敵人好防，無意的失調才要命

在 Altman 看來，真正可怕的是他口中「非常微妙的社會失調」（very subtle societal misalignments）。

說白了，沒有人懷著惡意，系統也沒有想要毀滅世界，但當這些 AI 工具被直接放到社會中運轉時，各種環環相扣的微妙偏差湊在一起，事情就莫名其妙地走向了徹底失控。

因為 AI 的進化速度大機率會超過全球的預期，Altman 再次呼籲國際社會建立一個類似國際原子能機構（IAEA）的組織，專門負責對前沿 AI 展開統一監督。

不過他也特別劃了條界線：OpenAI 這些商業公司自己不應該坐在監管的「駕駛座」上。他認為目前全世界開各種峰會、發各種政策白紙是健康的討論階段，但在未來幾年內，全球必須拿出一份真正具備共識的行動方案。

被問到眼下技術到底走到了哪一步時，Altman 打了個比方：現在的 AI 就好比當年剛造出來的黑白屏手機。大家得給技術一點時間，不過再過幾年它就會比現在好得多，十年後更是會非常驚人。

一個有趣的細節是，他提到之前學校裡很多老師擔心學生用 AI 代寫論文，現在反而開始把 AI 當作面向未來的關鍵技術來接受。

會場內外的溫差與現實糾葛

Altman 這場對話氣氛融洽，但現實背景其實複雜得多。

這場峰會的舉辦地阿聯酋言論管控嚴格，直接限制了準確資訊的流通，而這類高質量資訊恰恰是 ChatGPT 這類機器學習系統賴以回答的基礎。當地由國家安全顧問管轄的 AI 公司 G42 擁有領先的阿拉伯語模型，但此前曾因關聯間諜軟體以及涉嫌替中國政府秘密收集美國人基因資料的指控而飽受爭議。

雖然 G42 已經表態會因美方關切切斷與中國供應商的聯絡，但在峰會現場，主持對話的部長和 Altman 對這些尖銳的地緣政治話題都隻字未提。

與此同時，OpenAI 在本土的日子也算不上安穩。一邊是微軟數以十億計的鉅額投資，以及與美聯社達成的新聞資料庫授權協議；另一邊《紐約時報》已經直接把 OpenAI 和微軟告上法庭，指控兩家公司未經許可擅自抓取報道來訓練聊天機器人。

為什麼重要

Altman 這一番表態看起來像是在公關避重就輕，但從實際落地的角度看，我們認為他點出了一個關鍵事實：殺手模型是偽命題，演算法對社會機制的溫水煮青蛙才是真麻煩。

對普通使用者和機構來說，這提醒大家不要把精力放在防範那些不切實際的科幻災難上。真正的風險就藏在日常使用的誤差累積裡，比如被汙染的資料慢慢侵蝕決策、AI 幻覺在未經核實的情況下進入公共系統。

而在監管層面，Altman 主動說「AI 公司不該坐在駕駛座上」，看起來像是一種謙遜，但背後其實也是一種聰明的卸責策略。既呼籲全球建立像 IAEA 這樣高大上的機構來托底，又把燙手的具體監管責任推給各國政府。

問題在於，AI 技術的演進可不會等人。如果全球監管還停留在各自開會、寫檔案的階段，等黑白屏手機真正變成全能終端時，那種所謂的「社會失調」恐怕早就已經在現實裡紮下根了。