如何用 ChatGPT 還能做個好人？《紐約時報》盤點使用邊界

前幾年大家還在拿 Siri 和 Alexa 的智障回答講笑話，短短幾個月過去，風向徹底變了。

上線沒多久的 ChatGPT 幾乎能接住你的任何話，寫商業計劃書、編睡前故事，甚至有人用它在程式設計比賽裡拿了獎；另一邊的 Lensa AI 也火得不行，只要傳幾張自拍，就能生成一套魔幻風格的數字頭像。興奮之餘，尷尬和麻煩也接踵而至。

《紐約時報》刊髮長文，專門給這股 AI 熱潮潑了盆冷水，系統梳理了普通人在嚐鮮時必須面對的倫理紅線。

學校裡的老師已經開始抓到學生用聊天機器人代寫作業。一些女性使用者在 Lensa 上傳普通自拍後，拿到的卻是衣衫不整、身材被過度性化甚至近乎裸體的畫像。電腦科學家、《人機對齊》一書作者 Brian Christian 提醒大家，我們正站在社會轉型的起點上，眼前最現實的麻煩就是：如果機器能搞定一切，家庭作業的未來在哪？

別被它的聰明騙了：本質只是個超級輸入法

要想避坑，首先得知道它到底是個什麼東西。

說白了，ChatGPT 並不是真懂邏輯，它本質上是你手機輸入法聯想功能的超級加強版。它靠著從網上扒下來的海量文本，計算下一個詞該接什麼，根本沒有自查事實真偽的能力。

聖菲研究所的 AI 研究員 Melanie Mitchell 點出了核心問題：這些模型太擅長偽裝，讓我們誤以為它理解的東西遠比實際多。如果你讓它解讀一本名著，而網路上恰好充斥著錯誤的二手觀點，它就會一本正經地拼湊出一篇看似合理實則謬誤的論文；一旦你把它發上網，就成了製造和傳播錯誤資訊的幫兇。

寫程式碼也是同理。AI 學習的是歷史程式碼，老程式碼裡潛藏的漏洞和已廢棄的寫法，機器統統照單全收。如果你直接把生成的程式碼塞進生產環境，搞不好就是在給自己挖坑。

面對專欄的求證，OpenAI 方面選擇了保持沉默，拒絕發表評論。

免費的面具，誰在支付代價？

圖片生成領域的麻煩只多不少，核心在偏見與版權。

許多女性在 Lensa 得到的性感化影像，並不是工程師故意使壞，而是因為訓練用的網路圖片本身就充滿了對女性的刻板偏見。正如 Lensa 母公司 Prisma Labs 發言人 Anna Green 的辯解：AI 只是給人類社會照了面鏡子。可問題是，這面鏡子會把原本的偏見加倍放大。

更尷尬的是版權。那些精緻的二次元頭像，背後融合了無數人類畫師公開發布的作品風格，而這些藝術家既拿不到一分錢報酬，甚至連署名權都沒有。

還有我們隨手交出去的資料。雖然 Prisma Labs 聲稱照片會在 24 小時後從伺服器刪除，但數字權益組織 Fight for the Future 的負責人 Evan Greer 警告大家：只要你上傳，就等於在給機器訓練更好的模型提供原料，你必須預設商業公司能夠看到這些隱私。

為什麼重要

生成式 AI 的能力門檻突然被踩平，大家第一反應都是拿它偷懶。但我們認為，這項技術目前最聰明也最安全的用法，是把它當成拓寬思路的打底工具，而不是最終拍板的決策者。

對普通打工人來說，用它搭個框架、理清郵件思路挺好，但千萬別直接複製貼上。一旦涉及到需要對真實性、安全性和法律責任兜底的事項，任何盲信都會把責任全算在你個人頭上。

從行業來看，這一輪爭議正在給所有 AI 廠商敲警鐘。靠無門檻收割網路資料、靠模糊版權政策快速起量的時代，很快就會迎來監管和輿論的反彈。資料來源的合法性與內容偏見的過濾能力，接下來會直接決定一款產品能不能走遠。

AI 改變生活已經不可逆，但守住道德底線的關鍵，依然在於人類自己願不願意保留最後一道校驗的耐心。