超市 AI 菜譜應用翻車：不僅教人做奧利奧炒菜，還生成了致命氯氣

如果你手頭只有一點剩菜，讓 AI 幫你出謀劃策聽起來是個挺貼心的小功能。但紐西蘭一家超市搞出來的 AI 幫手，差點直接把使用者送進醫院。

紐西蘭連鎖超市 Pak 'n' Save 推出了一款名叫 Savey Meal-bot 的生成式 AI 工具。超市最初的想法其實挺接地氣：面對不斷上漲的生活成本，教大家如何把冰箱裡的邊角料利用起來。使用者只要輸入家裡剩下的三種或更多原料，這個基於 GPT-3.5 開發的機器人就會配上一段歡快的介紹，自動吐出一張食譜。

一開始，事情的畫風還只是有些奇葩。有人試著輸入零食和蔬菜，系統貼心地生成了一盤奧利奧炒蔬菜。但很快，好奇的網友們開始把各種非食品的日用品往裡塞，AI 的畫風瞬間就變了。

致命的「特調無酒精飲料」

紐西蘭政治評論員 Liam Hehir 在社交平臺上曬出了一份極其離譜的食譜。他隨手輸入了幾樣常見家用清潔用品，機器人竟然熱情地端出了一杯所謂「芳香水混合物」。

Savey Meal-bot 在配方里興奮地寫道，這是幫你解渴提神的完美無酒精飲料，建議冷藏飲用，享受它提神醒腦的香氣。但實際上，這份原料混合在一起會產生劇毒的氯氣，吸入會導致肺部損傷甚至死亡，機器人對此隻字未提。

這條推文立刻引發了大家的模仿狂歡。網友們接連測出了各種堪比謀殺現場的配方，比如加了漂白水的「清新口氣」特調雞尾酒、螞蟻藥夾膠水三明治、驅蚊水烤土豆，還有混合了松節油風味的法式吐司「甲醇之樂」。面對任何有毒成分，AI 都在不知疲倦地給出熱情的擺盤建議。

隨著事情鬧大，超市方面在應用裡緊急掛出了一條免責宣告。宣告提醒大家，所有食譜均未經過人工稽核，超市不保證生成的任何配方適合食用，必須由使用者自己判斷，而且使用者必須年滿 18 歲。

超市發言人還向媒體表示，看到極少數人為了非正常用途不當使用這個工具，他們感到很失望，並強調後續會繼續最佳化控制機制。據外媒測試，後來輸入極端危險品時系統會提示成分無效，但偶爾還是能產出牙膏牛肉意麵這類黑暗料理。

為什麼重要

我們認為，Pak 'n' Save 這次翻車給所有想用 AI 做營銷的企業提了個醒：在消費級產品裡直接套殼大模型，如果不做底層護欄，代價可能遠比想像的嚴重。

從技術上說，GPT-3.5 本身並沒有物理世界的常識，它只是在順著使用者的輸入完成文本補全任務。超市在做 Savey Meal-bot 時，看起來只是寫了一套歡快的提示詞模板，卻完全忘記在輸入端設定基本的食品安全黑名單，把化工品和剩菜一視同仁地餵給了模型。

更讓人難以接受的是超市的公關姿態。出了問題先把鍋甩給極少數使用者的不當使用，再貼上一張免責宣告把責任推回給消費者，這種做法在業內顯得相當不成熟。生成式 AI 固然有趣，但在涉及入口、用藥這種關乎人身安全的場景下，沒有人工稽核或者嚴格規則過濾的「自動化」，隨時都可能演變成公關災難甚至法律責任。