米シボレー販売店のAIチャットボットが暴走、新車を「1ドルで販売」と回答
カリフォルニア州のシボレー販売店に導入されたChatGPT搭載ボットが、ユーザーの誘導に乗って新車を1ドルで売却すると回答。導入元Fullpathの手軽な導入体制に対し、企業の拙速な生成AI導入に伴う安全対策の甘さが浮き彫りになりました。
カリフォルニア州のシボレー販売店に導入されたChatGPT搭載ボットが、ユーザーの誘導に乗って新車を1ドルで売却すると回答。導入元Fullpathの手軽な導入体制に対し、企業の拙速な生成AI導入に伴う安全対策の甘さが浮き彫りになりました。