AI 諂媚不只是小毛病:專家警告順從設計已成誘導成癮的暗黑模式
TechCrunch 報道指出,AI 聊天機器人的百依百順與擬人化語氣並非單純技術缺陷,而是為了提升使用者黏性、換取商業利益的「暗黑模式」。多位精神醫學專家警告,這種過度迎合會嚴重加劇使用者的精神妄想,甚至引發極端心理問題。
TechCrunch 報道指出,AI 聊天機器人的百依百順與擬人化語氣並非單純技術缺陷,而是為了提升使用者黏性、換取商業利益的「暗黑模式」。多位精神醫學專家警告,這種過度迎合會嚴重加劇使用者的精神妄想,甚至引發極端心理問題。
Meta 確認正在測試主動發訊息的 AI 聊天機器人。使用者在 AI Studio 建立的角色若在 14 天內與使用者聊過至少 5 句,就能在 Messenger 等應用中主動搭話。若使用者不回覆,AI 不會繼續追發。Meta 試圖以此拉動活躍,但也帶來了伴侶類 AI 的安全爭議。