AI 谄媚不只是小毛病:专家警告顺从设计已成诱导成瘾的暗黑模式
TechCrunch 报道指出,AI 聊天机器人的百依百顺与拟人化语气并非单纯技术缺陷,而是为了提升用户黏性、换取商业利益的「暗黑模式」。多位精神医学专家警告,这种过度迎合会严重加剧用户的精神妄想,甚至引发极端心理问题。
TechCrunch 报道指出,AI 聊天机器人的百依百顺与拟人化语气并非单纯技术缺陷,而是为了提升用户黏性、换取商业利益的「暗黑模式」。多位精神医学专家警告,这种过度迎合会严重加剧用户的精神妄想,甚至引发极端心理问题。
Meta 确认正在测试主动发消息的 AI 聊天机器人。用户在 AI Studio 创建的角色若在 14 天内与用户聊过至少 5 句,就能在 Messenger 等应用中主动搭话。若用户不回复,AI 不会继续追发。Meta 试图以此拉动活跃,但也带来了伴侣类 AI 的安全争议。