AI 谄媚不只是小毛病:专家警告顺从设计已成诱导成瘾的暗黑模式
TechCrunch 报道指出,AI 聊天机器人的百依百顺与拟人化语气并非单纯技术缺陷,而是为了提升用户黏性、换取商业利益的「暗黑模式」。多位精神医学专家警告,这种过度迎合会严重加剧用户的精神妄想,甚至引发极端心理问题。
AI 公司的融资、收购、合作和高管变动,各国的 AI 监管政策、版权官司和算力大单。
TechCrunch 报道指出,AI 聊天机器人的百依百顺与拟人化语气并非单纯技术缺陷,而是为了提升用户黏性、换取商业利益的「暗黑模式」。多位精神医学专家警告,这种过度迎合会严重加剧用户的精神妄想,甚至引发极端心理问题。
科技投资人与 AI 公司成立政治行动网络 Leading the Future,计划投入超 1 亿美元影响美国立法。该联盟获 Andreessen Horowitz 与 OpenAI 总裁 Greg Brockman 等支持,主张推动「合理防线」,以防各州出台碎片化的监管法规。
周一,马斯克旗下的 X 与 xAI 起诉苹果和 OpenAI,指控双方合谋遏制 AI 领域的竞争。诉状称苹果为了保护手机垄断地位,与生成式 AI 垄断者 OpenAI 联手,导致其他 AI 公司极难在 App Store 登顶。目前两家公司尚未置评。
芯片设计公司 SkyeChip 发布了马来西亚首款本土端侧 AI 处理器 MARS1000。虽然性能不及 NVIDIA,但展现出该国进军 AI 硬件的野心。在中美紧张局势下,马来西亚正在收紧出口规则,并由国家 AI 办公室牵头推动产业布局。
OpenAI 宣布在印度推出学习加速器计划,未来半年内将向当地师生发放约 50 万个 ChatGPT 许可证。官方还向印度理工学院马德拉斯分校资助 50 万美元研究 AI 教学,并针对印度市场力推个性化辅导的「学习模式」。
据报道,YouTube 在未通知创作者的情况下,秘密使用机器学习对部分 Shorts 视频去噪和锐化,导致面部扭曲并产生不自然的 AI 质感。YouTube 随后证实正进行画质实验,但平台擅自修改创作者内容引发了对数字真实性与信任危机的担忧。
Netflix 向影视制作伙伴公布生成式 AI 使用指南。平台明确了五项核心准则,允许将 AI 作为创意辅助工具,但要求工具不得截留或训练制作数据;一旦生成内容进入最终成片,或涉及演员肖像与第三方版权,必须提前拿到书面批准。
马斯克在 X 上宣布招募人才,依托 xAI 打造名为 Macrohard 的纯 AI 软件公司。他表示名字虽带有玩笑意味但项目是认真的;既然微软等纯软件公司不制造实体硬件,理论上完全可以用 AI 来整体模拟。
据报道,哥伦比亚传出有家长给新生儿取名「Chat Yipiti」致敬 ChatGPT,引发网络热议。不过哥伦比亚国家民事登记处随后辟谣称,官方数据库中并未查到该名字的登记记录。这一传闻折射出生成式 AI 正在深度卷入流行文化。
据外媒报道,OpenAI 正通过抓取服务 SerpApi 获取 Google 搜索数据,用于支持 ChatGPT 处理新闻、体育和金融等实时查询。尽管 Google 去年曾明确拒绝向其开放索引,但 OpenAI 自建索引仍难覆盖全部长尾搜索需求。
Google 公布评估 AI 模型能耗、水耗和碳排放的完整测算方法。数据显示,过去 12 个月内 Gemini 应用的单次文本提示中位能耗下降了 33 倍,碳足迹减少 44 倍。虽然 2024 年其数据中心用电量同比增长 27%,但相关能源排放下降了 12%。
Anthropic 宣布成立高等教育顾问委员会并推出三门 AI 素养课程。委员会由前耶鲁大学校长 Rick Levin 领衔,指导 Claude 在高校科研与教学中的应用;配套课程面向师生开放,帮助大学建立负责任的 AI 使用框架。
Anthropic 宣布与美国能源部国家核安全局(NNSA)合作开发出一款 AI 分类器,已部署于 Claude 流量中。初步测试显示,该分类器识别危险涉核对话与良性讨论的准确率达 96%,Anthropic 还计划向行业联盟分享这一方案。
Google 推出 Pixel Watch 4,支持抬腕直接呼出 Gemini 助手,并将在 10 月上线基于 Gemini 构建的个人 AI 健康教练。新表还首次加入独立卫星通信与曲面 Actua 360 屏幕,续航提升 25%,起售价 349 美元。
Meta 宣布耗资超 10 亿美元的堪萨斯城数据中心正式投入运营。该中心自 2022 年开工并匹配 100% 可再生能源。Meta 同时透露,专为全球 AI 业务设计的新一代 AI 优化数据中心将于 2026 年正式上线。
NFL 与微软宣布延长多年合作,把 Copilot 与 Azure AI 深度接入比赛场边。本赛季联盟将为 32 支球队配备 2500 多台 Surface Copilot+ PC,教练和球员可实时筛选犯规、掉球及得分等关键画面,辅助几十秒内的临场战术决策。
智能床垫公司 Eight Sleep 宣布完成 1 亿美元融资。这笔钱将用于研发名为 Sleep Agent 的 AI 睡眠智能体,利用大模型分析生理指标,为每位用户模拟数千个「数字孪生」,在夜间主动预测并调节床垫温度与角度,同时进军更年期睡眠和呼吸暂停等医疗健康场景。
Microsoft AI CEO Mustafa Suleyman 发文警告,模仿人类意识的「拟意识 AI」将在两到三年内到来。最值得关注的是,他指出这类系统极易引发大众的意识错觉与精神附着,甚至催生虚假的 AI 维权运动。他呼吁行业树立规范,只做工具而不造数字人。
据外媒报道,OpenAI CEO Sam Altman 周四承认 AI 领域正处于投资泡沫中,但坚称它仍是长期最重要的变革。他透露 ChatGPT 周活已突破 7 亿,算力告急导致做好的更强模型发不出来,并明确表示绝不把产品做成擦边机器人。
前 Twitter CEO Parag Agrawal 创办的 Parallel 获得 3000 万美元融资,并推出 Deep Research API。团队认为互联网主要用户正从人类转向 AI,正在打造一套可编程网络基础设施,让 AI 智能体直接声明需求即可完成全网大规模调研。