AI 教父 Hinton 敲警钟:我不信「好 AI」一定能压制「坏 AI」
在多伦多 Collision 大会上,「AI 教父」Geoffrey Hinton 表示,他不认为试图制止坏 AI 的好 AI 能掌握控制权。军工造杀人机器人、大模型拉大贫富差距都是现实威胁。虽然业内 DeepMind 和 Roblox 等高管态度乐观,但 Hinton 强调人类必须付出巨大代价来应对失控风险。
在多伦多 Collision 大会上,「AI 教父」Geoffrey Hinton 表示,他不认为试图制止坏 AI 的好 AI 能掌握控制权。军工造杀人机器人、大模型拉大贫富差距都是现实威胁。虽然业内 DeepMind 和 Roblox 等高管态度乐观,但 Hinton 强调人类必须付出巨大代价来应对失控风险。
6 月底,多位独立开发者透露 Valve 开始在 Steam 上拒审含 AI 生成素材的游戏。Valve 在驳回信中表示,除非开发者能证明自己拥有 AI 训练集所用全部 IP 的版权,否则因法律所有权不明确无法发行。目前官方指南尚未正式更新该规则。
周三,一家加州律所在联邦法院对 OpenAI 发起集体诉讼。诉状指控 OpenAI 大规模抓取互联网公开数据训练 ChatGPT,侵犯了海量网民的版权和隐私,并以此谋取商业利益。原告方希望法院对 AI 训练设立合规防线,并为被使用数据的人争取补偿。
OpenAI 宣布在 iOS 和 Android 移动端上线「Browse with Bing」联网功能,面向 Plus 订阅用户开放。开启后模型能通过 Bing 检索突破 2021 年知识库限制获取最新时事。不过搜索入口被完全绑定在 Bing,用户暂时无法选择其他搜索引擎。
周二,百度发布大模型 ERNIE 3.5。测试显示该模型在中文等基准测试中超过 ChatGPT 与 GPT 4,并在推理和代码能力上全面提升。新版本还支持插件功能,已集成百度搜索。不过在由美国大学开发的综合测试中,其成绩仍有差距。
The Verge 联合 Vox Media 发布对 2000 多名美国成年人的调查结果。数据显示仅三分之一受访者试用过专用 AI 工具,使用场景以问答和头脑风暴为主。最值得关注的是,76% 的人支持立法监管 AI 开发,大众对这项技术既充满期待又深感担忧。
Google DeepMind CEO Demis Hassabis 透露,团队正在研发下一代大模型 Gemini。该模型将结合 AlphaGo 擅长的强化学习与树搜索技术,赋予 AI 规划和解决复杂问题的能力,研发成本或达数千万至上亿美元,目标直指超越 ChatGPT 及其背后的 GPT-4。
网络安全公司 Group-IB 报告称暗网出现超 10 万个 ChatGPT 账号凭据。OpenAI 随后回应表示,这并非平台自身被攻破,而是用户设备感染了窃密木马所致。由于系统默认保留聊天记录,一旦凭据泄露,商业机密和私密代码可能直接曝光。
EPFL 研究发现,Amazon Mechanical Turk 上 33% 到 46% 的零工标注员正使用 ChatGPT 代工完成标注。这种用 AI 生成数据再训 AI 的做法可能放大错误与幻觉,且极难追溯。目前行业仍缺乏区分人机标注的有效手段。
导演克里斯托弗·诺兰接受 WIRED 专访时表示,AI 最大的危险是人们赋予它神一样的属性、借此逃避自身责任。他直言科技巨头主动呼吁监管只是老套的推责伎俩,研发者不能指望根本搞不懂技术的政客来替自己兜底。
Mercedes-Benz 宣布在美国启动测试,通过 Microsoft Azure OpenAI Service 将 ChatGPT 接入 MBUX 语音系统。除了开关车窗和导航,它还能自然对答应答、推荐菜谱或介绍沿途景点。对话数据会经官方云端脱敏存储。
在德国新教大会期间,一场由 ChatGPT 主导的礼拜吸引了 300 多人到场。长达 40 分钟的布道词、祷告和音乐有 98% 由 AI 生成,屏幕上的虚拟人负责念诵。现场信徒反应两极,有人觉得流畅,也有人抱怨面无表情、缺少灵魂。
OpenAI 发布 ChatGPT iOS 应用重大更新,正式带来原生 iPad 界面与分屏拖拽支持。新版还打通了 Siri 与快捷指令,用户可以把常用 Prompt 做成自动化流,或用语音直接唤出 ChatGPT 处理任务。
堪萨斯大学团队训练出一种机器学习算法,专门识别 ChatGPT 撰写的学术论文,整篇识别准确率达 100%,段落级达 92%。它主要通过词汇丰富度、段落长度和标点差异来判别。不过测试样本量较小,对人类微调过的文本识别能力仍存疑。
OpenAI 遭遇首起针对 ChatGPT 生成虚假信息的诽谤诉讼。乔治亚州一名电台主持人起诉称,ChatGPT 在总结案件时凭空捏造其贪污逾 500 万美元。这起诉讼将检验 AI 捏造虚假信息是否适用于平台免责保护。
Apple CEO Tim Cook 在采访中透露自己平时也在用 ChatGPT,并表示苹果正密切关注该技术。他指出大语言模型很有前景,但也存在偏见与虚假信息等隐患;由于技术演进太快让法律监管很难跟上,AI 公司自身必须承担起伦理自律的责任。
Snapchat 面向 Snapchat+ 订阅用户推出 My AI Snaps 功能。用户像给好友发 Snap 一样发照片给 My AI,就能收到 AI 生成的图片回复,底层接入了 ChatGPT 与 GPT-4。不过目前它对相册照片的理解有限,且仅支持移动端。
Instacart 推出由 ChatGPT 支持的搜索工具「Ask Instacart」。用户可以直接在搜索框询问配菜建议、替代食材或饮食禁忌,系统会结合历史偏好直接推荐商品,即日起向美加用户逐步开放。
纽约一名律师在诉讼中借助 ChatGPT 查找判例,因大模型严重幻觉引用了 6 起凭空捏造的案件。在法官要求提供判决书时,他竟再次用 ChatGPT 编造全文并截图提交。目前联邦法官已下达命令,涉事律师面临违规制裁听证。
OpenAI CEO Sam Altman 周三在伦敦表示,若无法满足欧盟《人工智能法案》的要求,公司可能会停止在欧盟运营。他质疑将 ChatGPT 等大模型列为「高风险」的做法,强调会尽力配合但存在技术极限。