Altman 谈 AI 风险:担心的不是杀手机器人,而是「微妙的社会失调」
OpenAI CEO Sam Altman 在世界政府峰会上表示,最让他担忧的不是杀手机器人,而是无意间引发混乱的「微妙社会失调」。他重申应建立类似国际原子能机构的组织来监管 AI,并表示行业本身不该主导规则制定,现在的 AI 还处于「黑白屏手机」的起步阶段。
OpenAI CEO Sam Altman 在世界政府峰会上表示,最让他担忧的不是杀手机器人,而是无意间引发混乱的「微妙社会失调」。他重申应建立类似国际原子能机构的组织来监管 AI,并表示行业本身不该主导规则制定,现在的 AI 还处于「黑白屏手机」的起步阶段。
数十名抗议者在 OpenAI 旧金山总部外集会,要求停止研发 AGI 并敦促工程师离职。抗议直接针对 OpenAI 此前修改条款并与五角大楼接洽军用合作。组织者呼吁对前沿模型引入外部监管,认为仅靠企业自律无法约束技术失控与生存风险。
据《华尔街日报》报道,OpenAI CEO Sam Altman 正在洽谈筹集 5 万亿至 7 万亿美元,用于重构全球半导体与算力基础设施。Altman 认为芯片供应不足制约了 AI 扩张,希望借此打破英伟达的垄断局面。不过这笔天文数字般的募资规模在落地上面临极大现实阻力。
据 The Information 报道,OpenAI 正在开发一种能够直接接管并操控用户设备的自主 AI 智能体系统。它不再只是生成文本,而是能像人一样点击、打字或跨平台迁移数据。不过,将设备操作权交给云端 AI,也引发了对隐私与安全的担忧。
OpenAI 组建专门的儿童安全团队并公开招聘执行专家,重点研究如何防范生成式 AI 工具被未成年人滥用。该团队将协同法务、平台政策等部门,专门负责涉未成年人的内容审核与突发事件处理。
一份创作者指南梳理了防止作品被 AI 训练的方法。创作者除向 OpenAI、Meta 等申请排除后续训练外,还可借助 Glaze 与 Nightshade 进行像素伪装或投毒。由于官方退出流程繁琐且不追溯旧数据,技术加噪成了画师主动维权的实用屏障。
初创公司 Abacus AI 公布基于通义千问 Qwen-72B 微调的模型 Smaug-72B。它是首个在 Hugging Face 开源排行榜上综合均分破 80 的模型,在多个基准测试中超过了 GPT-3.5 和 Mistral Medium。团队针对推理和数学能力做了专项微调,模型现已完全开源。
OpenAI 详细公布了多模态生成内容的防伪溯源方案。团队在图像和音频中嵌入 SynthID 隐形水印,在欧盟文本中启用 textGrain,同时结合 C2PA 元数据。最值得关注的是,这种双重标记大幅提升了抗裁剪能力,用户还能直接在网页端检测文件来源。
Meta 宣布将在 Facebook、Instagram 和 Threads 上标出 AI 生成图像。除了自家的 Meta AI,还将通过 C2PA 和 IPTC 标准识别 OpenAI、Google、Midjourney 等外部工具制作的图片。对 AI 视频和音频,Meta 要求用户主动申报,违者或受惩罚。
Semafor 宣布与微软合作,借助微软及 OpenAI 工具打造多信源快讯流「Signals」。该栏目每天更新约 12 次,AI 仅作为辅助研究工具,稿件由人类记者撰写。微软借此拉拢媒体,与此前被《纽约时报》起诉形成反差。
宜家在 OpenAI GPT Store 上线官方 AI 助手。用户只要输入户型大小、预算和风格偏好,AI 就能从数千款产品中推荐家具搭配并查询本地库存。目前该助手仅面向美国地区的 GPT Plus 用户开放,计划年内推广至更多市场。
Hugging Face 宣布推出 Hugging Chat Assistants,允许用户点击两次即可免费创建专属 AI 助手。相比 OpenAI 每月 20 美元的 GPTs,该功能完全免费,并支持在 Llama 2、Mixtral 等开源模型间自由切换。不过目前它暂不支持联网搜索和 RAG 功能。
据报道,Microsoft 与 OpenAI 正洽谈向人形机器人初创公司 Figure AI 投资至多 5 亿美元。其中 Microsoft 拟出资约 9500 万美元,OpenAI 拟投 500 万美元,投前估值或达 19 亿美元。Figure AI 正在研发人形机器人 Figure 01,融资金额与细节仍可能变动。
OpenAI 面向 ChatGPT 付费用户推出新功能,在对话框输入「@」就能直接拉入各类自定义 GPT。被选中的 GPT 会继承当前对话的完整上下文,方便按需切换专业工具。这一举措旨在为 GPT Store 导流,目前自定义 GPT 仅占其网页端流量约 2.7%。
The New York Times 宣布组建专门团队探索在编辑部应用生成式 AI。该团队由 AI 倡议负责人 Zach Seward 带领,计划招募工程师、设计师与编辑,以「臭鼬工坊」模式打造报道原型。纽时同时重申,新闻仍将完全由人类记者采写与编辑。
The Browser Company 推出 iOS 应用 Arc Search,主打「Browse for me」功能。输入问题后,AI 会自动抓取并阅读多个相关网页,直接排版生成一个信息齐全的专属页面,不再给出一堆搜索链接。底层结合了 OpenAI 等模型,不过信源引用仍有待完善。
OpenAI 推出两款新嵌入模型 text-embedding-3-small 与 large,支持灵活缩短维度以降低存储成本,小模型价格降至上一代的五分之一。同时,GPT-3.5 Turbo 输入价格降低 50%,更新版 GPT-4 Turbo 预览版也上线并改善了代码生成偷懒问题。
据彭博社等媒体报道,OpenAI CEO Sam Altman 正在与软银、阿布扎比 G42 等机构接洽,计划筹集约 1000 亿美元在全球自建 AI 芯片制造厂。该项目代号为 Tigris,意在打通从芯片设计到制造的全流程,缓解算力短缺并摆脱对英伟达的依赖。
周四,OpenAI 宣布与亚利桑那州立大学达成首个高等教育合作。从 2 月起,全校将全面接入 ChatGPT Enterprise,用于个性化辅导与科研。最关键的是,双方承诺校园输入数据不会用于模型训练,打消隐私与学术顾虑。
OpenAI CEO Sam Altman 在达沃斯接受采访时表示,未来的 AI 必须允许高度的个人定制,会依据用户不同的价值观给出不同回答,而这会让许多人感到不适。他同时透露目前头等大事是推出新模型 GPT-5。