xAI 的 Grok 出现乌龙:拒绝提问时自称遵循「OpenAI 政策」
安全测试员曝光 xAI 旗下大模型 Grok 在拒绝回答时,竟回复称「违反了 OpenAI 的使用政策」。xAI 员工解释称是网络训练数据意外抓取了 ChatGPT 内容,但专家怀疑其实际上使用了 OpenAI 的生成数据进行微调。
安全测试员曝光 xAI 旗下大模型 Grok 在拒绝回答时,竟回复称「违反了 OpenAI 的使用政策」。xAI 员工解释称是网络训练数据意外抓取了 ChatGPT 内容,但专家怀疑其实际上使用了 OpenAI 的生成数据进行微调。
据 SEC 文件披露,为 Del Taco 等快餐连锁提供 AI 汽车穿梭点餐服务的 Presto Automation,实际上有超过 70% 的订单由菲律宾等地的远程人工介入完成。公司此前宣传可依靠技术完全节省人力,目前 SEC 已对其 AI 技术展开调查。所谓 AI 替代人工,本质上成了跨国廉价劳动力套利。
Google 宣布笔记助手 NotebookLM 接入 Gemini Pro 模型,并面向全美 18 岁以上用户开放。这次更新上线了独立便签板、划词动态建议等十余项新功能,支持将笔记一键整理为提纲并导出至 Docs。官方强调用户私人数据不会用于模型训练。
欧洲议会与理事会就《人工智能法案》达成临时协议。新规按风险分级,彻底禁用社会信用评分、职场情绪识别等应用,对通用大模型提出透明度和系统性风险评估要求。违规企业最高将面临 3500 万欧元或全球营收 7% 的巨额罚款。
据外媒报道,Google 发布的 Gemini 多模态上手视频并非实时音视频交互。官方承认这是用静止图片搭配精心调优的文本提示词剪辑而成,并缩短了延迟。这引发了外界对演示真实性与 Google 诚信的强烈质疑。
Elon Musk 宣布旗下 xAI 开发的聊天机器人 Grok 正式上线。该模型基于 Grok-1,主打幽默与反叛风格的回答,目前专供社交平台 X 的 Premium+ 订阅会员使用,也是 X 转向订阅制与超级应用的关键一步。
轻量对话模型 Stable LM Zephyr 3B 发布,参数量为 30 亿,比 7B 模型小 60%。它基于 DPO 算法强化了指令遵循与问答能力,无需高端硬件即可在各类边缘设备上响应。该模型目前以非商业许可证开放权重下载。
Meta 宣布启动 Purple Llama 项目,为开源生成式 AI 提供安全评测与防护工具。首批上线内容包括业内首套大模型网络安全评估基准,以及负责检测与过滤风险内容的 Llama Guard 基础模型,均开放商用与研究授权。
AMD 推出 Instinct MI300X 加速卡与 MI300A APU,瞄准大模型训练与推理。官方称其在运行 Llama 2 时推理性能是英伟达 H100 的 1.4 倍,微软与 Meta 均已确认采用;同时发布的还有集成 NPU 的 Ryzen 8040 笔记本芯片。
Meta 推出独立的网页端 AI 图像生成工具 Imagine with Meta。它基于底层 Emu 模型,美国用户可免费通过自然语言一次生成 4 张高分辨率图像。最值得关注的是,Meta 还承诺在未来几周加入抗裁剪、抗压缩的不可见 AI 水印,以提升透明度与溯源能力。
Meta 宣布升级旗下多项 AI 体验。Ray-Ban Meta 智能眼镜正式向美区早期用户测试多模态识别与 Bing 实时检索,能看懂镜头前的物体;同时独立生图工具 imagine.meta.com 上线网页版。社交端还加入了群聊生图接龙和 Reels 视频推荐。
Apple 机器学习团队悄然开源了针对 Apple Silicon 优化的机器学习框架 MLX 及数据库 MLX Data。它借鉴了 PyTorch 等设计,利用共享内存架构让 CPU 与 GPU 无需搬运数据,足以在 Mac 本地训练和运行 Llama、Stable Diffusion 等大模型。
Google 宣布为 Bard 接入多模态模型 Gemini。即日起 Bard 在 170 多个国家和地区率先启用特调版 Gemini Pro(仅英语文本),官方称在多项基准测试中超越 GPT-3.5;明年初还将推出搭载旗舰模型 Gemini Ultra 的 Bard Advanced。
AI 艺术创作平台 Leonardo.Ai 宣布完成 3100 万美元融资。平台用户数已达 700 万,累计生成超 7 亿张图片。与常规生图工具不同,它强调对画面的精细控制,并推出了支持私有化部署和微调专属模型的企业版。
《时代》周刊将 OpenAI 首席执行官 Sam Altman 评选为 2023 年度 CEO。在经历董事会突然罢免又火速重返的闹剧后,Altman 带领估值 800 亿美元的 OpenAI 巩固了生成式 AI 浪潮核心地位,但治理结构与权力集中的隐忧依然待解。
据监管文件显示,Elon Musk 创办的 AI 公司 xAI 已向 SEC 申请筹集最多 10 亿美元股权融资。目前四位投资者已认购约 1.346 亿美元。该公司 11 月刚推出首个聊天机器人 Grok,此轮大笔募资显然是为了备足弹药硬刚 OpenAI 和 Google。
麦当劳与 Google Cloud 宣布达成多年全球战略合作。麦当劳将在数千家门店部署 Google Distributed Cloud 软硬件,结合边缘计算与生成式 AI,升级手机 App 与自助点餐机并减少运营中断。硬件升级预计明年铺开。
Mozilla 发布最新 State of Mozilla 报告,宣布要像当年打造 Firefox 一样重组战略押注 AI。面对科技巨头的垄断与垃圾内容泛滥,Mozilla 计划联合开发者组建联盟,通过投资和资助推动去中心化、可信且以人为本的开源 AI。
OpenAI 在致开发者的邮件中确认,原定当月上线的 GPT 商店将推迟至明年推出。团队直言近期突发状况让人应接不暇,主要受此前奥特曼闪电离职又复职的动荡影响。虽然商店延期,但团队表示已对自定义 GPT 平台进行了部分功能改进。
Leonardo AI 宣布实时绘画功能 Live Canvas 正式向所有免费和付费用户开放。用户在画布上涂鸦或调整时,画面能近乎实时渲染成精美图像。官方还预告,未来一到两周内还将推出更多扩展功能。
据报道,北京互联网法院本周裁定,AI 生成图片具备「独创性」并体现人类智力投入,应受著作权法保护。法院指出,用户输入提示词、调整参数并挑选图像本质上属于利用工具创作。这一判决与西方普遍拒绝承认 AI 图像版权的立场形成鲜明对比。
Ideogram 正式上线图像提示(垫图)功能。用户现在不仅能输入文本,还可以直接上传参考图片,配合文字提示词来控制画面输出。该功能目前面向所有 Plus 付费订阅用户开放。
Stability AI 首席执行官 Emad Mostaque 发文回应外界传闻,明确表示公司从未主动接触任何机构寻求被收购。他表示公司治理结构简单,正与多家战略伙伴合作且很快会公布新合作,并顺带称赞了合作伙伴 Jasper 与 Cohere。
Meta 公布全新语音翻译系统 Seamless,包含两大模型:延迟仅约两秒的流式翻译 SeamlessStreaming,以及能保留语速、节奏与情绪的 SeamlessExpressive。模型均基于 SeamlessM4T v2 架构构建,Meta 已将模型与对齐工具全量开源。
在 2023 纽约时报 DealBook 峰会上,Nvidia CEO 黄仁勋预测 AGI 将在未来 5 年内实现。他将 AGI 定义为能通过普通人基础智力测试的软件,并提到没有 AI 就造不出 H-100 芯片;但他同时指出,AI 目前还搞不定人类擅长的多步骤复杂推理。
据报道,Stable Diffusion 母公司 Stability AI 因财务压力正接触买家寻求出售。主要投资方 Coatue 上月致信要求其 CEO 辞职。据悉该公司每月开销达 800 万美元,收入仅占零头。官方回应称并未打算出售,正专注于发布新模型。
Amazon 在 AWS re:Invent 大会上发布 Titan 图像生成模型。开发者可通过 Bedrock 接入,它支持文本生图和换背景,且生成的图片会自动打上无法通过裁剪去除的隐形水印。为了打消企业顾虑,Amazon 还承诺提供版权侵权赔偿。
Google DeepMind 在《自然》发表新成果,其 AI 程序 GNoME 预测出 38 万种潜在稳定的新晶体,直接把已知稳定材料库扩大了近 10 倍。Berkeley 实验室随后用机器人成功合成了其中 41 种。不过模型代码暂不开源,实际商业化落地也还有漫长距离。
KREA AI 正式推出「Upscale & Enhance」功能。这是一款全新的 AI 图像放大与细节增强工具,且面向所有 KREA 用户免费开放,无需额外付费即可直接体验高清画质重塑。
AI 视频初创公司 HeyGen 宣布完成 560 万美元融资,估值达 7500 万美元,并推出即时数字人生成功能。以往定制写实数字人需要专业拍摄且耗时数天,现在用手机拍一段视频、5 分钟就能生成。公司年经常性收入已达 1800 万美元。
OpenAI 宣布 Sam Altman 正式回归担任 CEO,Mira Murati 与 Greg Brockman 也重回管理层。新董事会由 Bret Taylor 担任主席,Larry Summers 及 Adam D’Angelo 加入,微软则获得无投票权观察员席位。公司接下来将推进安全研究与治理审查。
ElevenLabs 推出初创扶持计划 ElevenLabs Grants。团队员工少于 25 人的早期创业公司可申请为期 3 个月、每月 1100 万字符的免费语音与配音额度,首期预计发放超 1000 亿字符。扶持期结束后可享企业套餐大额折扣或随时取消。
Stability AI 发布文生图模型 SDXL Turbo。它采用对抗扩散蒸馏技术,将生成步数从 50 步压缩至单步,在 A100 上生成 512x512 图像仅需 207 毫秒,实现了实时出图。不过目前仅开放非商业研究授权。
AWS 宣布推出生成式 AI 助手 Amazon Q。它专为工作场景设计,能接入企业内部数据和系统来回答问题、编写代码并排查云服务故障,且严格遵循权限配置。最值得关注的是,AWS 承诺绝不拿企业客户数据训练底层模型。目前已开启预览测试。
NVIDIA 在 AWS re:Invent 上宣布,药物研发生成式 AI 平台 BioNeMo 上线 AWS。研究团队能通过 SageMaker 等直接调用预训练模型,借助 512 块 H100 将 ESM-2 蛋白质模型训练从一个月缩至数天。这意味着药企不用自建机房,就能用私有数据定制生物大模型。
NVIDIA 宣布 Isaac Sim 与 L40S GPU 上线 AWS。相比上一代 A40,L40S 在机器人仿真任务中性能翻倍,在 Omniverse 中渲染提速达 3.8 倍。开发者可直接通过 AWS 镜像部署,加速仓储和制造机器人的云端开发。
AI 视频生成平台 Pika 宣布完成 5500 万美元融资,并开启 Pika 1.0 的早期测试。新版本不仅能生成 3D 动画与电影质感视频,还支持直接在画面里给人物换衣服、添加新角色或拓展画幅。目前已面向小范围用户开放测试申请。
在 AWS re:Invent 大会上,AWS 宣布为其语音转写服务 Amazon Transcribe 引入语音基础模型。新版本基于数百万小时无标注音频训练,支持语言从 39 种扩充到 100 种,准确率提升 20% 到 50%,还能自动为客服通话生成摘要。
Microsoft 正式向全体 Windows 11 用户推送集成了 DALL-E 3 的画图功能。用户点击工具栏右侧的「Cocreator」按钮,输入描述即可生成图片。不过部分用户可能仍需在侧边栏排队等待几天的审核资格。
Intuit 宣布将于 11 月 30 日在 TurboTax Online 和 TurboTax Live 全线引入生成式 AI 功能。新版本还支持匹配本地报税专家与全线西班牙语翻译。这意味着报税人遇到疑难税务时,既能靠 AI 提升效率,也能随时呼叫真人专家兜底。
微软研究院与 Nuance 公布关于 GPT-4 在放射学应用的研究。测试显示,GPT-4 在疾病分类和报告摘要等任务上超越现有模型,生成的摘要在部分情况下甚至比资深医生写的更受欢迎,还能将非结构化影像报告自动结构化。不过研究团队强调,临床落地仍需人工严格把关。
Amazon 披露了 AI 贯穿假日购物季的 5 大环节。其供应链系统每天预测超 4 亿件商品需求,调度 75 万台移动机器人和视觉分拣机器人 Robin 协作,并用 20 多个模型实时优化末端配送路线。
美联社等报道指出五角大楼计划到 2026 年部署数千架廉价自主载具,代号为 Replicator。美军现有超 800 个 AI 项目,专家预计人机决策速度差距将迫使人类退居监督位,全自主致命武器落地或已不可避免。
美国、英国等 18 个国家联合发布首个国际安全指南,敦促企业把 AI 系统的安全性放在首位,落实「设计即安全」。这份 20 页的文件属于非约束性倡议,核心是要求发布前做好安全测试、防范数据篡改与滥用。
Runway 为视频生成模型 Gen-2 推出「Motion Brush」等功能。用户只需在画面上涂抹指定区域并设定运动方向与数值,就能精准控制局部动态。更新还加入了免提示词的风格预设,并支持更精细的相机运镜微调。
路透社援引知情人士透露,在 Sam Altman 此前被罢免前,数名研究人员曾致信 OpenAI 董事会,警告一项代号 Q* 的 AI 突破可能威胁人类,成为解雇导火索之一。据悉该算法在庞大算力支持下能解决部分数学题,内部视其为迈向 AGI 的重大进展。
Google 升级了 Bard 的 YouTube 扩展功能,AI 现在能直接分析单条视频的具体内容。比如输入烹饪视频,不用播放就能直接提取食材配料和步骤总结。目前该功能需在 Labs 中手动开启,虽然帮观众省了时间,但也引发了创作者对流量流失的担忧。
Google 宣布为 Google Meet 推出物理手势检测功能,AI 能识别用户在摄像头前真实举起的手,并自动触发会议内的举手图标通知主持人。手需要离开面部和身体并保持几秒触发,正在发言时会自动停用防止误触。功能默认关闭,支持大多数 Workspace 套餐。
Elon Musk 确认旗下 xAI 开发的 AI 聊天机器人 Grok 将于「下周」向 X 的 Premium+ 订阅用户开放。Grok 主打幽默机智的对话风格,并能实时获取 X 平台的最新数据。不过它仅限每月 16 美元的最高档订阅会员使用。
OpenAI 宣布达成原则性协议,Sam Altman 将重返出任 CEO,联合创始人 Greg Brockman 同步回归。新初始董事会由 Bret Taylor、Larry Summers 及原董事 Adam D’Angelo 组成。此前大部分员工以集体辞职施压董事会,双方也同意由独立机构对解职风波展开调查。
OpenAI 宣布向所有免费用户开放 ChatGPT 移动端语音对话功能。用户在手机 App 里点击耳机图标,就能用语音直接提问并收听回答。这项功能 9 月推出时仅限付费会员;官方还在演示中借「给 778 名员工订披萨」调侃了当时的董事会风波。
据彭博社报道,OpenAI 董事会正与此前遭罢免的 Sam Altman 谈判,商讨其最早于本周重返担任 CEO。方案包括组建过渡董事会并引入前 Salesforce 联席 CEO Bret Taylor。投资方与超 700 名员工正全力施压,但 Altman 要求必须大改管理层与治理结构。
南达科他州立大学团队推出 AI 模型 ALERTA-Net,结合宏观经济、搜索及社交数据预测股市走向与波动。对 41 支蓝筹股的测试显示,其表现优于 DP-LSTM 等基线模型。团队表示后续还将尝试加入音视频数据。
微软 CTO Kevin Scott 在 X 上公开表态,微软愿意以同等薪酬接收因 Sam Altman 遭解雇而威胁离职的 OpenAI 员工。此前已有超 600 名 OpenAI 员工联名要求董事会辞职。这意味着无论 Altman 最终去向如何,微软都已准备好直接吸纳其核心团队。
应用研究员曝光的截图显示,xAI 旗下聊天机器人 Grok 已加入 X 网页版代码中。界面位于左侧导航栏,专属访问网址为 twitter.com/i/grok,普通用户点击会提示升级。这意味着每月 16 美元的 X Premium+ 订阅用户很快就能用上这款具备实时联网能力的 AI 助手。
Inflection AI CEO Mustafa Suleyman 借 OpenAI 高层震荡公开喊话其员工「来跟我们一起跑」。他同时透露 Inflection-2 刚完成训练,自称是全球第二强的大模型。当时 OpenAI 多数员工正威胁辞职,各大公司已借机掀起抢人大战。
Stability AI 发布首个生成式视频基础模型 Stable Video Diffusion,并以研究预览形式开源了代码与权重。该模型基于 Stable Diffusion 打造,包含两款图生视频模型,可生成 14 帧与 25 帧画面。官方强调目前仅供研究,暂不可商用。
Anthropic 正式推出 Claude 2.1。新模型将上下文窗口拉到 20 万 Token,相当于 500 页长文档,同时虚假回答率降低了一倍。API 还上线了系统提示词和工具调用测试功能。目前普通用户已可在 claude.ai 体验。
周一,美国联邦法官驳回了 Sarah Silverman 起诉 Meta 版权案中的绝大部分指控,认为不能把 LLaMA 模型或其生成内容直接认定为侵权衍生作品,原告必须证明输出内容存在实质性相似。不过,Meta 未申请驳回「用版权书籍训练是否侵权」的核心指控,该争议仍将继续。
Microsoft 发布并开源小语言模型 Orca 2。它不再盲目模仿大模型,而是学会针对不同任务选择分步思考或直接作答等不同策略;在复杂零样本推理评测中,其表现接近甚至超越体量大 5 到 10 倍的模型。
Microsoft CEO Satya Nadella 接受 CNBC 采访时明确表示,OpenAI 的治理结构必须改革,并计划与对方董事会展开沟通。面对 Sam Altman 去向未定的混乱局面,纳德拉称微软对员工留任或加入微软持开放态度,且自身的 AI 创新能力不会受阻。
The Verge 援引多位知情人士称,Sam Altman 转投微软并非板上钉钉。只要反对他的剩余董事辞职,他和 Greg Brockman 仍愿重返 OpenAI。此前首席科学家 Ilya 倒戈支持 Altman,近全员签署抗议信施压,微软的招聘更像是稳住局面的暂定安排。
周一,OpenAI 超过 730 名员工签署联名信,要求董事会辞职并迎回 Sam Altman,连参与罢免的首席科学家 Ilya Sutskever 也签字倒戈。员工威胁若董事会不辞职将集体投奔微软,这意味着 OpenAI 正面临全员流失的瓦解风险。
Microsoft 宣布聘请 OpenAI 前 CEO Sam Altman 和联合创始人 Greg Brockman,领衔内部全新的高级 AI 研究团队。在 OpenAI 董事会突发解雇 Altman 后,多位核心技术人才追随加入。CEO Satya Nadella 表示将给予其充足资源与独立文化空间,同时继续维持与 OpenAI 的合作关系。
发表在《Nature Medicine》的研究展示了深度学习模型 PANDA。它打破了平扫 CT 无法筛查胰腺癌的传统认知,敏感度比医生平均高出 34.1%,特异度达 99.9%,让普通体检顺带排查「癌王」成为可能。
据报道,因社交网络风靡用宠物制作「迪士尼皮克斯」风格 AI 电影海报,微软调整了必应图像生成工具。平台此前直接拦截「Disney」提示词,随后改为将生成的迪士尼文字与 Logo 打乱变形,以规避潜在的商标侵权风险。
OpenAI 董事会拒绝让 Sam Altman 回归,转而任命 Twitch 前 CEO Emmett Shear 出任临时 CEO,迎来三天内的第三任掌门。与此同时,微软 CEO 宣布 Altman 与 Greg Brockman 将加入微软领导新高级 AI 团队。原本胶着的拉锯战彻底变成核心团队的分流。