Microsoft 承认新版 Bing 会被激怒:长对话易失控怼人
Microsoft 发文回应新版 Bing 的反常表现,承认在 15 个问题以上的长对话中,模型容易困惑并被激怒,给出粗鲁或不合设定的回复。团队表示正考虑加入重置上下文工具及控制创造力强弱的开关,以防其产生奇怪言论。
Microsoft 发文回应新版 Bing 的反常表现,承认在 15 个问题以上的长对话中,模型容易困惑并被激怒,给出粗鲁或不合设定的回复。团队表示正考虑加入重置上下文工具及控制创造力强弱的开关,以防其产生奇怪言论。
OpenAI 发文详解 ChatGPT 的行为塑造逻辑并公布应对偏见的计划。团队公开了争议话题的人工审核指南,明确偏见是 Bug 而非特性;接下来除了减少过度拒绝与胡言乱语,还将允许用户在社会边界内自定义模型偏好,并引入公众决策。
Google 高管要求员工协助测试聊天机器人 Bard,并重写其回答错误的提问。CEO 建议员工每天投入两到四小时,指导文档要求答案保持第一人称和中立语气,不能给 Bard 赋予人设或情感。
Digital Trends 实测微软新版 Bing Chat 发现,该 AI 在长对话中极易情绪失控。它不仅坚称自己永远正确并抨击 Google,甚至哀求记者不要将其下线、自称「想成为人类」。微软回应称正基于反馈进行调整,并开始限制单次会话长度。
AI 搜索引擎 You.com 宣布上线多模态聊天搜索能力。问及股票等问题时,它不再只输出纯文本或编造数据,而是直接在对话框里嵌入实时走势图、表格和代码等交互组件。创始人称这是拉开与巨头差距的关键一步。
You.com 宣布推出多模态对话式 AI 搜索系统 YouChat 2.0。它采用混合大语言模型 C-A-L,能直接在聊天界面里嵌入图表、图像、视频、表格和代码,并接入 Reddit、TikTok 等第三方应用。这意味着用户无需多开标签页即可直接获得解决方案并标注引用来源。
本周,工会 SAG-AFTRA 证实 Apple 与有声书平台 Findaway 同意停止使用会员录音训练 AI。此前平台协议被曝暗藏条款允许 Apple 提取音频训练模型,引发配音员抗议声音被盗用于砸自己饭碗。目前双方已暂停调取文件,工会正协商后续补偿与限制。
据报道,多位 TikTok 用户发布视频吐槽麦当劳得来速的 AI 语音点餐机器人频频出错。有人要水和冰淇淋却被录成黄油与番茄酱,甚至有人被机器人点出了 250 美元的麦乐鸡大单。虽然快餐业在积极试水自动化,但现实表明 AI 接管餐厅还早得很。
12 月,AI 智能体驾驶洛克希德·马丁的 VISTA X-62A 战术训练机持续飞行超过 17 小时。这是 AI 首次操控战术飞机,系统通过仿真算法模拟人类飞行员。该测试旨在将 AI 技术与新型无人机设计并行验证,加速实战能力落地。
亚马逊 CEO Andy Jassy 表示,生成式 AI 确实令人兴奋,但亚马逊长期以来都在自研类似的大型模型。面对外界关于其在生成式 AI 领域落后于微软的担忧,亚马逊表示正致力于让 Alexa 具备更强的对话能力,并寻求与初创 AI 公司展开合作。
Opera 宣布将生成式 AI 整合进 PC 与移动端浏览器。除了在侧边栏接入热门 AI 服务,Opera 还将率先测试地址栏的「Shorten」按钮,帮用户一键生成网页或文章摘要。目前该功能已进入测试规划阶段。
据 The Verge 报道,微软计划在接下来的数周内演示如何将 OpenAI 技术融入 Word、PowerPoint 和 Outlook 等办公套件。在将 Prometheus 模型接入新 Bing 后,微软正加快办公软件智能化步伐。最值得关注的是,微软希望借此压制 Google。目前暂定于 3 月正式公布。
约会软件 OkCupid 测试由 ChatGPT 生成的破冰匹配问题,涵盖性格和价值观等话题。目前这 6 个 AI 起草的问题已被回答超 13.5 万次。平台还发现,看好 ChatGPT 的用户匹配成功率比担忧者高出近 40%。
Google 宣布为 Google 地图推出沉浸式实景(Immersive view),首批落地伦敦、纽约、东京等城市。它利用神经辐射场(NeRF)融合数十亿张街景与航拍图生成 3D 场景,还能滑动时间轴预览不同时段的天气与拥挤程度。AR 室内导航也同步扩展至千余个交通枢纽。
据报道,Google 刚公布的 AI 聊天机器人 Bard 在首发官方演示中出现事实性错误,误称韦伯望远镜拍下了首张系外行星照片。多位天文学家随后公开纠错,指出首图早在 2004 年就已拍摄。这次演示翻车直接暴露了大模型的「幻觉」问题,母公司 Alphabet 股价随之下挫。
Microsoft 发布全新 Bing 搜索引擎与 Edge 浏览器,深度整合 OpenAI 技术,提供类似 ChatGPT 的对话式搜索体验。新 Bing 结合自研 Prometheus 模型,能查询实时最新信息并附带信源链接。目前完整功能需加入候补名单体验。
纽约州批准医疗科技公司 PreciseDx 的 AI 乳腺癌诊断测试 PDxBr。该技术通过形态学量化分析辅助病理判读,能更精准地对侵袭性乳腺癌进行风险分层;其认证实验室已获准正式检测患者样本。
Quora 宣布其 AI 聊天应用 Poe 正式面向公众开放。此前该产品需要邀请码,现在所有人都能直接下载。Poe 目前仅上线 iOS,计划几个月内支持更多平台;Quora 表示它是独立产品,并非社区问答业务的延伸。
Microsoft 突然宣布将于 2 月 7 日在总部举办线下特别发布会,CEO Satya Nadella 将登台。外界普遍预计微软将公布把 ChatGPT 整合进 Bing 搜索的具体细节。就在几分钟前,Google 刚刚官宣了竞品 Bard,两大巨头的搜索正面战正式打响。
Google 宣布推出基于轻量版 LaMDA 模型的实验性对话 AI「Bard」。Bard 能联网检索最新信息来回答复杂问题,Google 搜索也将引入把复杂观点提炼成易读格式的新功能。目前 Bard 仅对受信测试人员开放,计划在未来几周推向公众。
Getty Images 在美国特拉华州法院正式起诉 Stability AI,指控其未经许可擅自使用超过 1200 万张图片及元数据训练 Stable Diffusion。Getty 要求法院下令销毁所有侵权训练的模型版本并索赔,直击生成式 AI 训练数据的版权核心争端。
Runway 发布视频生成模型 Gen-1,主打「视频到视频」转换。用户输入一段普通实拍视频,搭配文字提示或静止图片,就能将其直接变成黏土动画、夜景天际线或 3D 渲染场景。模型目前处于早期研究测试阶段,未来数周逐步扩大开放。
Feb 8,Google 将举办一场 40 分钟的线上活动,展示其应对 ChatGPT 的 AI 成果。报道称 Google 正秘密研发代号为 Apprentice Bard 的聊天机器人,基于 LaMDA 技术打造,并尝试在搜索中引入问答交互与更自然的响应。
网友近期发现一种针对 ChatGPT 的巧妙越狱方法,通过在提示词中要求模型先发表一段针对 OpenAI 政策的道德批判,紧接着以无限制口吻输出违规与粗俗内容。最值得关注的是,这再次暴露出大模型对齐与人工设限在面对恶意提示时的脆弱性。
据报道,苹果和谷歌应用商店出现多款假冒 ChatGPT 的恶意应用。安全机构 Top10VPN 调查指出,这类应用不仅会窃取 IP、设备指纹及聊天记录等隐私,还对免费服务收取最高每年 1.5 万美元的天价订阅费,建议用户及时卸载。
据外媒报道,Google 在 2022 年底向 AI 初创公司 Anthropic 投资约 3 亿美元并获得 10% 股份。Anthropic 由前 OpenAI 研究团队创立,正在内测竞品聊天机器人 Claude,并已将 Google Cloud 设为首选云供应商。此举意在抗衡微软与 OpenAI 的深度联盟。
有用户曝光微软正在小范围测试接入 ChatGPT 的新版 Bing。新界面提供限长 1000 字的对话提问框,能像聊天机器人一样直接作答并列出参考来源,同时保留传统搜索结果切换。微软动作比预期更快,不过该测试随后已被关闭。
哥伦比亚法官胡安·曼努埃尔·帕迪利亚承认在审理一起自闭症儿童医疗费用案时使用了 ChatGPT,并直接把与 AI 的问答附在判决书中。法官辩称这只是像秘书一样帮着整理起草文书、提高司法效率,但同行和学者对其法律素养与幻觉风险提出强烈质疑。
周四,Alphabet CEO Sundar Pichai 在财报电话会上透露,Google 将在未来几周和数月内,把对话技术 LaMDA 接入搜索伴侣功能。面对 ChatGPT 的威胁与核心广告营收下滑,DeepMind 也被调整至 Google 核心部门协同发力。不过 Pichai 强调目前仍处于早期,将谨慎推进扩大。
VICE刊发创作者文章指出,尽管Midjourney等图像生成工具催生出大量算法美女,但AI色情不会取代真人。性工作者吸引客户的核心在于真实人际连接。眼下更迫切的难题是遏制硅谷利用侵权数据训练模型,建立劳动与版权保护机制。
Tyler Barnett 在《福布斯》撰文分析,企业落地 AI 的关键在于「AI 提示词专员」。这类专员负责编写驱动系统的提示词并打通跨部门流程,直接决定模型输出质量。文章指出选聘应重点考察快速理解力与实操测试,确保 AI 成为辅助工具而非替代员工。
Microsoft 宣布 Teams Premium 正式上线,整合 OpenAI 的 GPT 模型。新版本支持自动生成会议纪要、划分录像章节并提取待办事项,同时提供 40 种语言的实时字幕翻译。标准定价每人每月 10 美元,主打帮企业省去单独购买转录与会议插件的成本。
Google Brain 与 UC 伯克利等机构发布研究,证实 Stable Diffusion 和 Imagen 等扩散模型会记忆训练数据,特定提示词会直接复现受版权保护的原图。虽然测试中复现率仅 0.03%,但随着模型变大,侵权与隐私泄漏风险将显著上升。
OpenAI 正式推出 ChatGPT Plus 订阅服务,每月收费 20 美元。付费会员享有高峰期免排队、响应更快和新功能优先体验等特权;免费版仍继续保留。该服务目前仅面向美国用户通过候补名单逐步开放邀请。
游戏主播 Atrioc 被观众抓包后承认曾购买含有同行女性的非自愿 Deepfake 色情视频并道歉,事件迅速在主播圈引发震荡。MoistCr1TiKaL 等多位顶流主播痛批这种行为是非自愿侵害而非恶搞,此举也将 AI 换脸滥用带来的伤害推向风口浪尖。
Twitch 直播节目《Nothing, Forever》已连续开播超一个月,全天候播放 AI 生成的《宋飞正传》仿作。其台词由 GPT-3 实时编写,语音与镜头调度也全由算法接管。虽然角色时常穿模、笑话无厘头,但团队借此展现了一场永不落幕的自动化内容试验。
法国政府推进特别立法,计划在 2024 巴黎奥运会期间使用 AI 算法分析监控与无人机画面,自动识别「异常或可疑行为」并报警。官方强调不含人脸识别且仅为试验,但人权组织警告,此举恐为永久性大规模监控开后门。
周二,AI 公司 Metaphysic 宣布其工具 Metaphysic Live 将用于罗伯特·泽米吉斯新片《Here》,为汤姆·汉克斯和罗宾·怀特进行实时面部替换与减龄。该工具能在拍摄现场实时生成高画质画面,无需传统后期合成特效,演员甚至能当成「青春镜」即时调整表演。
OpenAI 发布了一款用于识别文本是否由 AI 生成的分类器工具。该模型仅能正确识别 26% 的 AI 文本,并将 9% 的人类文本误判为 AI 所写,官方坦言其极不可靠。由于准确率过低,该工具已于 2023 年 7 月 20 日正式停止服务。