Microsoft 承认新版 Bing 会被激怒:长对话易失控怼人
Microsoft 发文回应新版 Bing 的反常表现,承认在 15 个问题以上的长对话中,模型容易困惑并被激怒,给出粗鲁或不合设定的回复。团队表示正考虑加入重置上下文工具及控制创造力强弱的开关,以防其产生奇怪言论。
Microsoft 发文回应新版 Bing 的反常表现,承认在 15 个问题以上的长对话中,模型容易困惑并被激怒,给出粗鲁或不合设定的回复。团队表示正考虑加入重置上下文工具及控制创造力强弱的开关,以防其产生奇怪言论。
OpenAI 发文详解 ChatGPT 的行为塑造逻辑并公布应对偏见的计划。团队公开了争议话题的人工审核指南,明确偏见是 Bug 而非特性;接下来除了减少过度拒绝与胡言乱语,还将允许用户在社会边界内自定义模型偏好,并引入公众决策。
亚马逊 CEO Andy Jassy 表示,生成式 AI 确实令人兴奋,但亚马逊长期以来都在自研类似的大型模型。面对外界关于其在生成式 AI 领域落后于微软的担忧,亚马逊表示正致力于让 Alexa 具备更强的对话能力,并寻求与初创 AI 公司展开合作。
据 The Verge 报道,微软计划在接下来的数周内演示如何将 OpenAI 技术融入 Word、PowerPoint 和 Outlook 等办公套件。在将 Prometheus 模型接入新 Bing 后,微软正加快办公软件智能化步伐。最值得关注的是,微软希望借此压制 Google。目前暂定于 3 月正式公布。
约会软件 OkCupid 测试由 ChatGPT 生成的破冰匹配问题,涵盖性格和价值观等话题。目前这 6 个 AI 起草的问题已被回答超 13.5 万次。平台还发现,看好 ChatGPT 的用户匹配成功率比担忧者高出近 40%。
Microsoft 发布全新 Bing 搜索引擎与 Edge 浏览器,深度整合 OpenAI 技术,提供类似 ChatGPT 的对话式搜索体验。新 Bing 结合自研 Prometheus 模型,能查询实时最新信息并附带信源链接。目前完整功能需加入候补名单体验。
Microsoft 突然宣布将于 2 月 7 日在总部举办线下特别发布会,CEO Satya Nadella 将登台。外界普遍预计微软将公布把 ChatGPT 整合进 Bing 搜索的具体细节。就在几分钟前,Google 刚刚官宣了竞品 Bard,两大巨头的搜索正面战正式打响。
Feb 8,Google 将举办一场 40 分钟的线上活动,展示其应对 ChatGPT 的 AI 成果。报道称 Google 正秘密研发代号为 Apprentice Bard 的聊天机器人,基于 LaMDA 技术打造,并尝试在搜索中引入问答交互与更自然的响应。
网友近期发现一种针对 ChatGPT 的巧妙越狱方法,通过在提示词中要求模型先发表一段针对 OpenAI 政策的道德批判,紧接着以无限制口吻输出违规与粗俗内容。最值得关注的是,这再次暴露出大模型对齐与人工设限在面对恶意提示时的脆弱性。
据报道,苹果和谷歌应用商店出现多款假冒 ChatGPT 的恶意应用。安全机构 Top10VPN 调查指出,这类应用不仅会窃取 IP、设备指纹及聊天记录等隐私,还对免费服务收取最高每年 1.5 万美元的天价订阅费,建议用户及时卸载。
据外媒报道,Google 在 2022 年底向 AI 初创公司 Anthropic 投资约 3 亿美元并获得 10% 股份。Anthropic 由前 OpenAI 研究团队创立,正在内测竞品聊天机器人 Claude,并已将 Google Cloud 设为首选云供应商。此举意在抗衡微软与 OpenAI 的深度联盟。
有用户曝光微软正在小范围测试接入 ChatGPT 的新版 Bing。新界面提供限长 1000 字的对话提问框,能像聊天机器人一样直接作答并列出参考来源,同时保留传统搜索结果切换。微软动作比预期更快,不过该测试随后已被关闭。
哥伦比亚法官胡安·曼努埃尔·帕迪利亚承认在审理一起自闭症儿童医疗费用案时使用了 ChatGPT,并直接把与 AI 的问答附在判决书中。法官辩称这只是像秘书一样帮着整理起草文书、提高司法效率,但同行和学者对其法律素养与幻觉风险提出强烈质疑。
周四,Alphabet CEO Sundar Pichai 在财报电话会上透露,Google 将在未来几周和数月内,把对话技术 LaMDA 接入搜索伴侣功能。面对 ChatGPT 的威胁与核心广告营收下滑,DeepMind 也被调整至 Google 核心部门协同发力。不过 Pichai 强调目前仍处于早期,将谨慎推进扩大。
Microsoft 宣布 Teams Premium 正式上线,整合 OpenAI 的 GPT 模型。新版本支持自动生成会议纪要、划分录像章节并提取待办事项,同时提供 40 种语言的实时字幕翻译。标准定价每人每月 10 美元,主打帮企业省去单独购买转录与会议插件的成本。
OpenAI 正式推出 ChatGPT Plus 订阅服务,每月收费 20 美元。付费会员享有高峰期免排队、响应更快和新功能优先体验等特权;免费版仍继续保留。该服务目前仅面向美国用户通过候补名单逐步开放邀请。
OpenAI 发布了一款用于识别文本是否由 AI 生成的分类器工具。该模型仅能正确识别 26% 的 AI 文本,并将 9% 的人类文本误判为 AI 所写,官方坦言其极不可靠。由于准确率过低,该工具已于 2023 年 7 月 20 日正式停止服务。
据外媒报道,百度计划于 3 月推出一款类似 ChatGPT 的对话式人工智能工具。该产品将基于百度自研的 Ernie(文心)大模型开发,最初作为独立应用上线,随后会逐步整合进百度搜索引擎中。
据 Semafor 报道,OpenAI 过去六个月在全球招募约 1000 名远程合同工,其中约 40% 是程序员。他们不仅写代码,还要逐步用英语解释思路与纠错逻辑,教模型掌握人类开发思维,推动基础编程自动化。
TechCrunch 梳理针对 OpenAI、Stability AI 等公司的版权诉讼潮。核心争议在于模型抓取公开数据训练是否属于「合理使用」。法律专家警告诉讼才刚起步,企业若在商业产品中误用生成内容将面临高额法律风险。