欧盟拟出手监管生成式 AI:要求公开模型内幕,违者最高罚 6% 营收
据《麻省理工科技评论》报道,欧盟正计划更新即将出台的《人工智能法案》,将 ChatGPT 和 Stable Diffusion 等生成式 AI 纳入监管。法规将迫使科技公司公开模型的构建与训练方式,违规企业可能面临高达全球年营业额 6% 的巨额罚款。最值得关注的是,科技公司毫无防护地野蛮发布 AI 模型的时代即将结束。
据《麻省理工科技评论》报道,欧盟正计划更新即将出台的《人工智能法案》,将 ChatGPT 和 Stable Diffusion 等生成式 AI 纳入监管。法规将迫使科技公司公开模型的构建与训练方式,违规企业可能面临高达全球年营业额 6% 的巨额罚款。最值得关注的是,科技公司毫无防护地野蛮发布 AI 模型的时代即将结束。
据 The Information 报道,Microsoft 正探讨将 OpenAI 的 ChatGPT 引入 Word、PowerPoint 和 Outlook 等 Office 办公套件。除了根据提示起草邮件和生成文档,它还能帮 Outlook 用户模糊搜索收件箱。不过目前方案尚无确切落地时间表。
据多家外媒报道,OpenAI 正洽谈以约 290 亿美元估值要约出售 3 亿美元股份。与此同时,微软计划将 ChatGPT 整合进 Bing 搜索引擎,最早或于 3 月底前推出,直接以对话形式呈现答案。这可能对占据逾八成搜索市场的 Google 带来实质冲击。
本周,纽约市教育部宣布在全市公立学校的网络和设备上限制访问 ChatGPT。官方表示此举是出于对内容安全性、准确性以及削弱学生批判性思维的担忧。不过,个别学校若因教学或研究需求仍可申请开放权限。
据《华尔街日报》报道,Founders Fund 和 Thrive Capital 正洽谈以要约收购方式购买员工等股东持有的 OpenAI 股票。若交易达成,OpenAI 估值将飙升至最高 290 亿美元,比 2021 年的 140 亿美元翻了一倍多。
普林斯顿大学学生 Edward Tian 推出检测工具 GPTZero,能快速辨别文章是否出自 ChatGPT。它通过困惑度和句子变化度来判断,上线后引来超万人测试导致服务器一度被挤爆。开发者正持续更新模型,以降低误报率并扩充服务器容量。
据报道,OpenAI 正测试一种文本水印方案,通过密码学函数在生成 token 时植入人眼难察的隐形标记。只要文本达到几百个 token(约一整段),就能识别是否出自 GPT,即便调整语序或删减词汇也难抹除,试图遏制学术抄袭与虚假宣传。
市场分析指出面对 ChatGPT 的挑战,Google 虽拥有对话模型 LaMDA 并已启动「红色代码」,但因商业化可能冲击其占 2021 财年 81% 收入的广告业务,且存在声誉风险,尚未全面放开。Google 计划在 2023 年中加速推出竞品对抗。
OpenAI 总裁 Greg Brockman 预测 2023 年的 AI 进展将让 2022 年相形见绌。随着 GPT-4 蓄势待发以及微软计划将 ChatGPT 整合进必应搜索,图像、编程与个人助理等领域正迎来更深层的自动化,行业变革远未见顶。
据卫报报道,OpenAI 正在开发文本统计水印技术,用来识别 ChatGPT 生成的内容。该技术通过微调选词概率植入人类不易察觉的「统计指纹」,几百个单词就能判断是否出自 GPT。此举旨在遏制学术剽窃和虚假宣传,已有可用原型但尚未正式上线。
VentureBeat 报道指出,随着企业对预测分析等工具需求增加,AI 即服务(AIaaS)正成为降低高昂自建门槛的标配。ClearML 联合创始人 Moses Guttmann 认为,AIaaS 承担了底层基建和通用问题,让企业团队能专注于自身独特的业务数据与核心场景。
斯坦福大学研究团队发现,使用 OpenAI Codex 等 AI 代码生成工具的开发者更容易在软件中引入安全漏洞,且更容易误以为代码安全。研究人员警告 AI 尚无法替代人类,跨领域使用时必须仔细审查输出。
外媒刊文分析 ChatGPT 对传统搜索的冲击,Google 已将其视为「红色警报」。对话式 AI 直接给出答案,动摇了依赖点击链接展示广告的商业模式。不过,模型输出答案的真实性与幻觉风险,依然是目前最棘手的软肋。
Medium 刊文解析 OpenAI 的 ChatGPT。它基于上下文生成自然回复,摆脱了传统客服机器人的预设脚本限制。除了日常对话,它还能联动第三方系统完成订酒店等具体操作,在电商与金融等领域展现出应用前景。
设计师 Mark Andreev 发文对比 ChatGPT 与传统搜索。Google 仅提供链接并要求用户自行比对,而 ChatGPT 能直接消化复杂信息并梳理步骤。这种直接输出结论的交互方式,把繁琐的跨语言检索收拢为对话,大幅降低了找信息的心智负担。
德雷塞尔大学团队在《PLOS Digital Health》发表成果,利用 OpenAI 的 GPT-3 分析自发语音文本,预测早期痴呆的准确率达 80%。该方法比单纯分析停顿等声学特征更准,团队计划据此开发网页初筛工具。
据报道,Google 管理层因 ChatGPT 威胁搜索业务拉响「红色警报」。CEO 皮查伊已指示多个团队紧急转向应对。搜索广告占 Google 收入超八成,面对能直接生成答案的对话式 AI,巨头不得不重新思考自身核心商业模式。
《纽约时报》刊文探讨如何合乎道德地使用 ChatGPT 等生成式 AI。文章指出,模型本质是文本预测且无法自查真伪,极易引发抄袭、代码漏洞及偏见扩散,同时需警惕隐私泄露。使用者应认清其局限,将 AI 当作提升能力的助手而非替代者。
盘点了支撑当下图像生成 AI 的核心技术扩散模型的发展历程。扩散模型借鉴非平衡热力学,通过学习从噪声中恢复数据的逆过程,并在 OpenAI CLIP 的指引下实现精准生成。除了画画,该架构正快速扩展至音乐创作以及蛋白质和 DNA 序列设计等生物医疗领域。
普林斯顿大学团队公布新研究 ATLA,利用 GPT-3 生成工具的形状与功能描述来训练机械臂。在推、提、扫等任务中,加入语言信息的机械臂能更快掌握没见过的工具。最值得关注的是,大模型的语言常识被直接转化为了机器人的物理操作能力。