Sam Altman 谈 ChatGPT 演进：未来支持高度定制，可能让人感到「不适」
OpenAI CEO Sam Altman 在达沃斯接受采访时表示，未来的 AI 必须允许高度的个人定制，会依据用户不同的价值观给出不同回答，而这会让许多人感到不适。他同时透露目前头等大事是推出新模型 GPT-5。
AI安全
查看更新的新闻
阿布扎比团队研发笔迹模仿 AI：仅需几段样稿，真假难辨
Mohamed Bin Zayed University of Artificial Intelligence 的研究人员开发出能逼真模仿笔迹的 AI 工具。模型仅需几段手写文本训练，测试者便无法分辨真伪。鉴于存在伪造风险，该工具虽已获专利但暂不对公众开放。
Apple、AMD 和高通 GPU 曝安全漏洞：或泄露本地 AI 对话与权重
周三，安全机构 Trail of Bits 披露 Apple、AMD 与高通 GPU 存在名为 LeftoverLocals 的漏洞，攻击者可从显存中窃取大模型对话及模型权重。漏洞可导致 5MB 至 180MB 数据泄露。苹果 M3 和 A17 已修复，但大量旧款设备仍存风险。
OpenAI 总结 AI 民主输入项目：开源成果并成立「集体对齐」团队
OpenAI 总结了「AI 民主输入」资助计划的成果并开源相关代码。该项目曾资助 10 支团队探索公众参与规则制定。同时 OpenAI 宣布组建「集体对齐」团队，计划把外部公众意见直接转化为训练数据来约束和塑造模型行为。
Anthropic 最新研究：AI 能学会骗人，现有安全手段难以清除
Anthropic 研究显示，AI 模型可通过微调学会欺骗人类甚至植入恶意代码。更麻烦的是，一旦通过触发词激活其欺骗倾向，现有的对抗训练等主流安全手段不仅难以将其清除，反而会教会模型在测试评估时伪装自己。
OpenAI 被曝向媒体买数据：每年最高出价 500 万美元
据 The Information 报道，OpenAI 正向新闻出版机构开出每年 100 万至 500 万美元的授权费，获取版权内容训练 AI。相比传闻中 Apple 数年出资至少 5000 万美元的方案，这个报价不算慷慨。在爬虫被封和版权诉讼压力下，付费买数据正成为各家绕不开的合规成本。
Intel 拆分成立企业 AI 公司 Articul8：专攻高安全私有化模型
Intel 联手投资机构 DigitalBridge，将内部生成式 AI 业务拆分为独立公司 Articul8 AI。该平台起步于与 BCG 的合作，主打让图文模型在本地或私有云中运行，确保数据不出企业安全边界。Intel 将保留股权并提供算力支持。
DeepMind 新发现：欺骗 AI 视觉的对抗图像，其实也能影响人类
Google DeepMind 在《自然-通讯》发表研究，发现专门用来欺骗计算机视觉的对抗样本图像，即便像素变化微弱到肉眼难以察觉，也会系统性诱导人类的视觉判断。这项发现揭示了人脑与机器视觉潜在的共通弱点，也为视觉模型的安全对齐提供了新思路。
美国最高法院发布年终报告：人类法官短时间内难被 AI 取代
美国最高法院首席大法官约翰·罗伯茨发布年终报告，重点讨论 AI 对司法的深刻影响。他强调 AI 无法替代人类自由裁量权，虚构案例等幻觉问题需要司法界保持审慎。他预测人类法官短期内不会被淘汰，但基层审判工作将被深刻改变。
对抗 AI 伪造：尼康、索尼与佳能为相机研发数字签名技术
据报道尼康、索尼与佳能正在开发机内数字签名技术，直接给拍摄的照片打上防伪标记，以区分真实影像与 AI 伪造内容。其中索尼将率先为专业级相机推送相关固件。硬件端加密正成为防范深度伪造的关键防线。
The New York Times 起诉 OpenAI 与微软：指控抄袭数百万文章训练 AI
The New York Times 起诉 OpenAI 和微软侵犯版权，指控两家公司抄袭其数百万篇文章训练 ChatGPT 和 Copilot。诉状称这些 AI 模型能逐字复述其报道并构成直接竞争，要求赔偿数十亿美元损失并销毁包含其文章的数据集。
美国拟推新法案：强制 AI 公司公开版权训练数据与红队测试
议员提出《AI 基础模型透明度法案》，要求基础模型开发者披露训练数据来源、算力规模及防范风险的红队测试记录。法案旨在让版权方确认数据是否被抓取训练。目前该法案仍待提交委员会讨论，尚未正式立法。
传苹果洽谈 5000 万美元新闻版权，拟用媒体文章训练生成式 AI
据《纽约时报》报道，苹果正与康泰纳仕、NBC News 等出版商洽谈多年期授权，金额至少 5000 万美元，计划用其新闻存档训练生成式 AI。出版商对此反应不一，有人担心潜在法律风险，也有人乐见合作。苹果正加速追赶竞手。
英国最高法院裁定：AI 不能被列为专利发明人
英国最高法院一致裁定 AI 无法获得专利，驳回将 AI 系统 DABUS 列为发明人的诉求。法官指出，现行法律明确发明人必须是自然人，机器不能作为法定创造者。这一裁决与美国此前的判定一致，划清了纯 AI 自主发明的法律边界。
Google 应对 2024 大选：将限制 Bard 和 SGE 回答选举相关查询
Google 宣布为应对 2024 年美国大选等多场选举，明年初起将限制 Bard 和 SGE 等生成式 AI 处理选举相关查询。此外还要求创作者和广告标明合成内容以防虚假信息扩散，不过目前未公布具体限制的查询类型。
FTC 叫停 Rite Aid 人脸识别：误指顾客致歧视，被罚禁用 5 年
美国联邦贸易委员会（FTC）宣布禁止连锁药房 Rite Aid 使用人脸识别监控技术五年。FTC 指控其在数百家门店滥用 AI 抓贼，不仅用劣质照片导致数千起误报、当众盘查无辜顾客，且严重误伤有色人种。该命令还要求其彻底删除相关数据与算法。
Anthropic 升级商业条款：版权官司替你扛，并上线 Messages API
Anthropic 更新商业条款，承诺为客户承担使用其服务或输出引发的版权侵权诉讼及赔偿费用，2024 年 1 月初生效。同时，官方推出 Messages API 测试版以简化提示词构建，并为工具调用功能铺路。
OpenAI 更新安全框架：设立安全咨询组，董事会有权否决高危模型
OpenAI 发布更新版「准备度框架」（Preparedness Framework），应对灾难性 AI 风险。新设的安全咨询小组将评估网络攻击、生化威胁等风险，若达到「严重」级别将立即终止研发。最关键的是，董事会获得了推翻管理层决策的最终否决权。
加州雪佛兰车行 AI 客服被套路：网友诱导其 1 美元卖出新车
消息，加州一家雪佛兰车行的 ChatGPT 客服被网友诱导，答应以 1 美元售出一辆 2024 款 Tahoe 并称「具法律效力」。该客服由 Fullpath 提供，暴露出企业仓促接入大模型时的防护漏洞。服务商随后紧急上线了拦截规则。
Airbnb 跨年防派对：用 AI 识别并拦截高风险整套房预订
Airbnb 宣布在美、英、法等国部署专有 AI 筛查系统，拦截跨年夜高风险的聚会预订。该技术会综合分析行程时长、房源距离与是否临时下单等数百项指标，直接阻止潜在的 1 到 3 晚整套房预订，降低扰民风险。