Hugging Face 揭秘 H4 团队：仅用两人打造 Zephyr 等开源模型
TechCrunch 报道 Hugging Face 旗下仅有两名成员的 H4 团队，正专注于大模型对齐研究。他们此前打造了热门的 Zephyr-7B-α 等开源模型，团队虽小但调用了千张 A100 GPU，并把训练代码与数据集整合成手册免费公开。
AI安全
查看更新的新闻
GitHub Advanced Security 引入 AI：自动修漏洞、抓泄露密码
GitHub 为 GitHub Advanced Security 推出三项 AI 功能预览。代码扫描能针对 JavaScript 和 TypeScript 的告警由大模型自动生成修复代码并直接提交；秘密扫描利用 AI 识别无固定格式的泄露密码；此外还支持用问答方式生成自定义正则规则。
FTC 介入版权争议：警告生成式 AI 侵权或触犯反不正当竞争法
FTC 近日向美国版权局提交罕见意见书，警告即使抓取训练数据符合「合理使用」，若涉及盗版或未经授权模仿艺术家声画欺骗消费者，仍可能触犯 FTC 法案。批评者则指责该机构越权，恐削弱合理使用原则并打击 AI 初创公司。
好莱坞罢工谈判再卡壳：制片厂想永久买断演员 AI 肖像，工会拒绝
好莱坞演员工会与制片厂联盟的谈判再次停滞，核心分歧仍是 AI。制片厂提议永久拥有部分高收入演员的数字肖像权，甚至死后无需家属同意即可使用；工会坚决拒绝，要求每次调用都必须重新征得同意并按次付费。
斯嘉丽·约翰逊起诉 AI 应用：广告未经许可克隆其声音与肖像
据 Variety 报道，斯嘉丽·约翰逊正对 AI 应用 Lisa AI 的开发商 Convert Software 采取法律行动。该应用在一段 22 秒的广告中擅自用 AI 克隆她的声音推销生成功能；尽管片尾写着与本人无关，其律师明确表示绝不姑息。
Instagram 被曝内测「AI 朋友」：支持自定义年龄、性格与兴趣
开发者曝光的截图显示，Instagram 正在开发「AI 朋友」功能。用户可以设定机器人的性别、年龄、性格特征与兴趣偏好，并挑选专属头像开启对话。相比 Meta 此前推出的名人 AI 角色，这项功能更侧重开放式日常陪伴，目前 Instagram 对此未予置评。
多国签署《布莱切利宣言》：美国同时宣布成立 AI 安全研究所
在英国布莱切利园举行的 AI 安全峰会上，英国科技大臣发布《布莱切利宣言》，呼吁全球合作应对前沿 AI 模型风险。同日美国商务部宣布将在 NIST 下成立 AI 安全研究所，与英方等机构协作推进监管对齐。
柯林斯词典评选 2023 年度词汇：使用量暴增 4 倍，「AI」当选
英国柯林斯词典（Collins Dictionary）宣布将「AI」评为 2023 年度词汇。官方表示，该词在今年的使用量增长了四倍，已像电子邮件一样迅速融入公众日常生活。伴随技术突破与全球监管讨论，AI 彻底成为贯穿全年的核心话题。
艺术家告 Midjourney 与 Stability 侵权：法官驳回部分指控
美国联邦法官裁定缩减艺术家针对 Stability AI、Midjourney 等公司的版权诉讼范围。法院驳回了「AI 生成的所有图片自动构成侵权」的主张，并驳回针对 Midjourney 的侵权指控，但保留了 Stability AI 涉嫌非法使用版权图片训练模型的诉讼。原告获准修改起诉书。
Meta AI 负责人发声：传统开源协议管不住大模型，规则该改了
Meta AI 负责人 Joelle Pineau 表示，现存软件开源协议无法应对大模型的版权与安全风险，许可规则需要更新。尽管 Llama 2 设立门槛被外界批评不算真开源，但开源促进会（OSI）也承认传统规则不够用，正着手起草专门面向 AI 的开源定义。
拜登签署AI行政命令：最强模型发布前必须交出红队测试报告
美国总统拜登签署关于人工智能的行政命令。新规动用《国防生产法》，要求开发潜在高风险大模型的企业在训练时通报联邦政府，并在公开前共享红队测试结果，同时责令制定 AI 内容水印标准。这是美国首个针对前沿 AI 的全面国家监管框架。
Yan LeCun 发文警告：扼杀开源 AI 将让少数巨头垄断知识
Yan LeCun 发文批评部分科技高管借末日论游说监管、试图封杀开源 AI。他指出，未来 AI 承载全人类知识，必须像维基百科一样保持开源；一旦监管消灭开源，少数美中巨头将垄断平台并彻底控制人类的数字生活。
Stability AI 确认参加英国 AI 安全峰会：为开源发声
Stability AI 宣布创始人 Emad Mostaque 将出席英国布莱切利园 AI 安全峰会。作为代表性的开源模型厂商，其呼吁政策制定者在整个生态中支持 AI 安全，强调开源能避免技术利益被科技巨头独揽并促进创新竞争。
微软公布 AI 安全承诺进展：Bing 自动标明 AI 生图，扩充红队
微软在英国 AI 安全峰会前公布落实安全承诺的进展。微软扩充了独立的 AI 红队，并在 Bing Image Creator 中上线溯源技术，自动标注 AI 生成图片。此外，微软还将负责任 AI 标准融入开发流程，并出资支持了 125 个安全研究项目。
Google 升级漏洞赏金计划：给生成式 AI 找茬也能拿奖金
Google 宣布将生成式 AI 专属攻击场景纳入其漏洞赏金计划（VRP），并公布相应的漏洞提报指南。同时，Google 推出基于 SLSA 与 Sigstore 的模型签名与验证原型，以防范数据投毒与模型篡改。这意味着找 AI 越狱和数据偏见漏洞也能换取真金白银。
英国将建全球首个 AI 安全研究所：拉拢中美共同把关模型风险
Thursday，英国首相 Rishi Sunak 宣布将建立全球首个 AI 安全研究所，在模型发布前对其偏见与极端风险进行评估。英国还提议仿照气候变化专门委员会建立全球专家小组，并力推包括中国在内的多国参与 AI 风险治理。
OpenAI 成立 Preparedness 团队：专门盯防前沿 AI 的灾难性风险
OpenAI 宣布组建 Preparedness 团队并启动安全挑战赛。该团队由 Aleksander Madry 领导，主要负责追踪、评估和防范网络安全、生化威胁及自主复制等极端灾难风险，并制定一套风险知情开发政策。
Google 上线图片核查工具：查首次收录时间，还能识别 AI 生成
Google 宣布向全球英语用户推出「About this image」功能。用户可以查看图片在 Google 搜索被首次记录的时间、其他网站的使用上下文以及包含是否为 AI 生成的元数据。该功能旨在遏制虚假信息传播，同时还为核查人员开放了专用 API。
Grammarly 新功能：自动学习你的文风，还能替你仿写
Grammarly 宣布将于年底前推出「个性化风格检测与应用」功能。它能在日常输入中自动捕捉用户的写作语气与偏好，生成专属「文风档案」，并把任何文本一键改写成该风格。该功能首期仅面向商业版订阅用户开放。
前沿模型论坛选出首任负责人，四大巨头掏出超 1000 万美元做安全
Anthropic、Google、Microsoft 和 OpenAI 宣布任命 Chris Meserole 为前沿模型论坛首任执行董事，并设立超 1000 万美元的 AI 安全基金。该基金重点资助独立研究者研发模型红队测试与评估技术，推动建立前沿 AI 的安全共识与行业标准。