Google 开源 VaultGemma:首个差分隐私从头训练的 1B 模型
Google 联合 DeepMind 发布并开源 10 亿参数大模型 VaultGemma。它是目前从零开始采用差分隐私(DP)训练的最大开源模型,通过加噪防止记忆敏感数据。测试显示其未发生数据死记硬背,性能大致与同尺寸早期 GPT-2 相当。
Google 联合 DeepMind 发布并开源 10 亿参数大模型 VaultGemma。它是目前从零开始采用差分隐私(DP)训练的最大开源模型,通过加噪防止记忆敏感数据。测试显示其未发生数据死记硬背,性能大致与同尺寸早期 GPT-2 相当。
Google 正式发布开源药物研发模型集合 TxGemma。它基于 Gemma 2 微调,提供 2B、9B 和 27B 三种尺寸,包含专注属性预测的 predict 版和能解释推理的 chat 版。27B 预测版在 66 项任务中有 64 项追平或超越前代 Tx-LLM。
Google 推出视觉语言模型 PaliGemma 2。它基于 Gemma 2 打造,提供多种模型尺寸,具备视觉理解与交互能力。现有 PaliGemma 用户无需大改代码即可直接替换升级,大幅降低了针对特定任务微调视觉模型的门槛。
Google 开源 Gemma Scope,这是一套面向 Gemma 2 2B 与 9B 的稀疏自编码器工具包,包含 400 多个自编码器和超 3000 万个学到的特征。它相当于给大模型装上显微镜,帮助研究人员拆解模型内部运作,应对幻觉、欺骗等安全风险。
Google 正式发布新一代开源模型 Gemma 2,提供 9B 和 27B 两个版本。27B 性能直追两倍体量模型,能在单张 NVIDIA H100 或 TPU 上跑全精度推理;9B 则在同尺寸中压过 Llama 3。开发者以商业友好许可开源使用。
Google 宣布向所有开发者开放 Gemini 1.5 Pro 的 200 万 token 上下文窗口,无需排队。同时 Gemini API 与 Google AI Studio 上线代码执行沙箱,模型可动态生成并运行 Python 代码解算复杂推理,开源模型 Gemma 2 也同步加入 AI Studio。