Hugging Face 开源模型进驻 Amazon Bedrock:83 款模型直接部署
Hugging Face 宣布其 83 款热门开源模型上线 Amazon Bedrock Marketplace。底层端点由 SageMaker JumpStart 托管,可无缝接入 Bedrock 的 Agents、知识库与护栏等 API。开发者只需支付 SageMaker 算力与标准 Bedrock API 费用。
Hugging Face 宣布其 83 款热门开源模型上线 Amazon Bedrock Marketplace。底层端点由 SageMaker JumpStart 托管,可无缝接入 Bedrock 的 Agents、知识库与护栏等 API。开发者只需支付 SageMaker 算力与标准 Bedrock API 费用。
Apple 在 AWS re:Invent 上透露,其搜索等服务已采用亚马逊 Inferentia 与 Graviton 芯片,使效率提升 40%。苹果目前还在评估最新款 Trainium2 芯片,预计预训练效率可提升高达 50%,未来有望用于训练 Apple Intelligence。
在 re:Invent 大会上,Amazon 宣布与 Anthropic 联手打造超算 Project Rainer,将配备数十万颗自研 Trainium 2 芯片,规模达 Anthropic 现役最强集群的 5 倍。AWS 称该集群比英伟达方案便宜 30% 至 40%,同时还公布了性能翻 4 倍的 Trainium 3。
Amazon 发布新一代基础模型家族 Amazon Nova,涵盖 Micro、Lite、Pro 以及图像生成 Canvas 和视频生成 Reel。最值得关注的是,其在 Amazon Bedrock 上不仅响应速度最快,成本还比同级别顶尖模型直接砍掉至少 75%。
周日,AWS 在 re:Invent 上宣布为云联络中心 Amazon Connect 增加生成式 AI 功能。通过升级版助手 Amazon Q in Connect,企业无需编程就能构建动态自助客服,并支持内容护栏与客服评估。Fujitsu、Priceline 等已接入使用。
Cohere 推出企业级重排模型 Rerank 3.5,重点提升了复杂数据推理与多语言检索能力。模型支持中文等 100 多种语言,在金融和电商基准测试中表现亮眼。最值得关注的是,它能有效降低 RAG 系统的幻觉率,目前已同步接入 Amazon Bedrock。
据 The Information 周三报道,Amazon 研发了代号为 Olympus 的多模态大模型,能处理文本、图像和视频,支持用文字搜索视频中的特定瞬间。尽管亚马逊刚向 Anthropic 追加了 40 亿美元投资,但自研模型显然是为了减少对 Claude 的依赖。该模型最早可能在下周的 AWS re:Invent 上公布。
Amazon 宣布向 Anthropic 追加投资 40 亿美元,总投资额达到 80 亿美元。Anthropic 将使用 AWS 的 Trainium 和 Inferentia 芯片训练与部署前沿大模型,AWS 客户也将获得使用私有数据微调 Claude 的早期权限。Amazon 仍为少数股东且无董事席位。
据外媒报道,Amazon 计划在升级版 Alexa 中与 Uber、OpenTable、GrubHub 等建立深度 API 合作,直接替用户完成订餐打车全流程,而非纯靠生成式 AI。消息称其计划到明年第三季度吸纳约 200 家合作伙伴。不过 Amazon 表示合作方案尚未最终敲定。
Amazon 旗下 Zoox 展示其完全定制的无人出租车,车内无方向盘和脚踏板,支持双向行驶。该车计划在未来数月内于拉斯维加斯率先开启商业化载客。此前 11 月初,车队已在旧金山和拉斯维加斯面向员工开放测试。
Stable Diffusion 3.5 Large 正式上线 Amazon SageMaker JumpStart。该模型拥有 80 亿参数,可生成 100 万像素图像,并支持在 VPC 内部署以保护企业数据隐私。这也是自 2023 年 SDXL 1.0 以来该平台引入的首个新 SD 模型。
据报道 Amazon 正洽谈向 Anthropic 追加数十亿美元投资。不过这笔交易带有限制条件:Amazon 要求 Anthropic 改用其自研芯片来训练 AI。尽管 Anthropic 更青睐 Nvidia 芯片,但在今年预计耗资超 27 亿美元的资金压力下,这笔注资可能很难拒绝。
Amazon 为 Prime Video 推出生成式 AI 功能 X-Ray Recaps,能为整季、单集甚至单集片段生成文字摘要。该功能结合字幕与画面梳理关键剧情,并设置防剧透护栏。目前已在 Fire TV 设备开启 Beta 测试,首发支持其原创剧集。
Anthropic 正式推出 Claude 3.5 Haiku 模型。新模型在多项基准测试中超越上一代旗舰 Claude 3 Opus,但 API 价格比上一代上涨 4 倍,且首发不支持图像分析。旧版 Claude 3 Haiku 仍将继续保留,供需要极致性价比和图像处理的用户使用。
据彭博社报道,亚马逊将大模型版 Alexa 推迟至 2025 年发布。早期内测显示新版回答啰嗦且响应迟缓,甚至连关灯、设闹钟等基础家居操作都频繁出错。目前内测已被叫停,如何兼顾对话生成与稳定硬件控制成了最大瓶颈。
Anthropic 宣布 Claude 3.5 Sonnet 接入 GitHub Copilot,开发者可在 VS Code 和网页端直接切换使用。该模型在 SWE-bench Verified 榜单领先,底层由 Amazon Bedrock 驱动,未来几周向所有 Copilot 用户开放公测。
Amazon 发布新款 Fire HD 8 平板,不仅把内存提升到 3GB,还塞进了生成式 AI 工具。新功能包括键盘内置的写作辅助、Silk 浏览器的网页摘要,以及用提示词生成壁纸。这些 AI 功能本月晚些时候也会下放给多款旧款 Fire 平板。
Figma 重新上线此前被叫停的 AI 应用生成功能,并更名为 First Draft。新版增加了线框图等 4 套设计库供挑选,支持更低偏见的原型生成。它利用 GPT-4 和 Amazon Titan 等现成模型组装设计组件,目前正进行限量测试。
NVIDIA 宣布加入美国政府发起的全球 AI 包容性伙伴关系(PGIAI)。NVIDIA 将为发展中国家的高校和开发者提供约 1000 万美元的免费培训、GPU 额度及软硬件资助。最值得关注的是,该倡议旨在降低新兴市场的 AI 算力门槛,推动本地化方案开发。
Amazon 在 Accelerate 大会上推出 Video Generator。该工具只需单张商品图片,就能在 5 分钟内生成 4 支 6 至 9 秒的 720p 视频广告。商家无需额外成本即可自动生成营销短片。目前仅向部分美国广告主内测开放。