Hugging Face 開源模型進駐 Amazon Bedrock:83 款模型直接部署
Hugging Face 宣佈其 83 款熱門開源模型上線 Amazon Bedrock Marketplace。底層端點由 SageMaker JumpStart 託管,可無縫接入 Bedrock 的 Agents、知識庫與護欄等 API。開發者只需支付 SageMaker 算力與標準 Bedrock API 費用。
Hugging Face 宣佈其 83 款熱門開源模型上線 Amazon Bedrock Marketplace。底層端點由 SageMaker JumpStart 託管,可無縫接入 Bedrock 的 Agents、知識庫與護欄等 API。開發者只需支付 SageMaker 算力與標準 Bedrock API 費用。
Apple 在 AWS re:Invent 上透露,其搜尋等服務已採用亞馬遜 Inferentia 與 Graviton 晶片,使效率提升 40%。蘋果目前還在評估最新款 Trainium2 晶片,預計預訓練效率可提升高達 50%,未來有望用於訓練 Apple Intelligence。
在 re:Invent 大會上,Amazon 宣佈與 Anthropic 聯手打造超算 Project Rainer,將配備數十萬顆自研 Trainium 2 晶片,規模達 Anthropic 現役最強叢集的 5 倍。AWS 稱該叢集比輝達方案便宜 30% 至 40%,同時還公佈了效能翻 4 倍的 Trainium 3。
Amazon 釋出新一代基礎模型家族 Amazon Nova,涵蓋 Micro、Lite、Pro 以及影像生成 Canvas 和影片生成 Reel。最值得關注的是,其在 Amazon Bedrock 上不僅響應速度最快,成本還比同級別頂尖模型直接砍掉至少 75%。
週日,AWS 在 re:Invent 上宣佈為雲聯絡中心 Amazon Connect 增加生成式 AI 功能。通過升級版助手 Amazon Q in Connect,企業無需程式設計就能構建動態自助客服,並支援內容護欄與客服評估。Fujitsu、Priceline 等已接入使用。
Cohere 推出企業級重排模型 Rerank 3.5,重點提升了複雜資料推理與多語言檢索能力。模型支援中文等 100 多種語言,在金融和電商基準測試中表現亮眼。最值得關注的是,它能有效降低 RAG 系統的幻覺率,目前已同步接入 Amazon Bedrock。
據 The Information 週三報道,Amazon 研發了代號為 Olympus 的多模態大模型,能處理文本、影像和影片,支援用文字搜尋影片中的特定瞬間。儘管亞馬遜剛向 Anthropic 追加了 40 億美元投資,但自研模型顯然是為了減少對 Claude 的依賴。該模型最早可能在下週的 AWS re:Invent 上公佈。
Amazon 宣佈向 Anthropic 追加投資 40 億美元,總投資額達到 80 億美元。Anthropic 將使用 AWS 的 Trainium 和 Inferentia 晶片訓練與部署前沿大模型,AWS 客戶也將獲得使用私有資料微調 Claude 的早期許可權。Amazon 仍為少數股東且無董事席位。
據外媒報道,Amazon 計劃在升級版 Alexa 中與 Uber、OpenTable、GrubHub 等建立深度 API 合作,直接替使用者完成訂餐打車全流程,而非純靠生成式 AI。訊息稱其計劃到明年第三季度吸納約 200 家合作伙伴。不過 Amazon 表示合作方案尚未最終敲定。
Amazon 旗下 Zoox 展示其完全定製的無人計程車,車內無方向盤和腳踏板,支援雙向行駛。該車計劃在未來數月內於拉斯維加斯率先開啟商業化載客。此前 11 月初,車隊已在舊金山和拉斯維加斯面向員工開放測試。
Stable Diffusion 3.5 Large 正式上線 Amazon SageMaker JumpStart。該模型擁有 80 億引數,可生成 100 萬畫素影像,並支援在 VPC 內部署以保護企業資料隱私。這也是自 2023 年 SDXL 1.0 以來該平臺引入的首個新 SD 模型。
據報道 Amazon 正洽談向 Anthropic 追加數十億美元投資。不過這筆交易帶有限制條件:Amazon 要求 Anthropic 改用其自研晶片來訓練 AI。儘管 Anthropic 更青睞 Nvidia 晶片,但在今年預計耗資超 27 億美元的資金壓力下,這筆注資可能很難拒絕。
Amazon 為 Prime Video 推出生成式 AI 功能 X-Ray Recaps,能為整季、單集甚至單集片段生成文字摘要。該功能結合字幕與畫面梳理關鍵劇情,並設定防劇透護欄。目前已在 Fire TV 裝置開啟 Beta 測試,首發支援其原創劇集。
Anthropic 正式推出 Claude 3.5 Haiku 模型。新模型在多項基準測試中超越上一代旗艦 Claude 3 Opus,但 API 價格比上一代上漲 4 倍,且首發不支援影像分析。舊版 Claude 3 Haiku 仍將繼續保留,供需要極致價效比和影像處理的使用者使用。
據彭博社報道,亞馬遜將大模型版 Alexa 推遲至 2025 年釋出。早期內測顯示新版回答囉嗦且響應遲緩,甚至連關燈、設鬧鐘等基礎家居操作都頻繁出錯。目前內測已被叫停,如何兼顧對話生成與穩定硬體控制成了最大瓶頸。
Anthropic 宣佈 Claude 3.5 Sonnet 接入 GitHub Copilot,開發者可在 VS Code 和網頁端直接切換使用。該模型在 SWE-bench Verified 榜單領先,底層由 Amazon Bedrock 驅動,未來幾週向所有 Copilot 使用者開放公測。
Amazon 釋出新款 Fire HD 8 平板,不僅把記憶體提升到 3GB,還塞進了生成式 AI 工具。新功能包括鍵盤內建的寫作輔助、Silk 瀏覽器的網頁摘要,以及用提示詞生成桌布。這些 AI 功能本月晚些時候也會下放給多款舊款 Fire 平板。
Figma 重新上線此前被叫停的 AI 應用生成功能,並更名為 First Draft。新版增加了線框圖等 4 套設計庫供挑選,支援更低偏見的原型生成。它利用 GPT-4 和 Amazon Titan 等現成模型組裝設計元件,目前正進行限量測試。
NVIDIA 宣佈加入美國政府發起的全球 AI 包容性夥伴關係(PGIAI)。NVIDIA 將為發展中國家的高校和開發者提供約 1000 萬美元的免費培訓、GPU 額度及軟硬體資助。最值得關注的是,該倡議旨在降低新興市場的 AI 算力門檻,推動本地化方案開發。
Amazon 在 Accelerate 大會上推出 Video Generator。該工具只需單張商品圖片,就能在 5 分鐘內生成 4 支 6 至 9 秒的 720p 影片廣告。商家無需額外成本即可自動生成營銷短片。目前僅向部分美國廣告主內測開放。