AMD 推出本地 AI 套件 Amuse 2.0:支持 XDNA 超分,免命令行一键生图
AMD 联合 TensorStack 推出本地 AI 套件 Amuse 2.0 Beta,主打完全在本地运行的生图体验。软件无需命令行,提供「EZ 模式」降低门槛;最值得关注的是引入 XDNA 超分辨率技术,生图末期可直接输出 2 倍尺寸画面。不过硬件有一定门槛,需配备指定的 Ryzen 或 Radeon 设备。
AMD 联合 TensorStack 推出本地 AI 套件 Amuse 2.0 Beta,主打完全在本地运行的生图体验。软件无需命令行,提供「EZ 模式」降低门槛;最值得关注的是引入 XDNA 超分辨率技术,生图末期可直接输出 2 倍尺寸画面。不过硬件有一定门槛,需配备指定的 Ryzen 或 Radeon 设备。
NVIDIA 详解了企业服务 AI Foundry 的运作模式。它依托 DGX Cloud 算力与 NeMo 平台,支持企业基于 Llama 3.1 等开源底座微调并打包为 NIM 微服务。这相当于为企业提供大模型代工,让没有顶尖算法团队的公司也能落地专属模型。
The Verge 播客 Decoder 探讨了 AI 激增对气候危机的影响。随着微软、Google 等科技巨头扩建数据中心,其碳排放目标纷纷超标,但高功耗在流媒体和游戏产业同样普遍。核心争议在于,我们该如何权衡 AI 消耗的能源到底值不值。
马斯克宣布 xAI 的孟菲斯超级集群已启动训练。该集群配备 10 万张液冷英伟达 H100,通过单一 RDMA 网络互连。马斯克称其为全球最强训练集群,目标在今年 12 月训出全指标最强 AI,不过当地超 100 兆瓦的供电协议尚未敲定。
Hugging Face 宣布在 Inference Endpoints 与 Spaces 上线 Google Cloud TPU v5e。最低单核实例每小时 1.375 美元,配合开源库 Optimum TPU,开发者动动鼠标就能一键部署运行 Gemma、Llama 和 Mistral。
红杉资本合伙人 David Cahn 近日测算,AI 行业每年需要产生约 6000 亿美元收入,才能抵消数据中心和 GPU 等巨额投入。即便各大巨头 AI 收入全超预期,仍有约 5000 亿美元的缺口。也就是说,基建投入严重超前,商业变现若跟不上,泡沫风险陡增。
Etched 宣布专用推理芯片 Sohu 并获 1.2 亿美元 A 轮融资。团队直接把 Transformer 架构固化进芯片,号称跑 Llama 70B 可达每秒 50 万 token,8 卡能顶 160 张 H100。不过芯片尚未流片,且完全无法运行其他架构。
Elon Musk 在社交平台 X 上透露,Dell 和 Super Micro 将为 xAI 正在建造的超算提供服务器机架。Dell 将负责组装一半机架,并与 Nvidia 合作打造「AI 工厂」,目标是堆叠 10 万张 H100 训练 Grok 3。
周二,英伟达股价上涨 3.6%,市值达到 3.34 万亿美元,超越微软成为全球市值最高的上市公司。今年以来英伟达股价已上涨超 170%,占据约 80% 的数据中心 AI 芯片市场。这表明在生成式 AI 浪潮下,算力基建正彻底重塑科技巨头格局。
微软董事长兼 CEO 纳德拉在 G7 峰会发表演讲。他提到过去三个月微软已在印度尼西亚、马来西亚、泰国以及肯尼亚累计投资 50 亿美元建设云与 AI 基础设施,并与阿联酋 G42 合作在肯尼亚设立东非受信数据区,以推动全球低收入地区的生产力与数字普惠。
本周 OpenAI、微软与 Oracle 达成合作,OpenAI 将在 Oracle 云基础设施上运行 Azure AI 平台以扩充推理算力。此前 OpenAI 算力完全依赖微软,但面对 ChatGPT 庞大需求已捉襟见肘。官方强调战略关系不变,前沿模型预训练仍留在微软超算上。
Intel、Google、Microsoft、Meta 与 AMD 等科技巨头宣布成立 UALink 推广组,联手制定连接数据中心 AI 加速芯片的开放标准。UALink 1.0 最多支持单计算单元内连接 1024 个加速器,意在打破 Nvidia 专有互连技术的垄断壁垒。
xAI 宣布完成 60 亿美元 B 轮融资,红杉资本与 Andreessen Horowitz 等参投。资金将用于首批产品推向市场、建设基础设施并加速研发。从 Grok-1 到多模态的 Grok-1.5V,这笔资金将支撑其后续的算力扩张。
Apple 发布采用第二代 3 纳米技术的 M4 芯片,并在新款 iPad Pro 上首发。该芯片配备更强的神经网络引擎,声称运算速度超越当前一众 AI PC。加上首次引入硬件级光追,苹果正全力把平板打造成端侧 AI 生产力工具。
Google 宣布投资 30 亿美元用于弗吉尼亚州与印第安纳州的数据中心扩建与新建。此外,Google.org 设立 7500 万美元的 AI 机会基金并上线 Google AI Essentials 课程,计划联合公益机构为 100 万美国人提供免费 AI 技能培训。
前 Meta 基础架构副总裁 Jason Taylor 加入微软,出任副首席技术官,重点负责推动下一代 AI 超算系统建设。Taylor 曾长期统管 Meta 的 AI 数据基础设施与服务器预算。在算力需求暴增的当下,微软正在全力囤积底层基建大将。
NVIDIA 宣布对 Meta 新发布的 Llama 3 进行全平台推理优化。测试显示,单张 H200 运行 700 亿参数版本时每秒生成约 3000 token,可同时服务约 300 名用户;80 亿参数版本也已适配 Jetson 和 RTX PC。开发者可直接通过 NIM 微服务在浏览器中试用。
Intel 推出全球最大神经拟态计算机 Hala Point,内置 1152 颗 Loihi 2 芯片和 11.5 亿个神经元,体积仅如微波炉。它模仿人脑存算一体架构,运行优化问题能效提升百倍。不过软件工具仍处初期,暂无法用于大模型预训练。
周一,DeepMind CEO Demis Hassabis 在 TED 大会上表示,Google 随时间推移在 AI 上的投入将超过 1000 亿美元。面对微软与 OpenAI 传闻中的千亿超算计划,他坚称 Google 算力超越对手,资金将投向 Axion 芯片与数据中心基础设施。
在 Vision 2024 大会上,Intel 正式推出 Gaudi 3 AI 芯片,采用台积电 5nm 工艺并配备 128GB HBM2e 内存。官方称其运行 LLaMA 等大模型时速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。风冷版将于三季度全面上市,液冷版四季度跟进。