AMD 联手 Hugging Face:全面优化 CPU 与 GPU,transformers 接入 ROCm
AMD 正式加入 Hugging Face 硬件合作伙伴计划,双方合作优化 AMD 芯片上的大模型训练与推理。transformers 库将深度集成 ROCm SDK,让 LLaMA 等主流模型开箱即用。这为开发者在英伟达之外提供了更高性价比的硬件选择。
AMD 正式加入 Hugging Face 硬件合作伙伴计划,双方合作优化 AMD 芯片上的大模型训练与推理。transformers 库将深度集成 ROCm SDK,让 LLaMA 等主流模型开箱即用。这为开发者在英伟达之外提供了更高性价比的硬件选择。
Nvidia 盘中市值一度突破 1 万亿美元,成为首家触及该门槛的芯片巨头,不过随后涨幅收窄,收盘市值回落至 9900 亿美元。生成式 AI 爆发让其 GPU 成为硬通货,公司此前预测二季度销售额达 110 亿美元,比华尔街预期高出 50%。
Nvidia 股价飙升 27%,创下美股单日市值增长超 2000 亿美元的新纪录。最夸张的是指引:官方预计第二季度营收将达 110 亿美元,直接把华尔街预期的 72 亿甩在身后。黄仁勋表示,生成式 AI 正在引爆全球数据中心向加速计算升级,这场重构才刚刚起步。
周四,Meta 发布首款专为 AI 打造的自研芯片 MTIA。该芯片自 2020 年启动研发,采用 8×8 阵列架构并深度绑定 PyTorch,专攻深度学习推荐系统,每瓦能效最高达 GPU 的三倍。不过面对更复杂的神经网络时它仍逊于 GPU。
据彭博社报道,微软正与 AMD 合作提升其 GPU 处理 AI 负载的能力,并提供工程资源与支持。此举旨在削弱 Nvidia 在 AI 硬件市场的垄断地位,以降低运行大模型的高昂服务器成本。不过微软断然否认了 AMD 参与其自研 Athena 芯片的传闻。
据报道,微软自 2019 年起秘密研发代号为 Athena 的自研 AI 芯片,旨在训练大语言模型并摆脱对英伟达昂贵 GPU 的过度依赖。目前部分微软与 OpenAI 员工已拿到芯片测试 GPT-4 运行表现,最早或于明年在内部铺开。
据内华达州备案文件披露,马斯克已于 3 月 9 日成立名为 X.AI 的新人工智能公司,由其本人担任董事。此前马斯克已采购数千块 GPU,并向特斯拉和 SpaceX 投资者寻求启动资金,准备开发生成式 AI 产品直接与 OpenAI 竞争。
AWS 宣布推出 Amazon Bedrock 托管服务及自研 Titan 基础模型。开发者无需管理底层硬件,即可通过 API 直接调用 Claude、Stable Diffusion 等模型,并用私有数据定制微调。目前 Bedrock 正处于小范围预览阶段。
据 Business Insider 报道,Elon Musk 最近为 Twitter 采购了约 1 万块数据中心级 GPU,用于自研生成式 AI 项目。该项目拟利用 Twitter 海量数据展开训练,可能用于改进搜索或重建广告业务。此前 Twitter 还招募了两名 DeepMind 前研究员。
据曝光的融资文件,Anthropic 计划在未来两年内筹集高达 50 亿美元以抗衡 OpenAI。该公司打算在未来 18 个月内投入 10 亿美元,开发能力达现有 AI 10 倍的前沿模型「Claude-Next」,需要动用数万张 GPU 集群进行训练。
Midjourney 宣布暂停免费试用。CEO David Holz 透露,大量用户注册临时账号刷图,恰逢 GPU 短缺,甚至影响了付费用户体验;这并非因为近期川普等深度伪造图疯传。团队正在重新设计验证机制以防滥用。
英国财政大臣 Jeremy Hunt 公布春季预算,推出一系列科技资助计划。最受关注的是设立每年 100 万英镑、连设 10 年的 AI「曼彻斯特奖」,并斥资 9 亿英镑建造百亿亿次超算以支持本土前沿研发。不过,这批长期承诺能否顶住预算与政局考验仍待观察。
周二,John Hopkins University 牵头的科研团队在《Frontiers》发表论文,提出结合 3D 人脑类器官与脑机接口的「类器官智能」概念。研究团队希望利用人脑超百亿神经元的连接方式突破硅基芯片物理极限,用于医学和新一代生物计算,但目前仍处在早期探索阶段。
Meta 发布基础大语言模型 LLaMA,提供 70 亿至 650 亿参数等多个版本。模型主打更小体积与更低算力消耗,其中 130 亿参数版本训练量达 1 万亿 token。不过目前仅以非商业研究许可面向科研机构与学术人员开放申请。
高通展示在智能手机上本地运行 Stable Diffusion 1.5,搭载骁龙 8 Gen 2 芯片,在 15 秒内生成一张 512×512 像素图像,创下手机本地运行速度纪录。相比依赖云端,本地运行无需联网且更有利于隐私,不过该优化目前仅为技术演示,尚未公开发布。
AWS 与 Hugging Face 宣布扩大云伙伴关系,Hugging Face 指定 AWS 为首选公有云。开发者可在 Amazon SageMaker 上几键部署其托管的模型,并支持调用 AWS 自研的 Trainium 和 Inferentia 芯片进行训练与推理,大幅降低生成式 AI 的开发门槛。
据彭博社报道,华尔街将 Nvidia 视为 ChatGPT 热潮的最大受益者。花旗预计其未来 12 个月将为 Nvidia 带来 30 亿至 110 亿美元营收。大模型对 GPU 算力的渴求成为核心推力,但分析师也提示需警惕热潮消退的周期风险。
OpenAI 宣布与微软延长合作,敲定一项多年、数十亿美元的追加投资。Azure 将继续作为 OpenAI 研究、API 与产品全线工作负载的独家云提供商。双方还将加大超算系统投入,并通过 Azure OpenAI Service 加速模型落地。
IEEE Spectrum 报道 UCLA 团队开发出宽带衍射光学处理器,用光子替代电子执行计算。该系统通过波长复用,能以光速同时处理数千个波长通道的矩阵运算,除光源外几乎不耗电,有望化解 AI 算力的能耗危机。
微软宣布 Azure OpenAI 服务正式商用,企业可申请接入 GPT-3.5、Codex 和 DALL-E 2 等大模型。微软还透露即将引入 ChatGPT。企业能直接调用具备合规与内容过滤的 OpenAI 能力,不过目前仍需先申请用例获批后方可使用。