跳到正文
IFAI

行业动态

训练 GPT-4 到底多耗水:微软数据中心用水激增 34%,提问几十次喝掉半升

首次发布 传播指数 61

美联社报道披露,微软与 OpenAI 在爱荷华州为训练 GPT-4 抽取了大量河水为超算降温。微软 2022 年全球用水量激增 34%,外部研究测算向 ChatGPT 提问 5 至 50 次就要消耗约 500 毫升水。这让生成式 AI 背后高昂的水资源代价浮出水面。

大家在屏幕前敲下一行提示词,ChatGPT 几秒钟就能吐出一篇漂亮的文章。很多人以为这背后无非是多烧了几度电、多占了几张显卡。但真实世界的代价,往往比想象中更接地气,比如白花花的淡水。

美联社在 9 月 9 日发表的一篇调查报道,揭开了生成式 AI 背后鲜为人知的环境账单。微软高管此前在一场演讲里透露,OpenAI 最先进的大语言模型 GPT-4,其实并不是在加州的玻璃写字楼里完成训练的,而是诞生在爱荷华州西梅因市郊外的玉米地旁。

玉米地旁的超级水泵

训练大模型要喂进去海量文本,数万颗芯片夜以继日地跑,发热量极其惊人。为了不让服务器宕机,数据中心必须靠水冷系统散热,把水打入建筑外的冷却塔。

微软早在 2019 年就向 OpenAI 投了 10 亿美元,并承诺提供训练所需的算力。2020 年,微软宣布为 OpenAI 打造了一套专属超算,拥有超过 28.5 万个常规处理器核心和 1 万块 GPU。这台庞然大物最终就落户在只有 6.8 万人口的爱荷华州西梅因市。

这里的气候大部分时间很凉爽,室外空气就足够冷却机房。微软曾公开表示,只有当气温超过 29.3 摄氏度时,才会抽水降温。但一旦赶上酷暑,用水量依然夸张。

当地水务部门的数据显示,就在 OpenAI 宣布完成 GPT-4 训练的前一个月,也就是 2022 年 7 月,微软在当地的数据中心集群一个月就抽走了约 1150 万加仑的水。这相当于全区当月总用水量的 6%,而这些水原本主要供应当地居民饮用。

问几十次,喝掉半升水

不仅训练模型耗水,我们平时调用模型同样在消耗水资源。

加州大学河滨分校的研究员任绍磊团队测算,你每向 ChatGPT 提问 5 到 50 次,它就要消耗大约 500 毫升水,差不多相当于一整瓶 16 盎司的瓶装水。这笔账里还包含了间接用水,比如为数据中心供电的发电厂所需的冷却水。

环境报告里的数据也印证了这一点。从 2021 年到 2022 年,微软全球用水量暴增了 34%,达到近 17 亿加仑,足以填满超过 2500 个标准奥运泳池。同期谷歌的用水量也增加了 20%。研究人员认为,这部分暴涨几乎完全归因于大模型的军备竞赛。

面对质疑,微软表示正在研究如何更精准地测量 AI 的能耗与水耗,并重申到 2030 年实现水资源正效益、碳负排放的目标。OpenAI 也表示他们意识到了训练大模型消耗巨大,正努力提高效率。但当地水务局已经明确表态:微软未来的新项目,必须先拿出显著降低峰值用水量的技术方案,否则免谈。

为什么重要

这篇报道把大模型光鲜外表下最现实的一面扯了出来:算力从来不是虚拟的,它扎扎实实地消耗着物理世界的资源。

对普通用户和开发者来说,这让我们第一次看清了调用 API 背后的真实成本。很多人只关注每千 token 几美分,却不知道背后还连着水泵。这种认知普及很可能会倒逼企业更透明地公布环境数据,甚至促使平台推出更轻量、更高能效的小模型。

对整个行业而言,这给全球数据中心的建设路线敲了警钟。过去科技巨头选址看重电价便宜和税收优惠,现在散热水源的承载力成了硬门槛。在同一个地区,数据中心用水一旦威胁到居民用水安全,立刻就会遭遇地方政府的强力反弹。

我们认为,微软把训练基地选在气候凉爽的爱荷华,相比在干旱的亚利桑那建厂,已经算是一种相对聪明的权衡。但靠外界空气自然冷却只能顶住大部分温和天气,夏天的峰值用水依然是个死结。接下来谁能在算法压缩、液冷架构和循环水利用上拿出真本事,谁才能在这场狂飙的算力竞赛中跑得长远。

来源 (3)

  1. [1]
    apnews.com(在新标签页打开)原文apnews.com
  2. [2]
  3. [3]

每日 AI 内容精选