佛罗里达大学用街景做建筑安全体检：数月排查缩短至几小时
佛罗里达大学研究团队借助 NVIDIA DGX A100 与 Google 街景图像，开发出建筑安全自动评估模型。灾后需要耗时数月的人工排查被缩短至数小时，按 FEMA 标准评估准确率超 85%。目前该系统正在墨西哥等地的城市展开实测。
AI算力
查看更新的新闻
高通骁龙 8 Gen 3 规格曝光：专为生成式 AI 打造，支持 INT4
MSPoweruser 曝光了高通骁龙 8 Gen 3 的完整规格表。作为首款专为生成式 AI 打造的移动平台，它升级了 Hexagon NPU 并支持 INT4 精度，还加入了虚幻 5.2 光追。最值得关注的是，安卓旗舰的端侧大模型算力底座终于要来了。
AMD 宣布收购 Nod.ai：补齐开源 AI 编译器短板
AMD 宣布签署协议收购开源 AI 软件初创公司 Nod.ai。Nod.ai 是 SHARK 与 Torch-MLIR 的核心贡献者，其编译器技术可降低多架构部署门槛。AMD 正借此加速构建开源软件生态，追赶竞争对手。
机构预测：生成式 AI 将在 2024 年迎来「冷水澡」
分析机构 CCS Insight 发布预测，称生成式 AI 将在 2024 年迎来「冷水澡」式的现实检验。算力成本高昂令普通机构难以承受，现实阻力正取代狂热炒作。报告还预计欧盟 AI 监管将反复推迟，搜索引擎也将被迫给 AI 内容打标签。
传 OpenAI 考虑自研 AI 芯片：缺卡太严重，甚至想收购芯片厂
据路透社报道，OpenAI 正在考虑自研专用 AI 芯片，甚至评估过收购芯片制造企业。随着大模型爆发，英伟达 GPU 供不应求且开销巨大。Altman 已将芯片供应列为头等大事，但自研芯片通常耗时数年且需耗资数亿美元。
路透社曝 OpenAI 拟自研 AI 芯片：摆脱英伟达依赖，或考虑收购
据路透社报道，OpenAI 正探索自研 AI 芯片以缓解算力短缺，方案包括自主设计或收购芯片制造商。CEO Sam Altman 已将获取芯片列为头等大事。此举旨在降低高昂运营成本，但芯片研发极耗资金且周期长，面临不小风险。
AWS 宣布 Bedrock 全面可用：一个 API 聚合多家主流大模型
AWS 宣布生成式 AI 全托管平台 Amazon Bedrock 全面可用，企业可通过统一 API 调用 Anthropic、Meta 等多家顶级基础模型。同时，支持 8000 token 上下文的 Titan Embeddings 向量模型同步上线，AWS 还为 CodeWhisperer 增加了私有代码定制功能。
Cloudflare 推出边缘 AI 套件：按需调用就近 GPU，主打降本与低延迟
Cloudflare 推出 Workers AI、Vectorize 和 AI Gateway 三款工具。开发者可按需调用就近 GPU 运行 Llama 2 等模型，配合向量数据库与用量监控降低延迟和成本。推理数据保留在本地且不参与模型训练。
亚马逊向 Anthropic 投资至多 40 亿美元：全面押注 Claude 并接入自研芯片
Amazon 宣布将向 AI 初创公司 Anthropic 投资至多 40 亿美元并持有少数股权。AWS 将成为 Anthropic 的主要云服务商，Anthropic 将采用 Trainium 和 Inferentia 芯片训练与部署模型，并通过 Amazon Bedrock 向企业深度开放 Claude 2 模型。
CZI 斥资搭建千卡 H100 集群：用生成式 AI 搞医学研究与「虚拟细胞」
Chan Zuckerberg Initiative 宣布资助搭建包含 1000 多块英伟达 H100 的计算集群。该系统旨在通过生成式 AI 构建模拟健康与患病状态的「虚拟细胞」，帮助科学家预测人体对疾病或新药的反应。最值得关注的是，CZI 打算将这些细胞模型公开发布，降低科研人员使用顶尖 AI 算力的门槛。
FTC 盯上生成式 AI：严查算力排他与产品捆绑
美国联邦贸易委员会（FTC）释放反垄断信号，警告将严查生成式 AI 领域的排他交易与捆绑销售。监管方重点盯防手握算力与云服务的巨头通过独家合同限制新玩家，或将 AI 工具与成熟产品强行捆绑，关键数据和人才并购也将被重点审查。
训练 GPT-4 到底多耗水：微软数据中心用水激增 34%，提问几十次喝掉半升
美联社报道披露，微软与 OpenAI 在爱荷华州为训练 GPT-4 抽取了大量河水为超算降温。微软 2022 年全球用水量激增 34%，外部研究测算向 ChatGPT 提问 5 至 50 次就要消耗约 500 毫升水。这让生成式 AI 背后高昂的水资源代价浮出水面。
NVIDIA 开源 TensorRT-LLM：H100 推理吞吐翻 8 倍
NVIDIA 推出开源库 TensorRT-LLM，专为加速大语言模型推理设计。它引入动态组批与 FP8 精度，在 H100 上相比 A100 带来最高 8 倍吞吐提升，Llama 2 推理提速 4.6 倍。开发者通过 Python API 即可调用底层并行优化，大幅降低算力与电费支出。
Intel 押注 AI 走向端侧：Meteor Lake 芯片年内落地
Intel CEO Pat Gelsinger 表示，受成本、延迟和隐私影响，AI 必将从云端走向边缘。Intel 计划年内推出搭载专用 AI 硬件的 Meteor Lake 芯片。凭借超 80% 的 x86 PC 市场份额，Intel 押注端侧算力能帮软件商大幅削减昂贵的云端开销。
美国扩大 AI 芯片出口管制：Nvidia 与 AMD 对中东出货需申请许可
美国政府扩大高端 AI 芯片出口限制，要求 Nvidia 和 AMD 在向中东部分国家出口 A100、H100 等芯片前必须取得许可。两家公司均表示该限制短期内不会对营收产生实质影响。最值得关注的是，这意味着针对尖端算力的出口审查正在向全球更多区域扩散。
Google Cloud 联手英伟达：搭载 H100 的 A3 实例正式商用
Google Cloud 宣布搭载 NVIDIA H100 GPU 的 A3 实例正式商用。双方同时深化了软件层面的合作，支持 PaxML 框架利用英伟达 GPU 进行加速并上线 NGC 容器库，以满足大模型暴涨的算力需求。
Google Cloud 发布第五代自研 TPU：每美元训练性能翻倍，支持万卡扩展
Google Cloud 推出第五代自研 TPU 处理器，重点提升能效与性价比。相比上代，单位美元训练性能提升 2 倍、推理提升 2.5 倍，单个任务可跨集群扩展至数万颗芯片。此外，搭载英伟达 H100 的 A3 虚拟机也将于下月正式开放。
Google 全面升级 Vertex AI：引入 Claude 2 与 Llama 2，自研模型上下文翻倍
Google 在 Cloud Next 大会上升级 Vertex AI 平台。官方不仅更新了 Codey 与 Imagen，还将 PaLM 2 上下文扩展至 32k token，并在模型库中直接引入 Claude 2 和 Llama 2。此外还推出了插件机制与搜索对话套件，正面反击 AWS Bedrock。
Tesla 启动 1 万张 H100 超算集群：算力超越全球第四，专攻 FSD
Tesla 正式启动配备 10000 张 Nvidia H100 GPU 的全新 AI 超算集群。该集群提供 340 FP64 PFLOPS 算力，超越全球第四大超算 Leonardo，专门用来加速训练 FSD 自动驾驶。加上自研的 Dojo，Tesla 正在全力打破自动驾驶的算力瓶颈。
SemiAnalysis 分析 Google Gemini：预训练算力年底或达 GPT-4 的 5 倍
SemiAnalysis 发文指出，Google 正全力加速 Gemini，其预训练算力预计年底达 GPT-4 的 5 倍，明年可达 20 倍。报告划分了「算力富人」与「算力穷人」，直言中小团队正陷入低算力内卷，而手握 TPUv5 的 Google 是抗衡英伟达算力垄断的关键变量。