Helm.ai 推出 VidGen-2:分辨率翻倍,为自动驾驶生成多视角仿真视频
自动驾驶软件公司 Helm.ai 发布生成式 AI 模型 VidGen-2。新模型分辨率提升至 696×696,支持 30 fps 及三摄多视角一致性生成,可无提示词或基于单张图生成多天气、多路况的驾驶仿真,帮车企降低实车路测成本。
造自动驾驶的人都知道,在路上跑里程不仅贵,很多极端工况还根本碰不到。
加州自动驾驶软件公司 Helm.ai 发布了新一代生成式 AI 模型 VidGen-2。它的核心任务就是帮车企合成逼真的驾驶视频,用来训练和验证自动驾驶系统的感知能力。
距离这家公司 7 月推出 VidGen-1 才刚过去不到三个月,VidGen-2 就把核心指标翻了一倍。
分辨率翻倍,三摄画面不再穿帮
VidGen-2 的视频生成分辨率从上一代的水平翻倍到了 696 x 696,支持 5 到 30 fps 的帧率,在 30 fps 下的画面平滑度和细节都明显变好。
模型利用数千小时的多元驾驶视频在 NVIDIA H100 GPU 上训练完成,底层依靠 Helm.ai 自研的深度神经网络架构和被称为「Deep Teaching」的无监督训练方法。
好玩的是它的输入方式挺灵活:可以完全不给提示词直接生成,也可以给一张静态图片或者一段参考视频让它接着往下编。
这次最硬核的升级在于多视角支持。VidGen-2 可以同时生成 3 个机位、单机位分辨率为 640 x 384 的视频流。
对多摄环视来说,最怕的就是左侧相机里车刚过去,右侧相机里动作对不上。Helm.ai 表示 VidGen-2 能做到三个视角之间自洽,保证多传感器配置下的物理一致性。
模型生成的场景覆盖了高速和城市道路,包括不同地理区域、天气和光线变化,还有行人、骑车人、交叉路口和转弯等复杂路况。更关键的是,不仅自车和周边交通参与者的动作符合交通规则,行为模式也学到了人类的开法。
为什么重要
在传统模拟器里,工程师得手动拉 3D 资产、调物理引擎,费时费力还不一定真实;而在现实中路测,危险边缘案例永远收集不够。
像 VidGen-2 这种生成式视频模型,核心价值就是缩小「仿真到现实」的差距。对车企和机器人团队来说,如果能低成本快速生成数万种极端天气和复杂交汇路口,感知算法的迭代速度会成倍提升。
我们认为,Helm.ai 紧盯着三摄一致性和人类驾驶行为来做,切入点非常聪明。自动驾驶感知系统从不看单张漂亮的图,它看重的是连续帧的时序稳定性和多相机的空间对齐。
不过隐患依然存在。虽然 696 x 696 比上一代强,但比起车企动辄 800 万像素的车载摄像头,这个清晰度用在远距离小障碍物识别上还是不够看。AI 生成的幻觉如果带进验证环节,车企如何确保不会教坏原本的自动驾驶模型,也是接下来要面对的现实课题。
来源 (1)
- therobotreport.com(在新标签页打开)原文therobotreport.com