视频版 ControlNet:CogOmniControl 靠几帧草图精准控制视频生成
研究团队公布 CogOmniControl 论文,打造出类似 ControlNet 的多输入视频控制系统。只需输入 3 帧粗糙草图或姿态骨架,搭配参考图和提示词,就能生成动作一致的视频。它专门面向专业创作流,不过目前仅发布论文,尚未开源代码与模型。
研究团队公布 CogOmniControl 论文,打造出类似 ControlNet 的多输入视频控制系统。只需输入 3 帧粗糙草图或姿态骨架,搭配参考图和提示词,就能生成动作一致的视频。它专门面向专业创作流,不过目前仅发布论文,尚未开源代码与模型。
Odyssey 推出世界模型 Starchild-1 与 Agora-1。前者能根据用户输入实时生成音画同步的内容且无固定时长,后者首次支持最多 4 名玩家在同一个由 AI 实时生成的虚拟世界中互动。这意味着世界模型正从离线视频生成转向真正可交互的多人模拟引擎。
Meta 推出音频模型 WavFlow,跳过潜空间压缩,直接在原始波形中生成 44.1kHz 高保真音频。它能为无声视频自动配上同步音效,打鼓等动作基本能对齐。不过受政策限制,官方仅开源了代码与脚本,未放出完整权重。
字节跳动开源统一多模态模型 Lance,激活参数 30 亿,同时支持图像与视频的理解、生成及编辑。最关键的是,它不仅能看懂画面,还能通过多轮对话连续修改视频。不过本地运行门槛较高,至少需要一块 40GB 显存的 GPU。
研究团队发布端到端音视频联合编辑框架 InstructAV2AV,支持用自然语言指令同时修改画面与声音。它无需手动绘制遮罩即可完成换人、改台词或增删音效,并在替换目标内容的同时保持背景稳定。
创作者分享了一套 AI 影视工作流:先用 ChatGPT Image 2 将故事创意生成带角色和镜头标注的 12 格故事板,再交给 Seedance 2.0 生成连贯的电影感视频。配合节点式平台编排,一人做动画的门槛进一步降低。
阿里巴巴公布视频试衣框架 FashionChameleon。它允许在视频生成过程中实时交互式更换服装,单卡生成速度达 23.8 FPS,并能保持人物动作与外观连贯。最值得关注的是它仅靠单服装数据训练就实现了多套换装。目前代码与模型尚未正式开放。
上海交通大学与上海人工智能实验室等提出 Warp-as-History。该方法无需新增相机编码器或控制分支,而是把视角形变打包成视觉历史上下文,仅用一个标注视频进行轻量 LoRA 微调,就能在陌生场景中精准听从运镜轨迹并补全画面盲区。
英伟达发布交互式世界模型 SANA-WM,仅 26 亿参数即可将单张图像转化为可键盘漫游的 720p 视频。其蒸馏版本在单张 RTX 5090 上仅需 34 秒即可生成 1 分钟片段。官方表示权重即将开源。
研究团队开源游戏世界模型 ReactiveGWM。它将玩家按键操作与 NPC 策略解耦,允许玩家一边按键出招,一边用提示词指挥对手进攻或防守。模型基于 Wan 2.2 构建且相对轻量,可在本地中高端显卡上运行。
消息,由达伦·阿罗诺夫斯基监制、达斯汀·耶林执导的真人与 AI 融合电影宣布将于下周在戛纳电影节首映。影片由保罗·路德与克里斯·洛克主演,将真人拍摄与 AI 生成画面混合呈现。好莱坞一线阵容的加入,意味着 AI 影像正加速叩开主流电影圈的大门。
开发者在 Hugging Face 上线适配 LTX-Video 的皮克斯风格 LoRA。该模型未采用影视原作版权素材,能赋予画面大眼睛与电影级光影等 3D 动画质感。模型支持触发词「P1x4r」,可在 Diffusers 或 Draw Things 中直接加载运行。
研究团队发布并开源 PhyMotion,专门解决 AI 视频里的肢体畸形与动作扭曲。它从生成视频中提取 3D 人体并放入 MuJoCo 物理模拟器打分,检验关节移动和接地是否合乎规律,以此奖励模型,显著改善了瑜伽、功夫等动作的真实度。
Google 全新多模态模型 Gemini Omni 曝光。它能结合图像、音频与文本等多模态输入生成连贯视频,并支持用自然语言对话直接修改画面。最关键的是,它将逻辑推理与画面渲染结合,首发版本 Omni Flash 可生成 10 秒短视频。
研究团队提出视频重打光框架 Relit-LiVE,无需相机姿态数据,就能在一个扩散过程中联合预测重打光画面与逐帧环境贴图。它在长镜头中能保持阴影与反射的物理真实,还支持去光照与材质替换等编辑任务。
ElevenLabs 宣布在其 ElevenCreative 平台的 Studio 时间轴编辑器中内置 AI 协同编辑助手 Studio Agent。创作者无需离开平台,即可通过 AI 协作混合配音、音乐、音效与视频,进一步简化多媒体制作流程。
LTX Studio 推出节点画布功能 Flows。用户可以通过可视化节点界面设计自定义视觉生成管线,搭建一次即可按需批量执行。最值得关注的是,该功能专为规模化图像与视频生成打造,让创作者无需每次重新构建流程,大幅降低重复配置成本。
研究团队提出高分辨率图生视频框架 SwiftI2V。它先生成低分辨率运动参考,再通过条件分段生成精细的 2K 画面,最多输出 81 帧。这意味着 2K 视频生成不再依赖集群,单张 24GB 的 RTX 4090 就能跑,计算时间缩减了 202 倍。
初创公司 Video Rebirth 推出 AI 视频引擎 Bach 1.0。它支持生成最长 30 秒的原生 1080p 视频并自带声音,主打多镜头角色一致性与镜头语言控制,在 Artificial Analysis 盲测榜位列第六。目前官网已开放注册免费试用。
开源工具 Sprite-Pipeline 能将 AI 视频转为游戏可用的 2D 精灵图。它通过 FFmpeg 抽帧、抠图去背景,并拼成 256×256 的透明横向序列帧,可直接导入 Unity 或 Godot。项目还附带浏览器预览器与 AI 提示词规范,帮独立开发者低成本落地角色动画。