腾讯混元推出全新3D世界模型,凭实力问鼎 WorldScore排行榜。(腾讯混元全新推理模型官宣)

腾讯混元世界模型上新,综合能力问鼎WorldScore排行榜。HunyuanWorld-Voyager(简称混元Voyager)发布即开源。这距离HunyuanWorld 1.0 Lite版发布仅过两周。

官方介绍说,这是业界首个支持原生3D重建的超长漫游世界模型,能够生成长距离、世界一致的漫游场景,支持将视频直接导出为3D格式

无论是真实街景:

还是像素游戏:

效果都相当不错,不说的话还以为是实拍或者录屏。

它和之前的模型相比有什么不同呢?一起来看一下。

一句话,一张图,一个场景

仔细看了看混元Voyager的介绍,这次上新的直观表现其实是多了一个「漫游场景」的功能。

比360°全景图交互性更强,可以用鼠标和键盘在场景内活动,更好地感受和探索世界。

左边可以调整渲染画质和场视角:

录制gif图会压缩画质,实际体验相当清晰。

而且只需要一句话或一张图就可以生成这样的场景。

混元官方还给出了prompt指引:

给出的示例效果也相当不错,体验感很好,甚至想戴个VR眼镜👓试试。

由于文件大小受限,压缩了很多次,截个屏给大家看看原本的画质:

对了,图生场景对图片的分辨率是有要求的,太大或者太小都会报错。

具体要求也给出来了,写得十分清楚:

除此之外,混元Voyager3D输入-3D输出的特性,与此前已开源的混元世界模型1.0高度适配,可进一步扩展1.0模型的漫游范围,提升复杂场景的生成质量,并可对生成的场景做风格化控制和编辑。

同时混元Voyager还可支持视频场景重建、3D物体纹理生成、视频风格定制化生成、视频深度估计等多种3D理解与生成应用,展现出空间智能的潜力。

将场景深度预测引入视频生成过程

混元Voyager为什么能够做到一键生成沉浸式漫游场景呢?这个问题涉及到它的模型框架。

混元Voyager框架创新性地将场景深度预测引入视频生成过程,首次通过空间与特征结合的方式,支持原生的3D记忆和场景重建,避免了传统后处理带来的延迟和精度损失。

同时,在输入端加入3D条件保证画面视角精准,输出端直接生成3D点云,适配多种应用场景。额外的深度信息还能支持视频场景重建、3D物体纹理生成、风格化编辑和深度估计等功能。

用比较好理解的话来说,视频生成+3D建模——基于相机📷️可控的视频生成技术,从初始场景视图和用户指定相机📷️轨迹中,合成可自由控制视角、空间连贯的RGB-D视频。

混元Voyager包含两个关键组件:

(1)世界一致的视频扩散:提出了一种统一的架构,能够基于现有世界观测,同时生成精确对齐的RGB视频与深度视频序列,并确保全局场景的一致性。

(2)长距离世界探索:提出了一种高效的世界缓存机制,该机制融合了点云剔除与自回归推理能力,可支持迭代式的场景扩展,并通过上下文感知的一致性技术实现平滑的视频采样。

为训练混元Voyager模型,腾讯混元团队还构建了一套可扩展的数据构建引擎——该引擎是一个自动化视频重建流水线,能够对任意输入视频自动估计相机📷️位姿以及度量深度,从而无需依赖人工标注,即可实现大规模、多样化训练数据的构建。

基于此流水线,混元Voyager整合了真实世界采集与虚幻引擎渲染的视频资源,构建了一个包含超过10万个视频片段的大规模数据集。

将基于1.0模型生成的初始3D点云缓存投影到目标相机📷️视图,即可为扩散模型提供指导。

此外,生成的视频帧还会实时更新缓存,形成闭环系统,支持任意相机📷️轨迹,同时维持几何一致性。这不仅扩展了漫游范围,还为1.0模型补充新视角内容,提升整体生成质量。

混元Voyager模型在『斯坦福大学』李飞飞团队发布的世界模型基准测试WorldScore上位居综合能力首位,超越现有开源方法。

这一结果表明,与基于3D的方法相比,混元Voyager在相机📷️运动控制和空间一致性方面表现出优异竞争力。

在视频生成质量上,定性定量结果表明混元Voyager具备卓越的视频生成质量,能够生成高度逼真的视频序列。

特别在定性比较的最后一组样例中,只有混元Voyager有效保留了输入图像中产品的细节特征。相比之下,其他方法容易产生明显伪影。

场景重建方面,在使用VGGT进行后处理的情况下,混元Voyager的重建结果优于所有基线模型,表明其生成视频在几何一致性方面表现更为出色。

同时,若进一步使用生成的深度信息来初始化点云,重建效果更佳,这也进一步证明了所提出深度生成模块对于场景重建任务的有效性。

上图中的定性结果同样印证了这一结论。在最后一组样例中,混元Voyager 能够较好地保留吊灯的细节特征,而其他方法难以重建出基本形状。

同时,在主观质量评价中,混元Voyager同样获得最高评分,进一步验证了所生成视频具备卓越的视觉真实性。

并且混元Voyager完全开源,相关技术报告已公开,源代码在GitHub和Hugging Face上免费开放。

模型部署的要求如下:

One More Thing

腾讯混元正在不断加速开源进展,除了包括混元Voyager在内的混元世界模型系列,还有MoE架构的代表性模型混元large、混合推理模型Hunyuan-A13B,以及多个面向端侧场景的小尺寸模型,最小仅0.5B参数。

最近还开源了翻译模型Hunyuan-MT-7B和翻译集成模型Hunyuan-MT-Chimera-7B(奇美拉),前者在国际机器翻译比赛中拿下了30个第一名。

除腾讯以外的其它国内大厂也在猛猛开源。

阿里的Qwen自不用说,除此外,阿里前段时间还开源了视频生成模型Wan2.2-S2V

美团的第一个开源大模型Longcat-Flash-Chat最近也发布了,不知道大家有没有关注。

特别声明:[腾讯混元推出全新3D世界模型,凭实力问鼎 WorldScore排行榜。(腾讯混元全新推理模型官宣)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

这一夜,金鸡奖成“照妖镜”姚晨脸肿,蒋勤勤歪嘴,佟丽娅褶子多(昨天金鸡奖电影获奖盛典大会实况)

另一位老前辈王馥荔也来了,她是很多年前的金鸡奖最佳女配角。『倪妮』是晚会主持人之一,穿了一条亮闪闪的鱼尾裙,本来应该很出彩,但她因为拍戏减重减得太厉害,生图里锁骨和肋骨特别明显,腰细得让人担心,不少观众都说希望…

这一夜,金鸡奖成“照妖镜”姚晨脸肿,蒋勤勤歪嘴,佟丽娅褶子多(昨天金鸡奖电影获奖盛典大会实况)

知己MBTI:当动物城遇上 MBTI,每个角色的人格密码都藏在剧情里!(知己知彼性格测试)

其他核心角色速览博戈局长(水牛):ESTJ「规则执行者」—— 严格按制度分配任务,看似固执却在朱迪证明实力后全力支持,完美诠释“制度至上但不僵化”闪电(树懒):ISFP「慢节奏艺术家」—— 车管所办事慢到…

知己MBTI:当动物城遇上 MBTI,每个角色的人格密码都藏在剧情里!(知己知彼性格测试)

专业乐器配件之古筝琵琶指甲盒及多功能锦缎盒概述(乐器配件有哪些)

本文介绍了专业乐器配件中专门用于存放古筝琵琶指甲和胶布的锦缎盒。阐述了其设计特点、材质优势、历史沿革、技术特性以及在音乐实践中的具体应用,旨在为使用者提供全面的专业知识。此外还探讨了此类产品的功能多样性及其在乐器演奏中的重要性。

专业乐器配件之古筝琵琶指甲盒及多功能锦缎盒概述(乐器配件有哪些)

纯棉儿童围脖加厚秋冬宝宝围巾🧣解析(孩子的围脖怎么织)

本文全面介绍纯棉儿童围脖加厚秋冬款产品,探讨其材质特性、设计功能、应用场景及其在儿童冬季穿戴中的重要性。从材料学和『服装设计』️的角度出发,系统阐述产品的技术特点、优劣势及行业发展现状。

纯棉儿童围脖加厚秋冬宝宝围巾🧣解析(孩子的围脖怎么织)

抗癌勇士!前TVB港姐季军乳癌恶化入院,癌细胞变异扩散至尾龙骨(抗癌成功演员)

事缘52岁的郑秀文赢得“我最喜爱女歌手”,再度站在叱咜颁奖台上发表感言的那番话,深深打动吴文忻,让她鼓起勇气,决定实现歌手梦想。 2011年,吴文忻宣布结婚,婚后为丈夫诞下两名女儿,但没想到今年2025年,…

抗癌勇士!前TVB港姐季军乳癌恶化入院,癌细胞变异扩散至尾龙骨(抗癌成功演员)