看视频、建世界、做实验:清华Asking the World让AI用物理回答问题
将文章核心主题、阅读路径与关联内容进行更清晰的组织,帮助用户以更流畅的节奏进入正文。
当前位置
当前正在查看文章详情,可沿路径返回栏目页或继续切换其他内容。
看视频、建世界、做实验:清华Asking the World让AI用物理回答问题
球友会官网带来本期体育资讯:
AI 能逼真地 “搭出” 一个世界,就能准确预测它如何运转吗?
GPT-6 Astra 展现出的场景建模能力令人印象深刻。
但几何与外观的逼真还原,并不意味着对物理规律的准确把握。
避免物体穿模、借助语义先验估计物理属性,与准确推演物体运动之间,仍有距离。
后者还需要进一步识别质量、摩擦系数和阻尼等难以仅凭外观确定的属性与参数。
从还原外观到推演运动,AI 还要跨过一道 “物理关”。
清华大学团队提出的Asking the World(ATW)框架,让 AI 根据视频自主构建可运行的物理仿真世界,再通过属性查询、运动仿真和条件干预获取证据,回答物理属性、运动预测及反事实推理等问题。
以 Gemini-3-Flash 为基座模型,ATW 在 CLEVRER 和 ContPhy 两项物理推理基准上的整体准确率分别达到80.
82%和70.
56%,相较于直接根据视频回答,分别提升46.
50和28.
10个百分点。
作为团队PhysMind 的续作,ATW 继承了 “从视频恢复物理世界,再通过实验开展推理” 的思路,进一步让智能体决定如何建模、开展哪些实验,并将方法拓展至更多材料和物理场景。
这套方法无需额外训练或微调,也提供了更经济的模型选择:相比 Astra,Gemini-3-Flash 这类视觉语言模型的调用成本低得多。
ATW 由视觉语言模型理解问题、选择操作,再由物理工具计算运动。
01|从视频恢复可执行的物理世界 ATW 的方法基础来自团队此前的工作 PhysMind。
它从视频恢复几何、运动与物理参数,建立能够继续仿真,也允许修改条件的 “可执行世界”。
例如,移走视频中的球体,哪些碰撞仍会发生?
原视频没有给出答案。
PhysMind 会在重建场景中移除球体,重新运行仿真,依据轨迹和碰撞事件作答。
图 1:PhysMind 通过修改重建场景并运行仿真,为 “移走球体后哪些碰撞仍会发生” 提供判断依据。
要构建这样的世界,PhysMind 先识别物体、恢复形状与运动轨迹,再结合地面和支撑关系校正结果。
物体滑行时的减速、碰撞前后的速度变化,则为估计摩擦和质量关系提供线索。
系统利用连续时间解析方法估计摩擦、质量比例和碰撞恢复系数等物理参数,使仿真尽可能符合观测。
这一过程称为 “系统辨识”。
同一段视频只需建模一次,后续多个问题便可复用。
图 2:PhysMind 整体流程,包括几何与运动恢复、物理参数估计,以及通过查询、仿真和干预获取推理依据。
ATW 沿用这一思路,进一步拓展:面对不同场景和任务,如何让 AI 自主选择合适的建模方式,并决定用什么实验获取答案?
02|从建模到实验,由智能体自主决策 物理属性判断可能仅需读取参数,预测则需要延长仿真。
任务不同,需要关注的物体、调用的工具和获取的证据也不同。
ATW 把问题需求引入世界构建,并将过程分为“世界建模”与“世界探测”两个阶段。
在 “世界建模” 阶段,智能体选择相关物体和物理模型,调用合适的视觉工具恢复几何与运动,再拟合物理参数。
它会检查中间结果,根据反馈调整感知、模型选择或参数估计。
论文中的台球案例展示了这一过程:发现黄色球未被分割后,智能体补充检测,再继续后续步骤。
完成建模后,智能体进入 “世界探测” 阶段。
判断物理属性,可以查询拟合参数;
预测未来,可以继续仿真;
回答反事实问题,则复制场景、施加干预。
如果证据不足,它会进一步查询轨迹或开展新的实验。
图 3:ATW 根据任务与反馈选择操作,包括修正物体漏检、移除棕色球和查询碰撞事件。
不同实验基于同一个已校准的世界,分别保留结果供比较。
智能体在这一基础上推演不同条件下的运动,并依据轨迹与事件作答。
03|拓展至多种材料与物理场景 ATW 的另一项进展,是从刚体碰撞拓展到更多材料。
布料会弯折,流体会流动,还可能与其他物体相互作用,需要相应的物理模型。
为此,团队开发了PolyWorld Engine,一套供智能体使用的物理仿真引擎。
它基于Warp构建,涵盖刚体、软体、布料、绳索、流体及其耦合交互。
智能体可以通过统一接口构建场景、读取状态、推进仿真和施加干预。
图 4:ATW 将统一的建模与实验推理方法应用于刚体、流体和布料等场景。
所构建场景仍需与视频观测对齐。
ATW 通过搜索参数、比较仿真与观测差异,校准运动与形变。
对于可变形物体,还会比较形状、表面或中心线随时间的变化。
如果偏差来自物体对应关系或物理模型选择,智能体可在建模阶段修正,再重新拟合。
04|重建世界是否有效,用物理推理任务检验 复现视频中的运动,还不足以说明重建世界是“物理可信”的。
团队因此用物理推理任务验证 ATW:让它预测视频结束后的事件、判断改变条件后的结果,检验恢复出的动力学能否帮助 AI 答对问题。
在 CLEVRER 上,以 Gemini-3-Flash 为
关注球友会官网,了解更多体育资讯。
推荐阅读
Search
热点新闻
“永远不会是我”:普尔想回勇士,格林表态不拦
普尔说他想回勇士,格林说他不拦。四年过去,那一拳留下的裂缝,第一次出现了松动的迹象。 事情的起点是普尔的一句话。在鹈鹕以 87比138 输给勇士之后,普尔被问到是否想念和这支球队在一起的日子,他的回答是:“当然想。” 随后,格林被问及对当年那次冲突的看法,以及普尔有可能回归这件事。他的态度出乎不少人意料——他不反对。 “那会很不可思议。那是我回望自己职业生涯时会想到的事情之一,”格林在接受媒体采访
萨内蒂:国米不是唯一争冠热门,齐沃拿奖完全配得上
国际米兰副主席萨内蒂表示,齐沃获得年度最佳教练奖“完全配得上”,同时提醒外界,国米并不是本赛季意甲唯一的争冠热门。 齐沃当天领取了金板凳奖(Panchina D'Oro),该奖项授予年度最佳意大利教练。他获奖的依据是在自己的首个完整顶级联赛执教赛季中,率队拿下意甲和意大利杯双冠。萨内蒂在接受意大利天空体育采访时说:“我祝贺他,因为以他做过的工作和仍在做的工作来看,这个奖完全配得上。” 谈到齐沃本人
比亚迪新车官宣:11月18日即将上市,续航1630km
11月18日消息,比亚迪方程豹官方发布新车倒计时,方程豹钛9倒计时1天即将上市。这是方程豹钛系列旗舰车型,不是它豹5和豹8那种带大梁硬派越野,而是承载式大型方盒子六座插混SUV,也算是给车友另一种选择,11月19日19:00就将举办上市直播,后续还会出现在广州车展上。 新车此前已经开启了预订,现在仍然处于预订期,意向金3000元可退可改配置,而且线下展车也都已经到店,支持预约静态看车,上市后可以试
人不会无缘无故患艾滋病!得艾滋病的人,大概离不开这几点
老话常说,“身子干净、日子本分,这种病就找不上门”。这话听着顺耳,却只说对了一半。门诊里最让人惋惜的,往往正是那些自认 绝不可能 感染的人。 先说一个反常识的结论:艾滋病毒其实相当 娇气 。它离开人体后很快就会失活,握手、拥抱、同桌吃饭、共用马桶,几乎都构不成传播途径。很多人对它的恐惧,远超它在外界环境里的生存能力。 还有人担心蚊虫叮咬、共用泳池会不会传染,这类顾虑普遍被认为没有必要,病毒在蚊虫体
莱比锡5-1客胜柏林联,格鲁达传射,努萨点射,罗慕洛建功
北京时间11月21日德甲联赛 第10轮,柏林联合主场对阵RB莱比锡。努萨点射破门,罗慕洛扩大领先,格鲁达传射建功,赖茨打进空门,巴库锁定胜局。埃贝彻尔破门难挽败局。最终,RB莱比锡客场5-1大胜柏林联合。 关键事件 第18分钟,努萨点射破门,莱比锡客场1-0领先柏林联 第41分钟,埃贝彻尔凌空破门,柏林联扳平比分,1-1 第49分钟,罗慕洛打门折射入网,莱比锡2-1再度领先 第72分钟,格鲁达扩大