AI越能行动,人越需要主场
在聊天窗口里,我们习惯用答案判断AI:写得是否准确,建议是否有用,代码能否运行。
当AI参与一项真实操作,问题就多了一层。它依据什么目标行动?使用了哪些权限?环境改变以后会不会停止?执行结束后,谁确认事情确实做成了?
物理AI把这些问题带到了更具体的现场。机器人面对的不是只有文字的世界,还有位置、重量、接触、运动,以及可能变化的环境。
能力回答“能不能做”。人的主场还要回答“该不该做、允许怎么做、怎样才算做成”。
一、先把物理AI说清楚
本文所说的物理AI,关注AI对物理环境的感知、理解,以及与物理世界交互的能力。机器人、自动驾驶等是典型应用方向。
NVIDIA将Cosmos定位为支持物理AI开发的平台,涉及世界基础模型,并面向机器人、自动驾驶等开发场景。这类平台把预测、场景生成与行动学习连在一起,显示出从语言表达到世界建模的技术方向。[1]
软件Agent调用接口、修改网页、发送消息,也可能带来现实后果,但它们不因此都成为物理AI。两者需要区分;相通之处,是都需要把执行能力放进明确的责任与授权关系。
因此,物理AI的发展并不意味着写作、研究或代码生成会结束。不同能力可以协作,各自的验证要求仍然存在。
二、从输出到行动,变化在哪里
设想一份设备维护建议。AI可以根据指定资料整理检查项目,交给现场人员审阅。这时,交付物是一份候选建议。
如果任务进一步变成操作设备,事情就不同了:目标设备是谁的,现场是否有人,当前状态是否允许动作,停止条件能否真正生效,都必须得到确认。
不能因为建议写得合理,就推断执行一定安全;也不能因为接口返回成功,就推断现场目标已经达成。
数字操作同样可能造成严重后果,物理操作也并非一概不可逆。判断依据应是具体动作、环境与后果,而不是简单地把“屏幕内”视为低风险、“屏幕外”视为高风险。
三、一个可问责的任务,需要哪些关系
以一项明确限定范围的工作为起点,首先说明目标、输入材料、预期交付物和验收标准。任务承担者需要具备适用资格,并获得这一次任务的有效授权。
执行中要记录实际动作、产物和失败。遇到超出范围、条件不成立或无法确认的状态,应按约定停止,而不是自行扩大权限。
执行后可以形成Result和Receipt;Evidence支撑对过程与结果的判断;Verification检查约定标准是否满足。人的决定再区分接受、返工、拒绝或停止。
这里有几条边界不能混在一起:连接成功不等于获准执行;回报成功不等于工作成功;验证通过也不自动等于人已接受。Result可以在人的接受之前存在,Accepted Result则需要对应的接受决定。
四、人保有主权,不等于人点击每一步
如果每一个细小动作都等待人确认,人的注意力会成为瓶颈。但让AI自行决定全部后果,也不能称为可靠自治。
更合适的分工,是人在明确范围和后果边界上作出决定,让执行者在有效授权内连续工作,遇到停止条件就停下来。
面向物理设备,这种工作治理还必须与设备本身的安全机制配合。软件中的任务审批不能替代现场防护、设备互锁或专业安全验证;一次人的批准也不能消除工程风险。
“人类主场”的价值,在于让权限、状态和结果可理解、可追溯。它不是一张能够代替所有安全条件的通行证。
五、行动权的分配,将成为新的技术竞争
物理AI真正触动的,是行动权如何从人转移到系统。过去人解释意图、选择动作,再通过设备执行;随着感知、规划和控制更多地连接起来,系统开始参与“接下来做什么”的选择。
变化不必等到完全自主才发生。一个系统决定先呈现哪种风险、优先推荐哪条路径,就已经影响人的决策空间。行动权既存在于电机控制,也存在于更早的解释、排序和方案生成。
因此,不能只用机器人完成动作的漂亮程度衡量这场变化。还应考察谁定义了目标,谁设定了允许牺牲什么以换取效率,以及环境改变时谁能推翻原先判断。
我认为,未来物理AI的重要分水岭,是动作能力与责任结构能否共同演进。只有动作能力的系统,可以成为优秀的演示;能够处理目标冲突、条件变化与异常交接的系统,才更接近可长期托付的基础设施。
六、仿真、现场与制度之间的落差
仿真能够让大量方案在进入现场之前接受比较,但模型始终选择性地表达现实。材料差异、人员行为、维护状态和罕见异常,都可能使现场偏离训练与测试环境。
这使物理AI的竞争包含三种不同能力:在模型中提出方案,在现实中识别偏差,在组织中处理偏差。第三种常被忽略,因为它不像机器动作那样容易被拍成视频。
例如,一次搬运未能完成,技术系统需要识别原因;工作系统还需要判断是否改走另一条路径、是否改变原任务,以及谁承担由此影响的交付。停止并不是任务的终点,停止之后如何重新组织工作同样重要。
这是一项研究判断:物理AI越成熟,人与系统之间的交接机制越可能成为生产力的一部分。可靠性不仅来自减少故障,也来自让故障发生之后仍有清楚的行动路径。
七、把目标与决定留在人能够掌握的地方
更强的模型、更丰富的工具与更成熟的设备,都可能扩大AI能够参与的工作范围。具体何时成熟、适合哪些现场,需要逐项证明。
对使用者而言,可以先守住几个朴素的问题:这是谁的目标?谁承担任务?授权到哪里?实际发生了什么?我依据什么决定接受?
一个好的主场,应让这些问题随时有据可查。更换模型或执行者之后,工作历史仍可接续,权限仍有边界,失败也不会从记录中消失。
AI越能行动,人越需要一个能看清工作、掌握边界、决定结果的主场。