学术前沿

OmniVLA-RL: A Vision-Language-Action Model with Spatial Understanding and Online RL

OmniVLA-RL是统一的视觉-语言-动作框架,基于混合Transformer(MoT)骨干网络,arXiv:2604.17706。该框架在共享Transformer层中联合集成空间专家、推理专家和动作专家,实现语言指令特征、视觉语义特征和3D空间特征之间的深度双向交互,克服了现有早期和晚期融合方法的表征瓶颈。OmniVLA-RL还引入在线强化学习机制,使模型能够在真实环境中持续优化策略,在多个机器人操作基准测试中取得SOTA表现。

论文

主体信息

OmniVLA-RL是统一的视觉-语言-动作框架,基于混合Transformer(MoT)骨干网络,arXiv:2604.17706。该框架在共享Transformer层中联合集成空间专家、推理专家和动作专家,实现语言指令特征、视觉语义特征和3D空间特征之间的深度双向交互,克服了现有早期和晚期融合方法的表征瓶颈。OmniVLA-RL还引入在线强化学习机制,使模型能够在真实环境中持续优化策略,在多个机器人操作基准测试中取得SOTA表现。