Sequence Modeling and Offline Pretraining for Robot Policies

本文研究了序列建模与离线预训练在机器人策略中的应用。序列建模方法将机器人控制转化为序列预测问题，通过大规模离线数据预训练通用策略，再通过少量在线数据微调适应新任务。文章比较了不同序列建模方法（决策Transformer、行为克隆Transformer、扩散策略、流匹配策略）和预训练策略（离线预训练、多任务预训练、自监督预训练）在机器人控制中的表现，分析了方法的样本效率和泛化能力。来源机构包括UC Berkeley、DeepMind、CMU等研究机构。