PyBullet 中 3500 万姿态扩散训练数据,经 Google Drive 发布,2024 年。
- 机器人平台
- Franka、仿真手臂
- 数据类型
- 仿真基准
- 协议
- 以官方公开许可为准
硅基参考数据集库建立遥操作、轨迹、多模态、RGB-D、力矩、触觉和语言数据的元索引,方便按任务、平台与协议筛选对照。
按场景进门
每个场景挑了策展代表,点进去 3 秒判断适不适合;下载与细筛是后一步。
叠衣、收桌、厨房家务。挑的是能接到家用机型、任务口径清楚的代表集。
北京人形 RoboMIND / 智元 AGIBOT WORLD 2026 / 智元 AGIBOT WORLD 数据集 1.0
抓起来、放下去,所有操作策略的第一课。经典基准与大规模真机都有。
DROID / GraspNet-1Billion / Fourier ActionNet
左右手配合、递送、双臂长程。ALOHA 系与国产真机大集为主。
ALOHA Unleashed: 双臂灵巧操作示范集 / Mobile ALOHA / 智源 RoboCOIN
多指抓握、手内旋转、手物交互。做灵巧手和多指末端先看这里。
DexGraspNet / ACRONYM / DexYCB
插接、装配、拧螺丝、线缆操作。对标产线工位的操作数据。
Assembly101 / RH20T / ALOHA Unleashed: 双臂灵巧操作示范集
多阶段任务连着做。评估策略的持续性与恢复能力先看这批。
CALVIN / BEHAVIOR-1K / Meta-World
人形真机训练集:AGIBOT WORLD、RoboMIND、ActionNet 这一档。
智元 AGIBOT WORLD 2026 / 智元 AGIBOT WORLD 数据集 1.0 / 北京人形 RoboMIND
室内导航、场景图、可达性理解。移动底盘与空间智能用。
vLAR PhysInOne / ARIO 全机器人统一数据集 / InternData-M1
轮式底盘 + 机械臂:边走边干。开放世界作业看这批。
Mobile ALOHA / Galaxea Open-World Dataset / ARIO 全机器人统一数据集
仿真基准、域随机化、合成数据。先跑通再迁真机。
Meta-World / RLBench / robosuite
PyBullet 中 3500 万姿态扩散训练数据,经 Google Drive 发布,2024 年。
Phys100K 机器人可达性理解数据:10万多机器人RGB/深度可达性样本,CVPR2025,2025
Unitree G1 Dex3 烤面包操作数据:G1七自由度双臂+Dex3灵巧手,418幕,Apache-2.0,2025
RoboGround 视觉语言操作数据:2.4万仿真演示11.2万指令,1.02TB,MIT,CVPR2025
6.15万张照片级合成图,21个YCB物体,提供3D位姿/分割/深度,用于机器人检测与Sim2Real位姿估计,2018。
Fourier GR2 人形真机数据(社区镜像):傅利叶GR2人形真机操作分组数据镜像,2025
ShareRobot 机器人任务知识数据:含规划/可供性/轨迹约103万QA对,多机器人,2025
RealDex 真机灵巧手抓取序列:2000+灵巧手抓取序列,IJCAI2024,gdown下载,2024
USTC 移动操作真机数据:中科大移动机械臂真实操作数据,CC BY-NC-SA 4.0,2024
DriveMLM 自动驾驶仿真对话数据:CARLA中280小时驾驶数据5万路线,Apache-2.0,2023
USC CLVR的层次化家具装配仿真环境,60+可装配模型、6类机械臂,长程多步装配,2021年发布。
GraspM3 百万级灵巧抓取轨迹:136万灵巧手抓取轨迹,Shadow+Mano,邮件申请,2024
Open6DOR 六自由度物体重排数据:200+物体2400+六自由度重排任务,Apache-2.0,2024
ManipArena 双臂移动操作数据:双臂+移动底盘真实操作,10812+轨迹,Apache-2.0,2025
OpenHLM-data 宇树G1全身操作数据:宇树G1人形全身操作LeRobot数据,181万条,MIT,2025
2025 IsaacSim程序化生成双臂厨房操作集(开关柜/冰箱/洗碗机),LeRobot格式8任务,用于Sim2Real操作。
5万+照片级透明物体合成渲染+286真实图,含法向/分割/深度,仅合成训练即提升真实抓取,ICRA2020。
2025 IsaacSim生成厨房拾取放置合成集(拾取/台面/橱柜),Kinova双臂+程序化场景,LeRobot格式,支持Sim2Real。
2023混合仿真+实体敏捷机器人Sim2Real策略学习框架,提出SFPL安全指标,举办RoboMaster Sim2Real挑战赛。
BDRBench-20 字节机器人操作基准:字节单臂VLA操作基准,8000条真机轨迹,Apache-2.0,2025
2025用Isaac Sim生成UR10随机6DoF姿态数据集,含域随机化(光照/纹理),含真实仓库测试集,用于Sim2Real位姿。
2025 IsaacSim程序化生成的Franka单臂操作运动集(堆叠/开关等),场景与纹理程序随机,用于Sim2Real策略训练。
基于ShapeNet的合成抓取数据集,5.4万场景、496万抓取标注、11k物体,2018,用于Sim2Real抓取检测。
2025真实到仿真校验的操作泛化基准,7项技能×15类扰动×3500+物体,仿真与真实强相关,评测VLA模型。
2024,20个操作任务×12类环境扰动的仿真泛化基准,仿真与真实扰动相关性R²=0.61,量化Sim2Real鲁棒性。
2024高保真机器人仿真框架,复杂多物体环境与精确动力学,支持真实到仿真对齐与Sim2Real策略评测。
UR5软管长程可形变操作数据集,1000条episodes、10+场景,含语言标注,CC BY-NC 4.0,2023年。
2025,Isaac Sim生成1000条Franka三立方堆叠轨迹,经Cosmos做域适应增强,用于行为克隆与Sim2Real迁移。
UC伯克利真实功能操作长程基准,2.25万条轨迹、多阶段抓取-重定向-装配,Franka,CC-BY-4.0,2024年。
UC伯克利的感知运动预训练数据集,908条真实轨迹、4类堆叠/拆堆任务,Franka,MIT许可,2023年。
动态拣选合成数据集,21个YCB物体、50万+帧、BOP格式,含抓/移序列,支持Sim2Real位姿估计,2021。
Meta的人机协作长程规划基准,10万条自然语言任务、60房屋、5819物体,Habitat 3.0,2024年。
RSS2024,提供仿真+真实Franka操作数据(抓取/绕线等),用语义对齐弥合Sim2Real鸿沟,含域随机化集。
IIT的长程双臂操作数据集,200条episodes、20个长程任务、17.6万观测-动作对,真实机器人,2023年。
UT Austin的视觉模仿长程数据集,含摆桌、冲咖啡等长程任务,仿真+真实演示,UR5,2023年。
AI2与CMU的长程多模态终身导航基准,68万回合、181个HM3DSem场景,Stretch执行,2024年。
北航与NUS的紧密协调双臂长程数据集,18个任务、平均361步/4.27阶段,2026年发布。
NVIDIA自动生成大规模演示系统,4.8万+条跨12个操作任务的轨迹,含长程装配与厨房,2023年。
德国 H-BRS 在 Toyota HSR 上采集的物体抓取并抛入抽屉数据,含学习与泛化两套,MongoDB 格式(2021)。
AIRI等基于Isaac Sim的厨房长程基准,563条4–8步语言指令、约2700条移动操作轨迹,Mobile ALOHA,2025年。
谷歌机器人舰队多任务强化学习数据集,92万余条真实轨迹,覆盖拾取、放置、重排等长程技能,2021年发布。
斯坦福与伯克利的弹塑性长程操作数据集,2460条真实Franka轨迹(含LeRobot版),揉面擀面等,2023年。
UT Austin自底向上技能发现数据集,基于robosuite层次化模仿,分解长程任务为可复用基元,2023年。
AI2的移动机械臂操作基准,30个厨房场景、150+物体类,ArmPointNav长程导航+操作,2021年。
CMU提出的杂乱场景整理长程基准,8300个场景与任务,RGB+深度,需多步物体归位与重排,2021年。
USC CLVR层次化技能先验数据集,厨房等域约500条演示,自底向上发现可复用长程技能,2020年。
AI2发布的视觉语义导航基准,99个仿真场景、约1.98万训练回合,支持LoCoBot sim-to-real迁移,2020年。
UT Austin 在 Franka 上采集的 150 段厨房任务视觉模仿演示,覆盖摆桌、冲咖啡等 Household 任务(2022)。
东京大学在 xArm 双臂上采集毛巾操作数据,含取毛巾、展开皱毛巾等任务,用于模仿学习与多物体操作(2023)。
UC Berkeley 自动化实验室在 UR5 上采集 4 类操作任务(毛绒动物抓取、扫布、叠杯、精确定位放置)(2022)。
斯坦福在 KUKA 上采集视觉+触觉多模态数据集,将不同形状插销插入不同孔位,公差约 2mm(2019)。
加州大学圣地亚哥分校在 Franka 上采集 150 段厨房任务演示,配自然语言指令,覆盖多样日常物体操作(2023)。
韩国 KAIST 在 UR5 上采集非抓取式操作数据,将多样真实/3D 打印物体平移并重定向到目标 6D 位姿(2023)。
UC Berkeley 在 Franka 上采集 22550 段功能性装配轨迹,需抓取-重定位-插入多阶段技能,评测泛化(2024)。
南加州大学在 Franka 上采集约 800 段布料操作演示,含沿对角线折叠、对折、拉直绳索等可变形物体任务(2022)。
弗莱堡大学在 Franka 上遥操作采集 1085 段桌面积木演示(约 520 万帧),含抓放、叠块、开抽屉等(2023)。
昆士兰科技大学在 Franka 上采集约 800 段动态抓取演示,含餐具分拣、摆桌、抛垃圾等桌面操作(2023)。
昆士兰科技大学在 Franka 上采集 812 段动态抓取轨迹,目标在 XY 平面随机连续运动,需实时视觉伺服(2022)。
UT Austin 在 UR5 上采集 365 段无分段长程厨房演示,用于无监督技能发现与层级模仿学习(2023)。
UT Austin 在 UR5 上采集 5000 段玩具厨房家务演示,含食物、锅具拾取与放置,用于层级模仿学习(2023)。
UT Austin 在 Franka 上采集 570 段含人类干预的家务演示,含 kcup 插入与齿轮装配等精密插接任务(2023)。
DeepMind 2021堆叠基准,150个程序生成刚体,含仿真环境与真实机械臂单元CAD,支持技能掌握与泛化。
基于MuJoCo的模块化机器人学习仿真框架与基准,含单臂/双臂/人形任务、演示采集与多模态传感。
2025高精度工业箱拣数据集,15个反光金属件、75场景、2.2万图与9.1万毫米级6D位姿,FANUC采集。
亚马逊拣货挑战2016货架-料箱基准,多视角RGB-D场景与6D位姿标注,用于仓储装箱抓取视觉。
2023布料操作Sim2Real鸿沟评测数据集,真实与仿真动态/准静态任务,对比MuJoCo/Bullet/Flex/SOFA。
2021开源dVRK兼容手术机器人学习仿真平台(PyBullet),含14个手术任务与物理交互,支持Sim2Real。
WRS 2018实际空间伙伴机器人挑战YOLO数据集,含真实与合成图像,标注41类目标物,用于物体识别。
2023语言驱动连续状态操作基准,基于Isaac Sim的8个任务,提供模板生成语言描述专家示范。
2023年发布,基于Minecraft的开放世界多任务智能体,含200+任务与多模态记忆规划,覆盖长程任务。
2023年UMass发布,扩展Watch-and-Help支持多智能体通信,含5类家庭任务与长程协作子目标完成。
2022年Stanford发布,基于Minecraft的开放世界具身平台,含73万YouTube视频与180K维基,支持长程任务规划。
2024年ETRI发布,面向语言任务规划器的基准,含ALFRED+AI2-THOR与WAH-NL+VirtualHome两套评测。
2022年Meta发布,高保真家庭重排仿真,含10.5万+重排episodes与200+任务类别,支持长程家务操作。
2018年MIT发布,程序化家庭活动仿真器,含2,500+活动程序与5,000+日常任务,支持自然语言到动作映射。
371段多视角家具组装视频(约300万帧),含深度、原子动作、人体姿态与分割标注,2021。
2022年港中文发布,扩展ALFRED支持智能体主动提问,含50类问句模板与对话引导的家务任务完成。
2023年NTU发布,基于MineDojo的层级任务规划框架,覆盖60+长程技能与多步规划轨迹。
2022年MIT发布,基于Habitat 2.0的杂物收拾长程基准,含15类任务、10,802物体与4.7万+ episodes。
2021年中科大发布,基于VirtualHome-Social的社会协作基准,含10万+多智能体协作与助人轨迹。
2021年Stanford与Google发布,含6,000条众包语言标注与1,699条独特指令,覆盖真实机械臂与仿真语言条件任务。
2020年AI2发布,含25,743条自然语言指令与5,856段专家演示,基于AI2-THOR的七类家务长程任务。
2019年马里兰大学发布,基于Matterport3D的找物导航,含约9,000条语言+视觉辅助指令,智能体可主动求助。
Isaac仿真双臂与拟人操作轨迹,双臂9k+桌面240k(2025) GR00T-X 仿真双臂操作数据集 开源数据集,含公开可下载样本与官方评测。
人形双臂+全身移动10300条260任务,多模态含LiDAR(2025) Humanoid Everyday: 开放世界人形操作数据集 开源数据集,含公开可下载样本与官方评测。
视觉触觉双臂多指操作,4任务800条演示,UR5e+Ability Hand(2024)
全向移动底盘配可换机械臂,手机遥操作家庭移动操作数据(2024) TidyBot++: 开源全向移动操作机器人 开源数据集,含公开可下载样本与官方评测。
Google桌面拾放操作大规模VR遥操作演示,25877条覆盖100任务(2022)
DEX-EE三指手灵巧操作,仿真+真实2753条,自动课程Sim2Real(2024)
ANYmal 足式机器人在野外/城市长距离行走真机数据,含多地形里程计与地形扫描,含 9 小时行走,2023。
Unitree G1 全身遥操作真机数据集,含行走、蹲伏与双臂操作示范,支持统一全身运动策略训练,2026 上线。
光学触觉传感器 TacTip 的 PyBullet RL 基准,含边缘跟随/物体抓取等任务,支持 TacTip/DIGIT/DigiTac,2021。
同构外骨骼驾驶舱采集人形全身 loco-manipulation 遥操作真机数据,含行走+操作,arXiv 2502.13013,2025。
约 10 万触摸-语言-视觉对,基于 GelSight 采集,覆盖物体材质/几何描述,支持触觉多模态大模型,2024。
43,741 对接触图像-触觉-语言三元组数据,DIGIT+网络摄像头采集,支持触觉语言模型训练,ICML 2024。
DIGIT 触觉传感器滑过 10 个 YCB 物体表面,含 50 条滑动轨迹,支持触觉/视觉滑动预测,CoRL2022 (MidasTouch)。
2021年多模态物理仿真平台,支持视听渲染与刚体/柔体交互,含Transport挑战与物体数据集。
147,702 商品清单、398,212 图像与 7,953 个带材质/真实尺寸的 3D 模型,CVPR 2022 发布,用于物体理解与检索。
将离散 R2R 指令迁移到 Habitat 连续环境的 VLN 基准,支持真实动作控制与碰撞,ECCV 2020 发布。
高语义保真合成场景数据集,含 211 个场景、18,000+ 可交互物体、466 类,专为高效具身 AI 训练设计,2023 发布。
18 个高保真室内场景重建数据集,含网格、纹理、语义与实例标注,单场景达数亿面,2019 发布,用于视觉导航仿真。
2022年多模态提示机器人操作基准,程序化生成桌面任务,发布65万专家轨迹用于模仿学习。
2023年离线训练在线测试真实机器人基准,含舀取与倾倒约1895条遥操作轨迹及仿真数据。
面向场景的物体导航(FAO)基准,需从多个物体中按细粒度描述定位目标,含 ScanNet 重建场景,CVPR 2021 发布。
2023年多阶段电缆布线分层imitation数据集,含1442路由、11915选择与257端到端演示轨迹。
2021年物体中心交互仿真环境,15个可交互场景支持温度/湿度等状态,含VR演示与BEHAVIOR。
2023/2024年基于Isaac Sim的GPU机器人学习框架,含30+基准任务与资产,支持RL与模仿学习。
2022年大规模真实机器人操作数据集,13万片段覆盖700+任务,含语言指令与多模态传感数据。
2023年基于Isaac Gym的灵巧操作基准,用群体化训练学习重抓取、抛投与物体重定向等任务。
2021年云端桌面整理抓取与操作竞赛基准,含76场景6004张标注RGB-D图像及真实数据集。
2025年灵巧手生成式仿真管线,用LLM/VLM闭环生成多样灵巧操作任务与环境及轨迹数据。
2023年Kinova Jaco2语言标注遥操作数据集,1085条桌面拾放轨迹,含多视角RGB与状态。
2022年程序生成的大规模具身AI室内数据集,含1万套房屋场景,支持导航与操作任务。
2018年最大规模机器人演示数据集之一,含8260条人-机演示覆盖20类操作任务,配对视频与轨迹。
2018/2019年众包遥操作数据集,Pilot含3224条演示,真实集111小时、54名用户长程操作。
2022年发布的基于Unity的多物理场机器人仿真平台,支持87种原子动作与刚体/流体/热耦合,提供多类家庭任务基准。
2024/2025年GPU并行化机器人仿真与渲染框架,含50+操作任务与可下载演示数据集,RSS 2025。
2025年基于ManiSkill3的家庭重排低级操作基准,含TidyHouse等三任务约3.3万任务计划,HF可下。
2023年生成式仿真框架,用GPT-4自动生成百余种刚体操作与运动任务及轨迹数据。
2023年真实家具组装长程操作基准,8种家具、219小时遥操作演示,含标准化配置与数据集。
2024年发布的城市级具身仿真平台,含GRScenes十万个可交互场景、89类功能场景,配套LLM驱动的NPC与GRBench基准。
2024年发布的统一可扩展视觉-语言机器人交互仿真框架,基于Isaac Sim,含生成式3D资产与四类交互基准。
2025年发布的十亿帧合成抓取数据集,含1万+物体、240类,基于光线追踪渲染与物理仿真,支撑VLA抓取基础模型。
2025 RSS/ICML发布的统一仿真平台与合成数据集,含51万轨迹、5000万+状态转移、276任务、5500资产,基于METASIM。
2023 ICCV发布的灵巧手抓取扩展数据集,覆盖3000+真实物体实例,支持从视觉到抓取的端到端泛化研究。
2025 ICCV发布的语言条件机器人操作基准,含100类任务、2000+物体,支持长程推理与常识迁移,提供自动化训练数据。
SAGE-3D 由群核科技 SpatialVerse 开源,用 3D 高斯泼溅重建室内空间并配套视觉语言导航指令(关联论文 arXiv:2510.21307),采用 CC BY-4.0 许可,主打仿真到真机的导航迁移。
i2Nav-Robot 是武汉大学 i2Nav 实验室发布的大规模室内外机器人数据集,提供激光、视觉、IMU 与 GNSS 多源同步数据及高精度位姿真值,用于多传感器融合导航与建图算法评测。
RoboSense 是面向拥挤与非结构化环境的第一视角机器人感知与导航数据集及基准,由上海交大团队开源,重点覆盖人群密集、遮挡严重的真实户外场景,弥补了自动驾驶数据集在低速服务机器人视角下的缺失。
HIW-500 覆盖约 500 类家庭物品的真机操作数据,HF 页面标注 robotics/humanoid 标签并采用 CC BY-4.0 开放许可,数据结构中含完整相机内参与时间戳,便于直接做多视角重建与策略训练。
OpenNeoData 是新智具身在 Hugging Face 开源的真机操作数据集,采用 LeRobot 格式、规模在十万至百万样本量级,标签体系覆盖机器人操作与模仿学习,许可为 CC BY-NC-SA 4.0 非商业使用。
RealSource-World 是睿尔曼智能开源的真机操作数据集,HF 页面标注规模量级在千万行级,涵盖双臂操作与全身控制标签,采用 CC BY-NC-SA 4.0 非商业许可,配有独立项目主页说明采集方案。
OpenLET 由乐聚与开放原子于 2026年3月17日开源,定位融合触觉灵巧操作与全身高动态运动的多模态具身数据集,含 LET-Body、LET-Dex、LET-Base 三个子集,面向全尺寸人形 Kuavo 系列真机场景。
LingBot-Depth-Dataset 由蚂蚁灵波科技于 2026年3月31日开源,为大规模 RGB-D 深度数据集,公开口径称含约 300 万对样本(200 万真实 + 100 万渲染),总规模约 2.71TB,覆盖 6 款主流深度相机。
我是硅基参考 Agent,熟产品库、数据集、公司档案和近期资讯。你可以直接问,也可以先让我了解你是谁、在看什么——我会把库里的资料和你说的话对上号,像同事聊天那样一点点聊。