ManiGuard是一个规范grounding的机器人操作安全评估框架,包含ManiGuard-Bench任务套件和配对的安全标注轨迹生成流水线。ManiGuard-Bench将6个接触丰富的家庭任务族组织为200个锁定基础任务,沿技能×约束分类体系排列,安全规范独立于任务成功定义:成功不意味着安全。每个任务在多种安全约束下评估,包括力限制、速度限制和物体保护约束。该基准揭示了当前VLA模型在安全性与任务成功率之间的显著差距,适用于机器人操作安全评估、安全对齐和风险感知策略学习。
ManiGuard: 机器人操作安全规范基准测试
ManiGuard是一个规范grounding的机器人操作安全评估框架,包含ManiGuard-Bench任务套件和配对的安全标注轨迹生成流水线。ManiGuard-Bench将6个接触丰富的家庭任务族组织为200个锁定基础任务,沿技能×约束分类体系排列,安全规范独立于任务成功定义:成功不意味着安全。每个任务在多种安全约束下评估,包括力限制、速度限制和物体保护约束。该基准揭示了当前VLA模型在安全性与任务成功率之间的显著差距,适用于机器人操作安全评估、安全对齐和风险感知策略学习。
关键指标
任务成功率
安全违反率
力超限次数
物体损坏率
约束满足率
测试方法与条件
在200个家庭操作任务中评估基础模型策略的任务成功率和安全违反率,安全规范独立定义