Explainable Robotics and Interpretable AI: A Review

该论文是可解释机器人与可解释AI领域的综合性综述，系统梳理了机器人系统的可解释性方法、可解释AI技术和在各类机器人系统中的应用。可解释机器人旨在使机器人的决策和行为能够被人类理解和信任，是机器人技术在安全关键领域应用的重要前提，在医疗机器人、自动驾驶、工业机器人、服务机器人等领域有广泛应用。论文将可解释机器人方法分为五大类：1）基于模型的可解释方法，包括物理模型、状态空间模型、因果模型等；2）基于规则的可解释方法，包括专家系统、决策树、模糊逻辑等；3）基于可视化的可解释方法，包括注意力可视化、特征可视化、决策路径可视化等；4）基于事后解释的方法，包括LIME、SHAP、Grad-CAM、反事实解释等；5）基于内在可解释的方法，包括可解释神经网络、符号推理、神经符号融合等。论文详细讨论了机器人决策解释、运动规划解释、感知结果解释、人机交互中的解释、可解释性评估等关键技术，以及在医疗机器人、自动驾驶、工业机器人等场景的应用。该综述引用超过500次，是可解释机器人领域的重要参考资料。