Explainable AI for Robotics: A Review
Explainable AI for Robotics: A Review（机器人可解释人工智能综述）是由人机交互和可解释AI领域研究者系统整理的经典综述论文，是机器人可解释性领域重要的综述之一。该论文系统地回顾了可解释人工智能（XAI）技术在机器人中的应用，包括模型可解释性（特征归因、概念激活向量、注意力可视化）、事后解释方法（LIME、SHAP、Grad-CAM）、内在可解释模型（决策树、规则提取、符号推理）、自然语言解释生成、多模态解释等多个方面。该论文详细分析了机器人可解释性的核心挑战，包括高维感知输入的解释、时序决策的解释、多模态解释的一致性、用户认知负荷、信任校准、实时性等，并讨论了可解释AI在机器人中的应用场景，包括人机协作、医疗机器人、自动驾驶、服务机器人、教育机器人等。可解释AI是使机器人决策透明、可信、可审计的关键技术，能够让用户理解机器人为什么做出某个决策，建立适当的信任，在安全关键和高风险领域具有重要意义。该论文被引用超过1500次，是机器人可解释性领域的入门必读文献，对后续的可解释机器人、透明AI、人机信任等研究产生了深远影响。
主体信息
Explainable AI for Robotics: A Review（机器人可解释人工智能综述）是由人机交互和可解释AI领域研究者系统整理的经典综述论文，是机器人可解释性领域重要的综述之一。该论文系统地回顾了可解释人工智能（XAI）技术在机器人中的应用，包括模型可解释性（特征归因、概念激活向量、注意力可视化）、事后解释方法（LIME、SHAP、Grad-CAM）、内在可解释模型（决策树、规则提取、符号推理）、自然语言解释生成、多模态解释等多个方面。该论文详细分析了机器人可解释性的核心挑战，包括高维感知输入的解释、时序决策的解释、多模态解释的一致性、用户认知负荷、信任校准、实时性等，并讨论了可解释AI在机器人中的应用场景，包括人机协作、医疗机器人、自动驾驶、服务机器人、教育机器人等。可解释AI是使机器人决策透明、可信、可审计的关键技术，能够让用户理解机器人为什么做出某个决策，建立适当的信任，在安全关键和高风险领域具有重要意义。该论文被引用超过1500次，是机器人可解释性领域的入门必读文献，对后续的可解释机器人、透明AI、人机信任等研究产生了深远影响。