QMIX: Monotonic Value Function Factorisation for Deep Multi-Agent Reinforcement Learning
QMIX: Monotonic Value Function Factorisation for Deep Multi-Agent Reinforcement Learning是由Tabish Rashid、Mikayel Samvelyan、Christian Schroeder de Witt、Gregory Farquhar、Jakob Foerster和Shimon Whiteson于2018年发表在ICML上的经典论文,是多智能体强化学习领域最重要的论文之一。该论文提出了QMIX算法,一种基于值函数分解的多智能体强化学习方法,通过单调混合网络将每个智能体的局部Q值分解为全局Q值,保证全局最优动作与每个智能体的局部最优动作一致。QMIX采用集中式训练-分布式执行(CTDE)范式,在训练阶段使用集中式的混合网络,在执行阶段每个智能体使用独立的局部Q网络进行决策。QMIX能够有效处理完全合作场景下的多智能体学习问题,在StarCraft多智能体挑战(SMAC)等基准测试中取得了当时最优的性能。该论文被引用超过3000次,是值函数分解类MARL方法的代表,对后续的QPLEX、Weighted QMIX等研究产生了深远影响。
主体信息
QMIX: Monotonic Value Function Factorisation for Deep Multi-Agent Reinforcement Learning是由Tabish Rashid、Mikayel Samvelyan、Christian Schroeder de Witt、Gregory Farquhar、Jakob Foerster和Shimon Whiteson于2018年发表在ICML上的经典论文,是多智能体强化学习领域最重要的论文之一。该论文提出了QMIX算法,一种基于值函数分解的多智能体强化学习方法,通过单调混合网络将每个智能体的局部Q值分解为全局Q值,保证全局最优动作与每个智能体的局部最优动作一致。QMIX采用集中式训练-分布式执行(CTDE)范式,在训练阶段使用集中式的混合网络,在执行阶段每个智能体使用独立的局部Q网络进行决策。QMIX能够有效处理完全合作场景下的多智能体学习问题,在StarCraft多智能体挑战(SMAC)等基准测试中取得了当时最优的性能。该论文被引用超过3000次,是值函数分解类MARL方法的代表,对后续的QPLEX、Weighted QMIX等研究产生了深远影响。