计算机科学与探索

作者：赵婷婷, 王莹, 孙威, 陈亚瑞, 王嫄, 杨巨成

单位：天津科技大学 人工智能学院，天津 300457

关键词：无模型强化学习,策略模型,状态表示,动作表示,连续动作空间,策略搜索强化学习方法

策略搜索是深度强化学习领域中一种能够解决大规模连续状态空间和动作空间问题的高效学习方法，被广泛应用在现实问题中。然而，此类方法通常需要花费大量的学习样本和训练时间，且泛化能力较差，学到的策略模型难以泛化至环境中看似微小的变化。为了解决上述问题，提出了一种基于潜在空间的策略搜索强化学习方法。将学习状态表示的思想拓展到动作表示上，即在动作表示的潜在空间中学习策略，再将动作表示映射到真实动作空间中。通过表示学习模型的引入，摒弃端到端的训练方式，将整个强化学习任务划分成大规模的表示模型部分和小规模的策略模型部分，使用无监督的学习方法来学习表示模型，使用策略搜索强化学习方法学习小规模的策略模型。大规模的表示模型能保留应有的泛化性和表达能力，小规模的策略模型有助于减轻策略学习的负担，从而在一定程度上缓解深度强化学习领域中样本利用率低、学习效率低和动作选择泛化性弱的问题。最后，在智能控制任务CarRacing和Cheetah中验证了引入潜在空间中的状态表示和动作表示的有效性。

来源：2024年第4期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2024年第4期