×

数据高效的第三人称模仿学习方法综述

消耗积分:0 | 格式:pdf | 大小:1.84 MB | 2021-04-14

分享资料个

  模仿学习提供了一种能够使智能体从专家示范中学习如何决策的框架。在学习过程中,智能体无需与专家进行交互也不依赖于环境的奖励信号,而只需要大量的专家示范。经典的模仿学习方法霱要使用第一亼称的专家示范,该示范由一个状态序列以及对应的专家动作序列组成。但是,在现实生活中,专家示范通常以第三人称视频的形式存在。相比第一人称专家示范,第三人称示范的观察视角与智能体的存在差异,导致两者之间缺乏一一对应关系,因此第三人称示范无法被直接用于模仿学习中。针对此问题,文中提出了一种数据高效的第三人称模仿学习方法。首先,该方法在生成对抗模仿学习的基础上引入了图像差分方法,利用马尔可夫决策过程的马尔可夫性质以及其状态的时间连续性,去除环境背景、颜色等领域特征,以得到观察图像中与行为策略最相关的部分,并将其用于模仿学习;其次,该方法引入了一个变分判别器瓶颈,以对判别器进行限制,进步削弱了领域特征对策略学习的影响。为了验证所提算法的性能,通过 Mujocˆo平台中的3个实验环境对其进行了测试,并与已有算法进行了比较。实验结釆表明,与已有的模仿学习方法相比,该方法在第三人称模仿学习任务中具有更妤的性能表现,并且不需要额外増加对样本的需求。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

评论(0)
发评论

下载排行榜

全部0条评论

快来发表一下你的评论吧 !