人类在不断为机器人更新换代技术的同时，也赋予了它们自学的能力，而机器人的深度增强学习正如孩子的学习一样，遵循着熟能生巧的规律。每次在操作机器人进行任务的时候，我们都需要先将它之前的设置归零，不过每次这样的操作都是极为漫长的，需要耗费不少的时间。
谷歌大脑、剑桥大学、马克斯·普朗克智能系统研究所及加州大学伯克利分校的研究人员在 arXiv 上联合发表了一篇论文，详细介绍了一种可以让智能体在下一次任务前重置环境的方法，同时还能阻止智能体执行不可逆转行动。
其创新点在于，让智能体在“前进”与“重置”两种策略下同时工作。在前进策略下执行学习任务时，重置策略可以迫使智能体有效地撤消任务，并且“不留痕迹”。机器人会尽可能快地中止被认为是不可逆转的行动。
研究人员希望赋予智能体一种“直觉”：将可逆转事物划分为安全行动类别，因为这样智能体就能回归到原始状态。通过反复实验，智能体发现了越来越多的可逆转性行动，以保证其安全运行。
深度增强学习通常是在模拟环境下进行的，在容错率更低的现实世界中更应如此，比如一辆在悬崖边行驶的汽车。即使是在安全环境下，等待手动重置也将成为数据收集的瓶颈。所以，团队的研究工作仅局限于虚拟环境。但最终，现实世界的测试是必不可少的，智能体也将变得更快、更安全。
正如 Jack Clark 在 Import AI 上所指出的，这篇论文与 Facebook 人工智能实验室(FAIR)上月发表的一篇论文的研究工作产生共鸣。FAIR 的智能体有两个独立的模式，分别是 Alice 和 Bob，他们一个尝试逆转任务进程，另一个则尽力完成行动。这种工作模式让 AI 能够提前规划行动，可以让我们避免未来的灾难性失误。
