AI模仿人脑记忆模式，游戏成绩大涨29.9%_风闻

　　克雷西 发自 凹非寺

　　量子位 | 公众号 QbitAI

　　我们常常被教育的做事“三思而后行”，充分运用积累过的经验，现在这句话对AI也有所启发了。

　　传统的决策AI模型由于遗忘效应的存在不能有效积累经验，但一项由华人主导的研究改变了AI的记忆方式。

　　新的记忆方式模仿了人类大脑，有效地提高了AI积累经验的效率，从而将AI打游戏的成绩提高了29.9%。

　　研究团队由六人组成，分别来自米拉-魁北克AI研究院和微软蒙特利尔研究所，其中有四名是华人。

　　他们将成果命名为的带有记忆的决策Transformer(DT-Mem)。

　　相比传统的决策模型，DT-Mem适用广泛性更强，模型运算的效率也更高。

　　除了应用效果，DT-Mem的训练时间也从最短200小时缩短至50小时。

　　同时，团队还提出了一种微调方式，让DT-Mem能够适应未训练过的新场景。

　　微调后的模型，面对没有学习过的游戏，也能拥有不错的表现。

　　工作机制受到人类启发

　　传统的决策模型基于LLM进行设计，采用隐性记忆，其性能依赖于数据和计算。

　　隐性记忆是无意识产生而非刻意记住的，因而也无法有意识地进行调用。

　　说得通俗一些，就是明明有关内容就存储在那里，但是模型却并不知道它的存在。

　　隐性记忆的这一特点决定了传统模型存在遗忘现象，导致其工作效率往往不高。

　　遗忘现象表现为，在学了新的问题解决方式之后，模型可能会将旧的内容忘记，哪怕新旧问题是同一类型。

　　而人脑采用分布式记忆存储方式，记忆的内容被分散存储在大脑中的多个不同区域。

　　这种方式有助于有效地管理和组织多种技能，从而减轻遗忘现象。

　　受此启发，研究团队提出了一个内部工作记忆模块来存储、混合和检索不同下游任务的信息。

　　具体而言，DT-Mem由Transformer、记忆模块和多层感知(MLP)模块三部分组成。

　　DT-Mem的Transformer模仿了GPT-2的架构，但删去了注意力机制后的前馈层。

　　同时，GPT-2中的MLP模块被拆分成了独立组件，作为DT-Mem的一部分。

　　在二者之间，研究团队引入了一个工作记忆模块，用于存储和处理中间信息。

　　这一结构是受到神经图灵机的启发，其中的记忆被用于推断多种算法。

　　记忆模块分析Transformer输出的信息，并决定其存储位置以及与已有信息的整合方式。

　　此外，该模块还要考虑这些信息在今后做出决策的过程当中如何使用。

　　这些任务大概通过五个步骤来完成，记忆模块首先被初始化为一个随机矩阵。

　　然后是对输入信息的整理，这一步并不是将信息传给Transformer，而是以元组形式存入同一空间。

　　之后就要确定存储位置。人类通常会将相关的信息存储到同一位置，DT-Mem也是基于这一原理。

　　最后两步——记忆更新和检索是记忆模块的核心，也是整个DT-Mem中最重要的环节。

　　记忆更新，即对已有信息进行编辑替换，以确保信息能根据任务需要及时更新。

　　这一步中DT-Mem会计算擦除和写入两个向量，进而判断如何与已有数据混合。

　　记忆检索则是对已有信息的访问和恢复，在需要做出决策时及时调取相关有用信息。

　　投入实际使用之前，DT-Mem还要经历预训练过程。

　　而对于DT-Mem的微调，团队也提出了一种新的方式。

　　由于使用的是基于任务进行标记的数据，这种微调能够帮助DT-Mem适应新的任务。

　　这一过程基于低秩适应(LoRA)进行，在已有的矩阵中加入低秩元素。

　　训练时间最多缩短32倍

　　为了测试DT-Mem的决策能力，研究团队让它玩了几款游戏。

　　游戏一共有5款，全部来自Atari公司。

　　同时，团队还测试了传统模型M[ulti-game]DT的表现作为参照。

　　结果，DT-Mem在其中4款游戏里的最好成绩均胜过MDT。

　　具体而言，DT-Mem比MDT的DQN标准化分数提高了29.9%。

　　但是，DT-Mem的参数量只有20M，仅是MDT（200M参数）的10%。

　　这样的表现，说是四两拨千斤一点也不过分。

　　除了表现优异，DT-Mem的训练效率也完爆MDT。

　　13M参数量版本的MDT需要200小时进行训练，而20M的DT-Mem却只需要50个小时。

　　如果和200M的版本相比，训练时间足足缩短了32倍，表现却更优异。

　　而针对团队提出的微调方式的测试结果也表明，这种微调增强了DT-Mem适应未知情景的能力。

　　需要说明的是，下表中用来测试的游戏对于MDT来说是已知的，因此MDT的表现在这一轮当中不作为衡量依据。

　　除了玩游戏，团队还使用了Meta-World ML45基准对DT-Mem进行了测试。

　　这次用作参照的是H[yper]DT和P[romot]DT。

　　结果显示，未经微调的模型当中，DT-Mem成绩比HDT高出8个百分点。

　　需要说明的是，这里测试的HDT本身参数量虽然只有69K，但需依赖于2.3M参数量的预训练模型，因此实际的参数量是DT-Mem(147K)的10余倍。

　　论文地址：

　　https://arxiv.org/abs/2305.16338