[发明专利]利用层级式外部存储器的增强神经网络

权利要求书

1.一种用于处理系统输入的序列以生成系统输出的序列的增强型神经网络系统，所述增强型神经网络系统包括：

控制器神经网络，被配置为在多个时步的每一者处接收神经网络输入并且处理所述神经网络输入以为该时步生成神经网络输出，其中每个神经网络输出包括：

存储键；

层级式外部存储器，包括被布置为二叉树的多个存储节点；以及

存储器访问子系统，其被配置为对于所述多个时步的每一者：

遍历所述二叉树以利用所述存储键生成从所述二叉树中的根存储节点到所述二叉树中的特定叶存储节点的路径，其中，基于沿着从所述二叉树中的根存储节点到所述二叉树中的特定叶存储节点的路径的每个父节点处生成的概率值来选择所述特定叶存储节点，并且每个父节点处的所述概率值基于当前存储在所述父节点中的数据和所述存储键生成，

读取所述特定叶存储节点中存储的数据，并且

利用所述存储键来更新所述特定叶存储节点中存储的数据。

2.如权利要求1所述的系统，其中，更新所述特定叶存储节点中存储的数据包括：

利用写入神经网络处理所述特定叶存储节点中存储的数据和所述存储键，其中所述写入神经网络被配置为处理所述特定叶存储节点中存储的数据和所述存储键以生成经更新的存储节点数据；并且

将所述经更新的存储节点数据写入到所述特定叶存储节点。

3.如权利要求2所述的系统，其中，所述存储器访问子系统还被配置为，对于所述多个时步的每一者：

通过以下操作来按反向遍历顺序更新所述路径上除了所述特定叶存储节点以外的其他存储节点中存储的数据，对于其他节点的每一者：

利用连接神经网络处理在所述路径上的该节点的子节点中存储的经更新的数据和不在所述路径上的子节点中存储的数据，其中所述连接神经网络被配置为处理一个子节点中存储的数据和另一子节点中存储的数据并且为该一个子节点和该另一子节点的父节点生成经更新的数据；并且

将经更新的数据写入到该节点。

4.如权利要求1-3的任何一者所述的系统，其中，利用所述存储键遍历所述二叉树包括，在直到所述特定叶存储节点为止的所述路径上的每个存储节点处：

利用搜索神经网络处理该存储节点中存储的数据和所述存储键，其中所述搜索神经网络被配置为处理该存储节点中存储的数据和所述存储键以生成概率值p；

遵循从该存储节点起的第一分支来以概率p向该路径添加新的子节点；并且

遵循从该存储节点起的第二分支来以概率1–p向该路径添加新的子节点。

5.如权利要求1-3的任何一者所述的系统，其中，所述存储器访问子系统还被配置为：

利用所述系统输入的序列来初始化所述二叉树的叶存储节点中存储的数据。

6.如权利要求5所述的系统，其中，所述存储器访问子系统还被配置为：

通过以下操作来按自下而上的顺序初始化所述树中的除了所述叶存储节点以外的其他存储节点中存储的数据：对于其他节点的每一者：

利用连接神经网络处理该节点的子节点中存储的经更新的数据，其中所述连接神经网络被配置为处理一个子节点中存储的数据和另一子节点中存储的数据以为该一个子节点和该另一子节点的父节点生成经更新的数据；并且

将经更新的数据写入到该节点。

7.如权利要求1-3的任何一者所述的系统，其中，所述系统还包括一个或多个输出层，并且其中，所述一个或多个输出层被配置为，对于所述多个时步的每一者：

处理对于该时步从所述外部存储器读取的数据来为该时步生成系统输出。

8.如权利要求1-3的任何一者所述的系统，其中，所述多个时步的每一者的神经网络输出还包括系统输出部分。

9.如权利要求8所述的系统，其中，所述存储器访问子系统还被配置为，对于所述多个时步的每一者，提供从所述系统输出部分得出的输出来作为该时步的系统输出。