[发明专利]将循环人工神经网络中的活动特征化以及编码和解码信息

权利要求书

1.一种设备，包括：

神经网络，所述神经网络被耦合以输入在源神经网络中响应于多个不同的输入而出现的活动的模式中的拓扑结构的表示，其中所述神经网络被训练以处理所述表示并且产生响应输出。

2.根据权利要求1所述的设备，其中所述拓扑结构全都包含所述源神经网络中的两个或更多个节点以及所述节点之间的一个或多个边。

3.根据权利要求1所述的设备，还包括：

致动器，所述致动器被耦合以接收来自所述神经网络的所述响应输出并且作用于真实或虚拟环境；

传感器，所述传感器被耦合以测量所述环境的特征；以及

教师模块，所述教师模块被配置为解释从所述传感器接收的测量结果并且向所述神经网络提供奖励和/或遗憾。

4.根据权利要求1所述的设备，其中所述拓扑结构包括单纯形。

5.根据权利要求1所述的设备，其中所述拓扑结构包围空腔。

6.根据权利要求1所述的设备，其中拓扑结构的所述表示表示仅在如下时间在所述源神经网络中出现的拓扑结构：在所述时间期间活动的所述模式具有与响应于所述输入中的相应的输入的其他活动的复杂度可区分的复杂度。

7.根据权利要求1所述的设备，其中所述设备还包括

第二神经网络，所述第二神经网络被训练以响应于多个不同的输入而产生在所述源神经网络中响应于所述不同的输入而出现的活动的模式中的拓扑结构的所述表示的相应的近似。

8.根据权利要求7所述的设备，还包括：

致动器，所述致动器被耦合以接收来自所述神经网络的所述响应输出并且作用于真实或虚拟环境；以及

传感器，所述传感器被耦合以测量所述环境的特征，

其中所述第二神经网络被训练以至少部分地响应于所述环境的所测量的特征而产生所述相应的近似。

9.根据权利要求8所述的设备，还包括：

教师模块，所述教师模块被配置为解释从所述传感器接收的测量结果并且向所述神经网络提供奖励和/或遗憾。

10.根据权利要求1所述的设备，其中拓扑结构的所述表示包括多值、非二进制数字。

11.根据权利要求1所述的设备，其中拓扑结构的所述表示表示所述拓扑结构的发生，而不指定活动的所述模式在所述源神经网络中出现在哪里。

12.根据权利要求1所述的设备，其中所述设备包括智能电话。

13.根据权利要求1所述的设备，其中所述源神经网络是循环神经网络。

14.一种由一个或多个数据处理设备执行的方法，所述方法包括：

接收训练集，所述训练集包括源神经网络中的活动的模式中的拓扑结构的多个表示，其中所述活动响应于到所述源神经网络中的输入；以及

使用所述表示作为到神经网络的输入或作为目标答案向量来训练所述神经网络。

15.根据权利要求14所述的方法，其中所述拓扑结构全都包含所述源神经网络中的两个或更多个节点以及所述节点之间的一个或多个边。

16.根据权利要求14所述的方法，其中：

所述训练集还包括多个输入向量，每个所述输入向量对应于所述表示中的相应的表示；并且

训练所述神经网络包括使用所述多个表示中的每个作为目标答案向量来训练所述神经网络。

17.根据权利要求14所述的方法，其中：

训练所述神经网络包括使用所述多个表示中的每个作为输入来训练所述神经网络。