[发明专利]存储器中的推理

权利要求书

1.一种增强型存储器模块，包括：

计算核心；以及

一个或多个双模式存储器元件，

其中所述增强型存储器模块被配置为：

将所述一个或多个双模式存储器元件中的存储器的第一子集分配为主机处理系统可寻址存储器，并且将所述一个或多个双模式存储器元件中的存储器的第二子集分配为计算核心可寻址存储器；

接收来自主机处理系统的数据；

利用所述计算核心处理所述数据，以生成经处理数据；以及

经由存储器的所述第一子集，将所述经处理数据提供给所述主机处理系统。

2.根据权利要求1所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：

将所接收的所述数据存储在存储器的所述第一子集中；

在利用所述计算核心处理所述数据之前，将所接收的所述数据从存储器的所述第一子集转移到存储器的所述第二子集；以及

在利用所述计算核心处理所述数据之后，将所述经处理数据从存储器的所述第二子集转移到存储器的所述第一子集。

3.根据权利要求1所述的增强型存储器模块，其中存储器的所述第二子集还包括被配置为由所述计算核心使用的一个或多个单模式存储器。

4.根据权利要求1所述的增强型存储器模块，还包括：闪存存储器模块，包括用于分配存储器的所述第一子集和存储器的所述第二子集的固件指令。

5.根据权利要求1所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：在将所述数据从存储器的所述第一子集转移到存储器的所述第二子集之前，在所述主机处理系统的数据总线上设置繁忙状态，以指示数据转移正在进行。

6.根据权利要求5所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：在将所述数据从存储器的所述第一子集转移到存储器的所述第二子集之后，在所述主机处理系统的所述数据总线上设置可用状态。

7.根据权利要求1所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：在将所述数据从存储器的所述第一子集转移到存储器的所述第二子集之前，启用用于所述增强型存储器模块的主机处理系统存储器命令块。

8.根据权利要求7所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：在将所述数据从存储器的所述第一子集转移到存储器的所述第二子集之后，禁用用于所述增强型存储器模块的所述主机处理系统存储器命令块。

9.根据权利要求1所述的增强型存储器模块，其中所述数据包括：

用于由机器学习模型处理的数据；以及

机器学习模型参数。

10.根据权利要求1所述的增强型存储器模块，其中所述增强型存储器模块包括双列直插式存储器模块(DIMM)。

11.根据权利要求1所述的增强型存储器模块，其中所述增强型存储器模块还被配置为：

解除分配存储器的所述第一子集和存储器的所述第二子集；以及

将所述一个或多个双模式存储器元件中的存储器的第三子集分配为主机处理系统可寻址存储器，并且将所述一个或多个双模式存储器元件中的存储器的第四子集分配为计算核心可寻址存储器，

其中存储器的所述第三子集不同于所述第一子集，并且

其中存储器的所述第四子集不同于所述第二子集。