[发明专利]一种基于序列推荐系统的通用网络压缩框架和压缩方法

权利要求书

1.一种基于序列推荐系统的通用网络压缩框架，包括：

基于分块自适应分解的输入嵌入层：根据推荐项的频率将推荐项集合划分为多个簇并将输入嵌入矩阵分割为对应的多个块,其中为每个簇的块分配不同维度；

分层参数共享的中间层：连接所述输入嵌入层，由多个残差块堆积而成，采用分层参数共享机制进行参数共享；

基于分块自适应分解的输出层：与所述输入嵌入层使用相同的分块嵌入的聚簇配置，并采用树型结构表示各簇的块，获得输出序列的概率分布，进而对期望的推荐项进行预测。

2.根据权利要求1所述的基于序列推荐系统的通用网络压缩框架，其中，所述根据推荐项的频率将推荐项集合划分为多个簇并将输入嵌入矩阵分割为对应的多个块包括：

根据推荐项的频率对所有推荐项进行排序S＝{x₁,x₂,…,x_K}，其中x₁和x_K分别是频率最高和最低的推荐项；

将推荐项集合S划分为n个簇，表示为S＝S₁∪S₂,…,∪S_n-1∪S_n,其中α≠β，每个簇中推荐项的数量为k₁,k₂,…,k_n,且K为所有推荐项的数量；

将输入嵌入矩阵E∈R^K×d分割为n个块，表示为其中d是嵌入大小。

3.根据权利要求2所述的基于序列推荐系统的通用网络压缩框架，其中，对于输入嵌入层，还包括：

将块j＝2,…,n分解为两个低阶矩阵其中d_j是第j个块的因式分解维度；

对于一给定推荐项标签IDx，其嵌入向量v_x∈R^d表示为：

其中表示第j个块的第g行的嵌入向量，

4.根据权利要求1所述的基于序列推荐系统的通用网络压缩框架，其中，所述分层参数共享机制包括：

跨块参数共享，表示所有较高层都重复使用第一个残差块的参数；

相邻层参数共享，表示每个残差块中的两个单独的层共享相同的参数集；

相邻块参数共享，表示在每两个相邻残差块之间共享参数。

5.根据权利要求3所述的基于序列推荐系统的通用网络压缩框架，其中，所述采用树型结构表示各簇的块包括：

构建两层树结构，每个树节点代表一个簇，第一个簇的嵌入矩阵被保存在树的根节点，其它簇的嵌入矩阵被保存在树的第二层的叶子节点中；

对于第一个簇，其中每一个推荐项被表示为一个不同的类，而对于其它的簇，为每一个推荐项分配两个节点，包括使用其簇的位置作为该推荐项的父类的根节点和代表其簇中特定位置的叶子节点。

6.根据权利要求5所述的基于序列推荐系统的通用网络压缩框架，其中，所述输出层还执行：

将第一个块矩阵扩展为其中n-1表示叶子节点所属的父类的数量，第一个簇的标签集合被扩展为S₁＝{1,2,…,k₁+n-1},其中k₁+1到k₁+n-1对应于第2个至第n个簇的父类标签；输出层的其它的块矩阵表示为j＝2,…,n,其中

7.根据权利要求1所述的基于序列推荐系统的通用网络压缩框架，其中，配置为包括多个中间层，并且每两个中间层都使用残差连接，作为一个残差块，通过倍增每一层的空洞因子来获得指数增长的感受野。