[发明专利]一种基于动态时序图的模型性能推理方法与装置在审
| 申请号: | 202210215486.5 | 申请日: | 2022-03-07 |
| 公开(公告)号: | CN114818459A | 公开(公告)日: | 2022-07-29 |
| 发明(设计)人: | 陈晋音;葛杰;金海波;贾澄钰;宣琦 | 申请(专利权)人: | 浙江工业大学 |
| 主分类号: | G06F30/27 | 分类号: | G06F30/27;G06K9/62;G06F119/02 |
| 代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 邱启旺 |
| 地址: | 310014 浙*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 动态 时序 模型 性能 推理 方法 装置 | ||
1.一种基于动态时序图的模型性能推理方法,其特征在于,包括以下步骤:
(1)选取数据集,构建种子模型,设定模型训练参数,使用数据集训练种子模型,得到种子模型的检查点;
(2)读取步骤(1)生成的种子模型的检查点,初始化无向有权图,将种子模型的映射为时间演化图;
(3)计算时间演化图对应的特征向量中心性,得到图节点特征;
(4)将步骤(2)得到的时间演化图中t时刻的图称为时间静态图,利用图节点特征计算每个时刻静态图的统计特征,聚合得到时序特征;
(5)基于时序特征构建损失函数,训练得到性能预测分类器,通过性能预测分类器完成模型性能推理。
2.根据权利要求1所述的基于动态时序图的模型性能推理方法,其特征在于,所述数据集为包括Cifar10、Cifar100或Mnist在内的数据集;所述种子模型为包括Lenet5、VGG、Resnet在内的深度学习模型。
3.根据权利要求1所述的基于动态时序图的模型性能推理方法,其特征在于,所述构建种子模型具体为:改变种子模型训练的学习率和随机失活率,生成足量的种子模型其中lr_n和drop_n分别表示不同学习率和不同随机失活率的数量。
4.根据权利要求1所述的基于动态时序图的模型性能推理方法,其特征在于,所述训练种子模型具体为:
设为一神经网络在学习率lri和dropout率dropj下,训练迭代T次得到的模型集;每个表示为t训练时刻保存的检查点,即为模型的t时刻的权重参数θ;其中每组模型集的训练损失函数为:
其中x表示参与训练的图像样本,y表示x样本对应的真实标签,lr表示模型集设定的学习率,drop表示模型集设定的随机失活率,θ表示模型需要更新的权重参数,class_n表示分类任务的类别数,yi表示样本x在类别i的真实分布,表示样本x在类别i的预测分布。
5.根据权利要求1所述的基于动态时序图的模型性能推理方法,其特征在于,所述步骤(2)具体为:
(2.1)读取神经网络模型检查点:
读取步骤(1)生成的种子模型保存的检查点保存至矩阵θ;=其中θ包含模型的全部参数,Ki表示是该模型第i层的核,对于卷积层有fi个滤波器;对于全连接层有fi个神经元;模型层数为deep_n,节点数为node_n;
(2.2)初始化图
所述图为无向有权图;将模型的Ki层的滤波器或神经元映射为节点即在Ki层创建fi个节点并分别表示为设图的节点属性为空,相邻两层的节点之间的权边为即初始化图为
(2.3)将种子模型的映射到图具体为:
将模型的权重θ映射为图具体表示为以下公式:
其中,||·||为范数公式,为第i层核的第k个滤波器,为下一层核的第l个滤波器,即为两个滤波器之间的参数取范数。为第i层核的第k个节点和第j层核的第l个节点的权边;重复上述步骤,直至该模型的每层参数都被映射为图
(2.4)重复上述步骤(2.1)~步骤(2.3),直至全部映射为时间演化图所有种子模型Ν映射为时间演化图集合
6.根据权利要求1所述的基于动态时序图的模型性能推理方法,其特征在于,所述步骤(3)具体为:
图的特征向量中心性的计算公式如下所示:
其中,A为图的邻接矩阵,λ-1为矩阵A的特征值;α为向量,用于度量图中的每个节点的重要性,经过多次迭代达到稳态后赋值给
的长度为图的节点数;重复计算上述公式,直至时间演化图均计算其相应的特征向量中心性时间演化图集合G计算得到
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江工业大学,未经浙江工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210215486.5/1.html,转载请声明来源钻瓜专利网。





