[发明专利]一种基于强化学习的深度学习算子测试数据生成方法

说明书

一种基于强化学习的深度学习算子测试数据生成方法，其特征是基于提前定义的基本变异方法组构造一个基于变异方法及跳转的QTable，进行带关联的强化学习训练，并最终在复杂场景下采用变异方法链生成深度学习算子测试数据。数据变异方法组合可灵活进行增、删、改，本方法提供的基本变异方法包括：字节、多项式和高斯变异。其中，字节变异是对测试数据的浮点数二进制编码进行字节操作的变异，包括二进制编码各字节的增加、删除、取反、移位、随机重置；高斯变异指利用以测试数据为均值的高斯分布采样得到新的测试数据；多项式变异指对测试数据到边界的距离进行不同比例的放缩。上述变异基于不同的基本思想，兼顾有效性与多样性。

技术领域

本发明属于深度学习测试领域，特别是深度学习算子准确性问题测试领域。各类深度学习模型的使用者希望通过某种方法测试其模型依赖的深度学习算子是否会出现准确性问题。

背景技术

随着深度学习技术的逐渐成熟和智能应用的需求涌现，各类深度学习模型被提出并广泛应用于各个领域下的各类场景。深度学习模型由诸多深度学习算子构成，深度学习算子常常会引发一系列准确性问题，从而对模型造成严重的危害和影响，为发现这类问题，需要不断挖掘和搜索尽可能多的能够引发准确性问题的测试数据。借鉴传统变异测试思想，将变异测试应用于张量和深度学习算子测试，是一种较为有效的方法。

然而，单纯地将单个变异方法施加于随机张量，虽然能够显著提高触发准确性问题的概率和效率，其对变异方法的高维叠加效果的挖掘是不充分的，因而，这类方法的效果仍存在很大的提升空间，且在一些准确性问题较难发掘的算子上效果一般。本发明较好地解决了上述问题，不仅考虑了变异方法间的关系及变异方法的高维叠加效果，还在有效路径的挖掘和变异方法链效率的考量之间取得了平衡。

发明内容

本发明要解决的问题是：基于张量变异的深度学习算子准确性测试的测试用例生成方法对变异方法的高维叠加效果的挖掘不充分的问题。虽然基于张量变异的深度学习算子准确性测试的测试用例生成方法相较于随机采样算法已经取得了非常显著的效率提升，上述问题的存在意味着张量变异方法仍然存在很大的效果提升空间，且大量实验数据证明，这类方法在一些准确性问题较难发掘的算子上效率始终一般。本发明较好地解决了上述问题，不仅考虑了变异方法间的关系及变异方法的高维叠加效果，使得这类方法充分利用了其潜力空间，还在有效路径的挖掘和变异方法链效率的考量之间取得了平衡，保证了算法的最低效率。

本发明的技术方案为：一种基于强化学习的深度学习算子测试数据生成方法，其特征是基于被提前定义的基本变异方法组定义一个变异方法组，构造一个以方法组中的所有方法为状态集合、跳转至方法组中的所有方法为动作集合的QTable，进行带关联的强化学习训练，并最终达到在复杂的算子场景下采用变异方法链生成深度学习算子测试数据的目的。数据变异方法组合可根据需要灵活地进行增加、删除和修改，本方法提供的基本数据变异方法包括：字节变异、高斯变异和多项式变异。其中，字节变异是指对测试数据的浮点数二进制编码进行字节操作的变异，操作包括二进制编码各字节的增加、删除、取反、移位、随机重置，支持float32和float16格式编码；高斯变异是指在以测试数据为均值的、至少99.7％处于有效数值区间的高斯分布中进行采样得到新的测试数据；多项式变异是指对测试数据到边界的距离进行不同比例缩放并以此对数据进行线性变换。上述变异基于不同的基本思想，如：边界数据更容易引发异常、均匀采样对于小于1的数不利等，兼顾有效性与多样性。该方法分为以下几个步骤：

1)变异方法定义：本发明预定义了几种变异方法作为基本变异组，具体变异方法将在1.1中进行陈述，实际使用时可根据需要添加、减少、修改变异方法，定义该次实践专属的变异方法组。