[发明专利]文本质检自动化训练方法、电子装置及计算机设备

说明书

本发明公开了一种文本质检自动化训练方法。对标注的生产数据执行数据划分操作，分成训练集、验证集与测试集，选择电子装置中的质检模型与所述测试集并进行预测，以获取所述测试集中之所述测试数据的预测结果，分别选择准确率与召回率较高的质检模型进行投票，并挑选出推荐模型组合，及对所述推荐模型组合进行复检，且通过复检的质检模型则为最后确认集成模型。本发明之文本质检自动化训练方法大量节省了模型训练的时间，节约了成本，且能持续不断的生成符合业务要求的模型，同时生成的模型更加容易感知到质检规则的变化。

技术领域

本发明涉及检测模型技术领域，尤其涉及一种文本质检自动化训练方法、电子装置、计算机设备及存储介质。

背景技术

在目前的深度学习文本质检系统中，由于质检规则时常发生变动，旧的模型很难随着时间的变动准确率一直维持在业务要求的水准，这就要求模型训练人员不断使用最新的质检数据进行训练，并不断输出高准确率的模型。这个过程需要训练人员大量的重复劳动，造成了人力的浪费。此外，由于文本质检系统采取多模型集成的方式进行预测，因此多模型的选择与组合策略也是非常重要的，单凭训练人员手工组合与选择模型不但非常耗时，而且由于组合方式多种多样覆盖面不全，不一定能找到最好的组合方式。

发明内容

有鉴于此，本发明提出一种文本质检自动化训练方法、电子装置、计算机设备及存储介质，能够大量节省了模型训练人员的时间，节约了成本，并且能持续不断的生成符合业务要求的模型，同时生成的模型更加容易感知到质检规则的变化。

为实现上述目的，本发明提出一种一种文本质检自动化训练方法，应用于电子装置中，其特征在于，所述方法包括步骤：取得默认周期内的生产数据；将所述生产数据的一部分进行复检，以得到当日复检生产数据；对所述当日复检生产数据执行数据清洗操作，以对所述生成数据进行标注；对所述标注的生产数据执行数据划分操作，分成训练集、验证集与测试集并存储到所述电子装置中；选择所述电子装置中的质检模型与所述测试集并进行预测，以获取所述测试集中之所述测试数据的预测结果；分别选择准确率X与召回率Y较高的质检模型进行投票，并挑选出推荐模型组合；及对所述推荐模型组合进行复检，且通过复检的质检模型则为最后确认集成模型，其中：判断所述准确率X是否大于阈值A，当所述准确率X大于所述阈值A时，则降低学习率Z，当所述准确率X所述不大于所述阈值A时，接着判断所述召回率Y是否大于所述阈值B，当所述准确率X不大于所述阈值A且所述召回率Y阈值B，则降低所述学习率Z，及当所述准确率X不大于阈值A且召回率Y不大于阈值B，则所述学习率Z调回初始值。

进一步地，将所述标注的生产数据作为基础数据，所述基础数据包括一部分违规的生产数据和一部分不违规的生产数据；选取一个训练周期内前三天的当日不违规数据和当日复检数据组成当日清洗后的数据，并与所述基础数据组成所述训练集；选取一个训练周期内第四天的当日复检数据作为所述验证集；及选取一个训练周期第五天的当日清洗后的数据作为所述测试集。

进一步地，利用预设数量的质检模型对每日的未经人工复检的生产数据进行预测，挑选出所述预设数量的模型都不认为违规的生产数据作为当日不违规数据，剩余的则为当日违规数据。

进一步地，所述测试数据的预测结果包括各个质检点及总的准确率与召回率。

进一步地，根据所述测试数据的预测结果分别对所述质检模型进行准确率和召回率的排序，分别取所有质检模型中一定数量之准确率和召回率比较高的质检模型，用以根据集成方法进行多模型组合挑选，以取得所述推荐模型组合。