[发明专利]基于大数据的阅读模型优化方法、装置、设备及介质

权利要求书

1.一种基于大数据的阅读模型优化方法，其特征在于，包括：

获取已标注数据集，根据所述已标注数据集对预设的第一阅读理解模型、问题生成模型以及第二阅读理解模型进行预训练；

获取无标注数据集，通过预训练后的第二阅读理解模型对所述无标注数据集进行预测，得到所述无标注数据集关于文章和答案的二元数据对；

通过预训练后的问题生成模型对所述二元数据对进行预测，得到所述无标注数据集关于文章、问题和答案的三元数据对；

通过预训练后的第一阅读理解模型对所述三元数据对进行过滤；

根据已标注数据集中的文章主题，对过滤后的所述三元数据对进行筛选，生成伪标注数据集；

根据所述伪标注数据集和已标注数据集对预训练后的所述第一阅读理解模型进行优化训练。

2.如权利要求1所述的基于大数据的阅读模型优化方法，其特征在于，所述获取已标注数据集，根据所述已标注数据集对预设的第一阅读理解模型、问题生成模型以及第二阅读理解模型进行预训练包括：

获取已标注数据集，所述已标注数据集中包括若干条已标注数据对，每一已标注数据对包括文章信息、问题信息及对应的答案信息；

采用所述已标注数据集中的文章信息和问题信息对所述第一阅读理解模型进行预训练；

采用所述已标注数据集中的文章信息和答案信息对所述问题生成模型进行预训练；

采用所述已标注数据集中的文章信息，对所述第二阅读理解模型进行预训练。

3.如权利要求1或2所述的基于大数据的阅读模型优化方法，其特征在于，所述通过预训练后的第二阅读理解模型对所述无标注数据集进行预测，得到所述无标注数据集关于文章和答案的二元数据对包括：

将所述无标注数据集输入预训练后的第二阅读理解模型，并获取所述预训练后的第二阅读理解模型的输出作为第一预测答案；

对所述无标注数据集进行命名实体识别，获取第二预测答案；

采用双向长短期记忆网络和条件随机场技术从所述无标注数据集中获取第三预测答案；

合并所述第一预测答案、第二预测答案和第三预测答案，得到所述无标注数据集关于文章和答案的二元数据对。

4.如权利要求1或2所述的基于大数据的阅读模型优化方法，其特征在于，所述通过预训练后的第一阅读理解模型对所述三元数据对进行过滤包括：

遍历所述三元数据对，通过预训练后的所述第一阅读理解模型对所述三元数据对中的文章信息和问题信息进行预测，得到所述三元数据对对应的预测答案；

将所述三元数据对对应的预测答案与三元数据对中的答案信息进行比对；

若所述三元数据对对应的预测答案与三元数据对中的答案信息不相同，则删除所述三元数据对；

若所述三元数据对对应的预测答案与三元数据对中的答案信息相同，则保留所述三元数据对。

5.如权利要求1或2所述的基于大数据的阅读模型优化方法，其特征在于，所述根据已标注数据集中的文章主题，对过滤后的所述三元数据对进行筛选，生成伪标注数据集包括：

采用狄利克雷分布主题模型对过滤后的所述三元数据对的文章信息和已标注数据集的文章信息进行相似性分析，得到三元数据对与已标注数据集的主题相似度；

获取主题相似度高于预设阈值的三元数据对，构建伪标注数据集。