[发明专利]文本分类样本的构建方法和文本分类模型的训练方法

说明书

本发明提供了文本分类样本的构建方法和文本分类模型的训练方法。该方法包括：获取训练文本集；将训练文本转化为输入向量；对训练文本集中一定数量的训练文本进行分类结果标注得到训练样本集；通过训练样本集对预训练模型进行训练，得到对应一级标签的第一分类模型和对应二级标签的第二分类模型；获取训练文本集中训练样本集之外的训练文本，作为扩充文本；将扩充文本对应的输入向量分别输入至第一分类模型和第二分类模型，得到一级标签概率向量和二级标签概率向量；计算二级标签概率向量中每个元素与一级标签概率向量中对应元素的乘积；根据该乘积确定扩充文本对应的分类结果，以对训练样本集进行扩充。通过本发明，能够实现样本的快速标注。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种文本分类样本的构建方法和文本分类模型的训练方法。

背景技术

在信息处理技术领域，通常需要从海量的数据中搜索出对应类别的数据，进而提取相关信息，例如，ESG投资需要利用到投资主体的非财务部分信息，该部分信息很大的一个来源是公开渠道的文本信息，需要从海量文本信息中，分类和提取有效的ESG信息，供ESG投资使用。

目前，在实现数据获取时，主要包括两个方向的方案，以及人工筛选与机器筛选。对于人工筛选方案，通常以人工利用搜索引擎，针对特定关键词进行搜索，对需要研究的对应进行逐个搜索遍历，过滤网页内容筛选有效信息为主。但是，随着文本信息数据的增大、覆盖面的增加、时效要求的提高，人工筛选方式效率较慢的缺点无法解决，目前逐渐慢慢发展成机器筛选的方式。目前机器筛选的方式主要有利用先验知识构造关键词分类模型、标注样本训练模型分类两大类实现路径。其中，关键词分类模型可较大程度利用已有的先验知识，实现较为简便灵活，但泛化能力不足；而标注样本训练文本分类模型的方式泛化能力相对较强，但标注工作量巨大且灵活性不足。

例如，在利用人工直接搜索关键词进行信息筛选的方式或者机器搜索关键词辅助人工筛选的方式进行ESG信息分类时，由于利用人工的方式筛选，虽然在准确率上有较高的保证，但是时效性较差，目前国内可投资的上市公司/发债主体超过8000家，该方案难以对国内可投资主体全部覆盖，人工成本较高。

在利用关键词对文本信息进行分类时，能够保证时效性，但是在准确率上有较大瓶颈，复杂案例难以总结关键词，同时利用关键词的方式泛化能力不足。

若通过人工进行文本样本标注，结合文本分类模型进行ESG信息的分类时，在一定程度上能够解决泛化能力不足的问题，但是主要的难点在于缺乏足够的标签数据，缺少标签数据导致模型效果难以提升。同时，在实际ESG投资过程中，随着ESG评价框架的调整，分类框架需要经常性进行微调，该方案的标注成本较高难以适应经常性的调整。

此外，在其他数据获取场景下，也存在缺乏足够样本而导致分类模型效果难以提升的问题。

因此，在使用数据分类模型对数据进行分类和信息提取的场景中，如何更快、更准确地实现样本标注，构建训练集，成为本领域技术人员亟需解决的技术问题。

发明内容

本发明的目的是提供一种文本分类样本的构建方法、文本分类模型的训练方法、文本分类方法、文本分类样本的构建装置、计算机设备和计算机可读存储介质，用于解决现有技术中的上述技术问题。

一方面，为实现上述目的，本发明提供了一种文本分类样本的构建方法。