[发明专利]一种基于数据增强和半监督学习的药物不良反应检测方法

说明书

本发明涉及一种基于数据增强和半监督学习的药物不良反应检测方法，属于自然语言处理领域。本发明首先收集中文医疗社交媒体的语料，构建数据集；使用回译对未标注数据进行多次增强，对增强样本和原始样本进行标签预测生成人工标签；建立基于Mixup的药物不良反应检测模型，利用标注数据、未标注数据和增强数据对所述模型进行训练，获得训练好的药物不良反应检测模型，实现药物不良反应的检测任务。本发明减轻了标注数据不足带来的影响，并且提高了药物不良反应检测的准确性。

技术领域

本发明涉及一种基于数据增强和半监督学习的药物不良反应检测方法，属于自然语言处理领域。

背景技术

药物不良反应检测，通常被看作是涉及ADR的文本二分类问题，即辨别文本是否包含有ADR。早期，大多数研究基于词典识别文本中的ADR，但这类方法无法识别词典中未包含的非常规ADR词汇。有些研究者发现，利用统计机器学习方法通过抽取特征，能够有效提高准确性。随着深度学习的不断发展和广泛应用，基于深度学习方法的ADR检测模型大量涌现。尽管深度学习模型往往表现很好，但通常是基于大量标注数据的监督学习。当只有少量有限的标注数据时，就会出现过拟合现象，严重影响预测的准确性。

发明内容

本发明提供了一种基于数据增强和半监督学习的药物不良反应检测方法，可解决只有少量的药物反应标注数据不足时出现的过拟合现象及其导致的预测准确性不高的问题。

本发明的技术方案是：一种基于数据增强和半监督学习的药物不良反应检测方法，首先收集中文医疗社交媒体的语料，构建数据集；使用回译对未标注数据进行多次增强，对增强样本和原始样本进行标签预测生成人工标签；建立基于Mixup的药物不良反应检测模型，利用标注数据、未标注数据和增强数据对所述模型进行训练，获得训练好的药物不良反应检测模型，实现药物不良反应的检测任务。

所述方法的具体步骤如下：

Step1、首先收集中文医疗社交媒体的语料，构建数据集：

Step1.1、收集中文医疗社交媒体内容，将包含药物的病情描述作为本发明的原始语料，对文本进行预处理；

Step1.2、从所述的原始语料中随机选择部分数据进行人工标注，设定分类标签y∈{0,1}，其中“0”表示不含有药物不良反应，“1”表示含有药物不良反应，得到标注数据集为第i个标注样本的文本内容，为第i个标注样本的标签，n是标注样本的数量；

Step1.3、从所述的原始语料中获取未标注数据集为第i个未标注样本，m是未标注样本的数量；

Step2、使用回译对未标注数据进行多次增强，得到增强数据，对增强样本和原始样本进行标签预测生成人工标签：

Step2.1、对于未标注数据集X_u中的每一个样本通过回译生成K个增强数据，k＝[1,K]，K表示中间语言的种类，中间语言选择英语、法语、德语等常见语种；

Step2.2、对于一个未标注数据样本和它的K个增强数据分别通过文本分类模型得到其预测结果和

Step2.3、将原始样本和增强样本的预测结果进行加权平均：使用锐化函数：定义即对未标注数据，其所有的增强样本与原始样本共享相同的标签；

Step3、建立基于Mixup的药物不良反应检测模型，利用标注数据、未标注数据和增强数据对所述模型进行训练，获得训练好的药物不良反应检测模型：

Step3.1、输入文本经过编码层得到文本的向量表示：

将标注数据集X_l、未标注数据集和增强数据集合并成一个大型的数据集X＝X_l∪X_u∪X_a；