[发明专利]专用术语无监督聚类方法、装置和系统

权利要求书

1.一种专用术语无监督聚类方法，应用在服务器端，基于语义信息和词序信息进行数据的融合处理，对心理疾病症状结合相关疾病形成对应的数据库，从单词类别的提取到数据的融合应用，自动实现对疾病的映射分类，具体特征包括：对文本进行预处理，建立业务专用术语词汇集合，所述集合包括词汇的语义信息和词序信息，词汇由单词组成，建立单词-单词的语义矩阵，对语义矩阵进行模型预训练得到语义关系矩阵，计算单词-单词的词序关系矩阵，通过无监督聚类算法对语义关系矩阵和词序关系矩阵进行聚类，将单词的语义信息和词序信息通过关系矩阵的方式进行提取，利用IRM算法对两个关系矩阵进行无监督分类，完成单词类别的提取，所述单词-单词的语义矩阵S包括多个元素，元素的值S_ij表示了当前元素对应的两个单词i和j是否存在语义相似性，S_ij取值0或1，遍历单词集合中的两两单词i和j，计算当前两个单词的余弦相似度，如果当前相似度大于90%，则这两个单词对应的矩阵元素S_ij为1，否则为0；计算单词-单词词序关系矩阵W，设定窗口值为5，对整个文本采用大小为窗口值的滑动窗口，若两个单词i和j在同一个窗口共现一次或多次，则认为当前两个单词对应的矩阵元素W_ij为1，否则为0；当上述滑动窗口滑过整个文本，得到单词-单词词序关系矩阵W。

2.根据权利要求1所述的专用术语无监督聚类方法，所述预处理包括分词、去重、删除停用词。

3.根据权利要求1所述的专用术语无监督聚类方法，所述模型预训练采用BERT模型训练得到语义关系矩阵，用BERT模型倒数第二层的输出隐向量的平均值作为编码向量，对单词集合中的每个单词进行编码。

4.一种专用术语无监督聚类方法，应用于互联网平台，基于终端设备获取用户授权许可，采集用户上传的文本信息并发送到后台服务器的数据中心处理系统，数据中心处理系统对文本进行预处理，基于语义信息和词序信息进行数据的融合处理，对心理疾病症状结合相关疾病形成对应的数据库，从单词类别的提取到数据的融合应用，自动实现对疾病的映射分类，具体特征包括：对文本进行预处理，建立业务专用术语词汇集合，所述集合包括词汇的语义信息和词序信息，词汇由单词组成，建立单词-单词的语义矩阵，对语义矩阵进行模型预训练得到语义关系矩阵，计算单词-单词的词序关系矩阵，通过无监督聚类算法对语义关系矩阵和词序关系矩阵进行聚类，将单词的语义信息和词序信息通过关系矩阵的方式进行提取，利用IRM算法对两个关系矩阵进行无监督分类，完成单词类别的提取，所述单词-单词的语义矩阵S包括多个元素，元素的值S_ij表示了当前元素对应的两个单词i和j是否存在语义相似性，S_ij取值0或1，遍历单词集合中的两两单词i和j，计算当前两个单词的余弦相似度，如果当前相似度大于90%，则这两个单词对应的矩阵元素S_ij为1，否则为0；计算单词-单词词序关系矩阵W，设定窗口值为5，对整个输入文本采用大小为窗口值的滑动窗口，若两个单词i和j在同一个窗口共现一次或多次，则认为当前两个单词对应的矩阵元素W_ij为1，否则为0；当上述滑动窗口滑过整个文本，得到单词-单词词序关系矩阵W。

5.根据权利要求4所述的方法，所述模型预训练采用BERT模型训练得到语义关系矩阵，用BERT模型倒数第二层的输出隐向量的平均值作为编码向量，对单词集合中的每个单词进行编码。

6.根据权利要求4或5所述的方法，还包括基于提取的单词类别进行数据融合和二次加工，并将信息同步给云端数据库。

7.根据权利要求6所述的方法，所述预处理包括分词、去重、删除停用词。