[发明专利]一种数据处理方法及相关设备在审
申请号: | 202110259775.0 | 申请日: | 2021-03-10 |
公开(公告)号: | CN112965890A | 公开(公告)日: | 2021-06-15 |
发明(设计)人: | 周子站;郭东丹;刘晓辉;周凯洋;王晓勃 | 申请(专利权)人: | 中国民航信息网络股份有限公司 |
主分类号: | G06F11/34 | 分类号: | G06F11/34;G06K9/62;G06N3/08;G06N20/00 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 柳欣 |
地址: | 100085 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 相关 设备 | ||
1.一种数据处理方法,其特征在于,包括:
对原始日志数据进行处理,得到指令操作序列集合;
提取所述指令操作序列集合中的最终候选业务集合;
根据对比学习模型确定第一候选业务中每个指令的嵌入向量,所述对比学习模型为对所述最终候选业务集合以及随机生成的指令短序列进行训练得到的,所述第一候选业务为所述最终候选业务集合中的任意一个候选业务,所述每个指令嵌入向量指示当前指令与其他指令的相似程度;
通过聚类算法对所述第一候选业务中每个指令的嵌入向量进行聚类处理,得到所述最终候选业务集合对应的指令簇。
2.根据权利要求1所述的方法,其特征在于,所述对原始日志数据进行处理,得到指令序列集合包括:
提取所述原始日志数据中程序标识符集合对应的指令操作序列;
将所述程序标识符集合中相同的程序标识符对应的指令操作序列进行合并;
剔除合并后所述相同的程序标识符对应的指令操作序列中的重复指令,得到所述相同的程序标识符对应的目标指令序列集合;
将所述目标指令序列集合以及所述程序标识符集合中不相同的程序标识符对应的指令操作序列确定为所述指令操作序列集合。
3.根据权利要求1所述的方法,其特征在于,所述提取所述指令操作序列集合中的最终候选业务集合包括:
确定目标指令操作序列中序列长度不超过第一预设值的候选业务集合,所述目标指令操作序列为所述指令操作序列集合中的任意一个指令操作序列;
计算目标候选业务在所述指令操作序列集合中的候选业务频率,所述目标候选业务为所述候选业务集合中的任意一个候选业务;
计算所述目标候选业务的边缘混乱度;
计算所述目标候选业务的业务紧致度;
将所述候选业务集合中所述候选业务频率满足候选业务频率阈值、所述边缘混乱度满足边缘混乱度阈值以及所述业务紧致度满足业务紧致度阈值的候选业务确定初始候选业务集合;
对所述初始候选业务集合进行去冗余处理;
确定所述目标指令操作序列满足所述边缘混乱度阈值以及所述业务紧致度阈值的备选候选业务集合;
将去冗余后的所述初始候选词集合以及所述备选候选业务集合确定为所述最终候选业务集合。
4.根据权利要求3所述的方法,其特征在于,所述计算所述目标候选业务的边缘混乱度包括:
通过如下公式计算所述目标候选业务的左信息熵:
其中,Hl(W)为所述目标候选业务w的左信息熵,p(wl|w)为所述目标业务w左侧出现指令wl的条件概率;
通过如下公式计算所述目标候选业务的右信息熵:
其中,Hr(W)为所述目标候选业务w的右信息熵,p(wr|w)为所述目标业务w右侧出现指令wr的条件概率;
基于所述左信息熵以及所述右信息熵通过如下公式计算所述目标候选业务的边缘混乱度:
H(W)=min(Hl(w),Hr(w));
其中,H(W)为所述目标候选业务w的边缘混乱度。
5.根据权利要求3所述的方法,其特征在于,所述计算所述目标候选业务的业务紧致度包括:
通过如下公式计算所述目标候选业务的业务紧致度:
MI(W)=min(MI0(W),...,MIi(W),...,MIlen-1(W));
其中,MI(W)为所述目标候选业务w的业务紧致度,MIi(W)为所述目标候选业务w的前i个指令簇和剩余指令簇的连接强度:
通过如下公式计算所述目标候选业务w的前i个指令簇和剩余指令簇的连接强度:
其中,N(W[0:i])为所述目标候选业务w中第一个指令到第i个指令构成的序列整体在所述目标操作指令序列中出现的次数,N(W[i+1:len])为所述目标候选业务w中第i+1个指令到最后一个指令构成的序列整体在所述目标操作指令序列中出现的次数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国民航信息网络股份有限公司,未经中国民航信息网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110259775.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:海洋结构物双重防腐方法
- 下一篇:一种室内照明设备