[发明专利]一种数据处理方法、装置和用于数据处理的装置在审
申请号: | 201910399736.3 | 申请日: | 2019-05-14 |
公开(公告)号: | CN111950688A | 公开(公告)日: | 2020-11-17 |
发明(设计)人: | 王丹;崔欣;张扬 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 用于 | ||
1.一种数据处理方法,其特征在于,应用于神经网络,所述神经网络包括:隐层和输出层;所述方法包括:
通过所述神经网络的输出层执行:
接收输入向量;所述输入向量由所述隐层提供;
提供聚类向量;所述原始矩阵由所述隐层或者词嵌入层提供;所述聚类向量为对原始矩阵的第一维度进行聚类得到,所述原始矩阵的第二维度的数量等于所述输入向量的维数;
依据所述聚类向量和所述输入向量,确定所述输入向量对应的概率。
2.根据权利要求1所述的方法,其特征在于,所述确定所述输入向量对应的概率,包括:
确定单个聚类向量与所述输入向量对应的分概率参数;
依据所述单个聚类向量包括元素的数量和所述分概率参数,确定所有聚类向量与所述输入向量对应的总概率参数;
依据所述总概率参数,确定所述输入向量对应的概率。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
通过所述输出层或所述词嵌入层执行:
对所述原始矩阵的第一维度进行聚类,以得到聚类向量。
4.根据权利要求1或2所述的方法,其特征在于,所述原始矩阵由所述隐层提供,所述原始矩阵对应所述隐层到所述输出层的权重矩阵;或者
所述原始矩阵由所述词嵌入层提供,所述原始矩阵对应所述词嵌入层的词汇表。
5.根据权利要求1或2所述的方法,其特征在于,所述原始矩阵对应所述词嵌入层的词汇,所述输入向量对应的概率包括:
词汇在预设条件下的概率。
6.根据权利要求1或2所述的方法,其特征在于,所述隐层依据输入词汇的嵌入表示、以及隐层状态,确定所述输入向量。
7.根据权利要求1或2所述的方法,其特征在于,所述方法应用于输入法的组词过程、输入法的联想过程、或者输入法的候选项调频过程。
8.一种数据处理装置,其特征在于,应用于神经网络,所述神经网络包括:隐层和输出层;所述装置包括:
接收模块,用于接收输入向量;所述输入向量由所述隐层提供;
提供模块,用于提供聚类向量;所述原始矩阵由所述隐层或者词嵌入层提供;所述聚类向量为对原始矩阵的第一维度进行聚类得到,所述原始矩阵的第二维度的数量等于所述输入向量的维数;以及
概率确定模块,用于依据所述聚类向量和所述输入向量,确定所述输入向量对应的概率。
9.一种用于数据处理的装置,其特征在于,所述装置应用于神经网络,,所述神经网络包括:隐层和输出层;所述装置包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令:
接收输入向量;所述输入向量由所述隐层提供;
提供聚类向量;所述原始矩阵由所述隐层或者词嵌入层提供;所述聚类向量为对原始矩阵的第一维度进行聚类得到,所述原始矩阵的第二维度的数量等于所述输入向量的维数;
依据所述聚类向量和所述输入向量,确定所述输入向量对应的概率。
10.一种机器可读介质,其上存储有指令,当由一个或多个处理器执行时,使得装置执行如权利要求1至7中一个或多个所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910399736.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种非易失存储器处理方法及装置
- 下一篇:一种非易失存储器读处理方法及装置