[发明专利]语言生成方法、装置及电子设备有效
| 申请号: | 202010076479.2 | 申请日: | 2020-01-23 |
| 公开(公告)号: | CN111325000B | 公开(公告)日: | 2021-01-26 |
| 发明(设计)人: | 张涵;肖东凌;李宇琨;孙宇;田浩;吴华;王海峰 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
| 主分类号: | G06F40/126 | 分类号: | G06F40/126;G06F40/30 |
| 代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 戎郑华 |
| 地址: | 100085 北京市*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 语言 生成 方法 装置 电子设备 | ||
1.一种语言生成方法,其特征在于,包括:
利用预设的编码器,对输入序列进行编码处理,生成所述输入序列对应的隐状态向量;
利用预设的分类器,对所述隐状态向量及已生成的第一目标片段向量进行分类,以确定待预测的第二目标片段的粒度类别,其中,所述第一目标片段,是指利用解码器根据所述输入序列对应的隐状态向量,已预测出的所述输入序列中的片段;
若所述第二目标片段为短语,则利用N个解码器分别对所述第一目标片段向量、所述隐状态向量及所述第二目标片段对应的位置向量进行解码,生成N个第二目标片段,其中,N为大于1的整数;
根据所述N个第二目标片段分别与第二目标标注片段的差异,确定损失值;
根据所述损失值,对所述预设的编码器、预设的分类器及N个解码器进行参数更新,以采用更新后生成的语言生成模型进行语言生成。
2.如权利要求1所述的方法,其特征在于,所述第二目标片段中包含两个字符,所述N个解码器至少包括第一解码器和第二解码器;
所述利用N个解码器分别对所述第一目标片段向量、所述隐状态向量及所述第二目标片段对应的位置向量进行解码,生成N个第二目标片段,包括:
利用所述第一解码器对所述第一目标片段向量、所述隐状态向量及所述第二目标片段对应的第一位置向量进行解码,生成所述第一位置的第一候选字符;
利用所述第一解码器,对所述第一目标片段向量、所述第一候选字符对应的向量、所述隐状态向量及所述第二目标片段对应的第二位置向量进行解码,生成所述第二位置的第一候选字符;
根据所述第一位置的第一候选字符及所述第二位置的第一候选字符,生成第一个第二目标片段;
利用所述第二解码器,对所述第一目标片段向量、所述隐状态向量及所述第一位置向量进行解码,生成所述第一位置的第二候选字符;
利用所述第二解码器,对所述第一目标片段向量、所述隐状态向量及所述第二位置向量进行解码,生成所述第二位置的第二候选字符;
根据所述第一位置的第二候选字符及所述第二位置的第二候选字符,生成第二个第二目标片段。
3.如权利要求2所述的方法,其特征在于,所述第二目标片段对应的第一位置向量为所述第一目标片段的位置向量,所述第二目标片段对应的第二位置向量为所述第一目标片段的位置向量及所述第二目标片段中第一个字符的位置向量。
4.如权利要求2所述的方法,其特征在于,所述第二目标片段对应的第一位置向量为所述第二目标片段中第一个字符的位置向量,所述第二目标片段对应的第二位置向量为所述第二目标片段中第二个字符的位置向量;
所述生成N个第二目标片段之前,还包括:
获取预设的占位向量;
所述生成N个第二目标片段,包括:
利用N个解码器分别对所述预设的占位向量、所述第一目标片段向量、所述隐状态向量及所述第二目标片段对应的位置向量进行解码,生成N个第二目标片段。
5.如权利要求1-4任一所述的方法,其特征在于,所述确定待预测的第二目标片段的粒度类别之后,还包括:
若所述第二目标片段为字符,则利用与所述字符对应的解码器对所述第一目标片段向量、所述隐状态向量及所述第一目标片段的位置向量进行解码,生成所述第二目标片段。
6.如权利要求1-4任一所述的方法,其特征在于,所述根据所述N个第二目标片段分别与第二目标标注片段的差异,确定损失值,包括:
根据各第二目标片段与所述第二目标标注片段的差异,确定各损失参考值;
根据各损失参考值及预设的权值,确定所述损失值。
7.根据权利要求6所述的方法,其特征在于,所述采用更新后生成的语言生成模型进行语言生成,包括:
根据设定语言生成场景,获取对应的有监督训练样本;
采用所述有监督训练样本,对所述更新后生成的语言生成模型进行参数调整;
根据参数调整后的语言生成模型,在所述设定语言生成场景下进行语言生成。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010076479.2/1.html,转载请声明来源钻瓜专利网。





