[发明专利]一种融合对抗训练的生成式对话系统在审
| 申请号: | 202110787242.X | 申请日: | 2021-07-13 |
| 公开(公告)号: | CN113535902A | 公开(公告)日: | 2021-10-22 |
| 发明(设计)人: | 王伟;阮文翰;武聪;吕明海 | 申请(专利权)人: | 辽宁工程技术大学 |
| 主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06N3/04;G06N3/08 |
| 代理公司: | 暂无信息 | 代理人: | 暂无信息 |
| 地址: | 123000 辽*** | 国省代码: | 辽宁;21 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | 神经网络对话生成模型的发展促进了短文本对话建模的研究。对经过清洗的大规模高质量中文会话数据集(large‑scale cleaned Chinese conversation dataset,LCCC),预训练的中文对话模型在生成更符合汉语规范的高质量回复话语,但是泛化能力降低,导致在微调过程中评价指标偏低。针对此问题,利用生成对抗网络在自然语言处理处理任务中提高模型泛化能力的方法,提出一种融合对抗训练的中文GPT对话模型,首先在微调的过程中使用投影梯度下降的训练方法,提高了模型的泛化能力,然后使用Facal损失函数加快训练速度。 | ||
| 搜索关键词: | 一种 融合 对抗 训练 生成 对话 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于辽宁工程技术大学,未经辽宁工程技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110787242.X/,转载请声明来源钻瓜专利网。





