[发明专利]一种基于语义通信系统的去噪方法在审
| 申请号: | 202210063302.8 | 申请日: | 2022-01-20 |
| 公开(公告)号: | CN114548073A | 公开(公告)日: | 2022-05-27 |
| 发明(设计)人: | 周清炀;李荣鹏;赵志峰;张宏纲 | 申请(专利权)人: | 浙江大学 |
| 主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/242;G06F40/284;G06F40/30;G06N3/04;G06N3/08;H04L25/03 |
| 代理公司: | 北京志霖恒远知识产权代理事务所(普通合伙) 11435 | 代理人: | 张荣鑫 |
| 地址: | 310013 浙*** | 国省代码: | 浙江;33 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 语义 通信 系统 方法 | ||
1.一种基于语义通信系统的去噪方法,其特征在于,具体包括如下步骤:
S1、根据接收双方的共有知识,将双方传输过程中所有可能会用的单词进行编号,创建一个词典;
S2、利用输入语句嵌入模块对输入语句进行词嵌入,并添加位置向量;利用目标语句词嵌入模块对目标语句进行词嵌入,并添加位置向量;得到输入语句对应的带有位置向量的词向量和目标语句对应的带有位置向量的词向量;
S3、语义编码:输入语句对应的带有位置向量的词向量经过语义编码层,通过Transformrer的Encoder层完成语义编码,得到语义编码向量;
S4、噪声预处理:根据语义编码向量的传输信道的信息,将完成语义编码之后的语义编码向量及传输信道的信息,一并输入信噪比适应去噪模块,所述信噪比适应去噪模块根据语义编码向量的语义信息以及所要传输信道的信噪比情况,调整语义编码向量的表征形式;
S5、将完成语义编码以及噪声预处理的语义编码向量,通过信道;
S6、噪声处理:解码端接收到通过无线信道的语义编码向量,送入信噪比适应去噪模块,所述信噪比适应去噪模块会根据所接收到语义编码向量的语义信息,并结合所通过信道的信噪比情况,消除语义编码向量中经过无线信道所附加的噪声;
S7、自适应去噪:将经过步骤S6噪声处理后的语义编码向量输入到自适应去噪模块,所述自适应去噪模块由多头自注意力机制所构成,利用多头自注意力机制,对语义编码向量根据语义信息,进行自我观察,自我调整,实现去噪;
S8、语义解码:将完成S7自适应去噪的语义编码向量,通用Transformer的解码层,进行语义解码,将完成解码的语句文本通过概率逻辑回归处理后输出。
2.如权利要求1所述的一种基于语义通信系统的去噪方法,其特征在于,所述步骤S1中的具体步骤如下:
S11、读入整个用于传输的文本文件;
S12、对整个文本进行分词处理,统计文本中每个单词的使用次数,给每个单词进行编号,移除那些使用次数过低的单词;
S13、在整个字典中添加开始或终止的字符;
S14、输出词典。
3.如权利要求1所述的一种基于语义通信系统的去噪方法,其特征在于,所述步骤S2中的具体步骤如下:
S21、创建一个嵌入层,将需要传输的语句送入嵌入层,将其转化成为相映维度的词向量;
S22、计算并添加位置向量;
S23、将词向量与位置向量相加,得到拥有位置信息的词向量。
4.如权利要求1所述的一种基于语义通信系统的去噪方法,其特征在于,所述步骤S3中的具体步骤如下:
S31、定义三个矩阵,根据三个矩阵,对输入语句对应的带有位置向量的词向量进行三次线性变化,得到查询向量、键向量和值向量;
S32、对查询向量、键向量和值向量进行自注意力Self-Attention的计算,得到注意力向量;
S33、进行残差连接,将注意力向量与输入语句对应的带有位置向量的词向量相加,并将得到的结果进行层归一化操作得到残差向量;
S34、将得到的残差向量进行前馈传输操作,通过两层线性映射并用激活函数ReLU进行激活得到语义编码向量。
5.如权利要求1所述的一种基于语义通信系统的去噪方法,其特征在于,所述信噪比适应去噪模块的操作过程具体包括如下子步骤:
S41、建立一个输出维度为1的全连接层,将文本作为输入,整合文本中的语义信息,得到L*1的向量,其中L表示文本的长度;
S42、将无线信道的信噪比作为输入,与步骤S41中得到的L*1的向量进行一个拼接,得到维度为(L+1)*1的向量;
S43、将步骤S42中得到的(L+1)*1维度的向量,分别通过两个输出维度为L的全连接层,分别得到两个维度为L*1的系数;
S44、将S43中得到的两个维度为L*1的系数与输入文本向量进行向量乘与向量加的操作,作为信噪比适应去噪模块的输出。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210063302.8/1.html,转载请声明来源钻瓜专利网。





