[发明专利]一种基于自注意力机制的神经网络模型的训练方法在审
| 申请号: | 202110916211.X | 申请日: | 2021-08-10 |
| 公开(公告)号: | CN113516232A | 公开(公告)日: | 2021-10-19 |
| 发明(设计)人: | 方广有;郑之杰;叶盛波 | 申请(专利权)人: | 中国科学院空天信息创新研究院 |
| 主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62;G06K9/00 |
| 代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 吴梦圆 |
| 地址: | 100190 *** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 基于 注意力 机制 神经网络 模型 训练 方法 | ||
1.一种基于自注意力机制的神经网络模型的训练方法,包括:
获取训练集,所述训练集包括雷达回波信号,所述雷达回波信号为通过人体的关节点反射后接收到的信号;
将所述训练集输入到基于自注意力机制的神经网络模型中,其中,所述神经网络模型包括姿态编码器和姿态解码器;
通过所述姿态编码器处理所述训练集,得到携带多个姿态特征的编码信号;
所述姿态解码器将所述编码信号与关节点查询信号进行运算,运算后的结果经所述姿态解码器进行处理后,输出关节点坐标判别结果;
将所述判别结果与训练集输入到所述神经网络模型的损失函数中,输出损失结果;
根据所述损失结果更新所述神经网络模型的参数。
2.根据权利要求1所述的训练方法,其中,所述获取训练集包括:
预先选定人体的多个关节点;
利用光学成像系统捕捉墙后人体的关节点信息;
计算所述关节点信息生成关节点坐标信息;
利用穿墙雷达发出探测信号,探测所述墙后人体在预设姿态下的关节点信息;
利用所述穿墙雷达采集所述雷达回波信号;
为所述雷达回波信号添加标签,其中,所述标签与所述关节点坐标信息一致。
3.根据权利要求2所述的训练方法,其中,所述为所述雷达回波信号添加标签包括:
将用于估计人体三维姿态的所述关节点坐标信息与所述雷达回波信号通过时间标记进行同步对齐。
4.根据权利要求1所述的训练方法,其中,所述损失函数采用L2损失函数作为所述神经网络模型的总损失函数,所述总损失函数如式(1)所示:
其中y、分别表示原始标记和所述神经网络模型重构的关节点坐标,N是训练集的样本总数。
5.根据权利要求3所述的训练方法,其中,所述神经网络模型的总损失函数采用Adam算法进行梯度更新。
6.根据权利要求1所述的训练方法,其中,所述姿态编码器包括多个交替叠加的第一自注意力层、第一层标准化层和第一全连接层;所述姿态解码器用于提取训练集中雷达回波信号的姿态特征,并输出与训练集维度相同的编码信号;
其中,所述第一自注意力层用于提取所述雷达回波信号的特征,所述第一层标准化层用于将所述特征进行标准化,所述第一全连接层用于不同层之间的非线性交互。
7.根据权利要求6所述的训练方法,其中,所述第一自注意力层用于提取所述雷达回波信号的特征包括:
将所述雷达回波信号通过齐次变换分别得到查询张量、键张量和值张量;
将查询张量和键张量进行运算,得到自注意力分布;
对所述自注意力分布进行归一化,并与值张量进行运算,得到所述雷达回波信号的特征。
8.根据权利要求1所述的训练方法,其中,所述姿态解码器包括多个交替堆叠的第二自注意力层、第二层标准化层和第二全连接层;
其中,所述编码信号与类别查询信号进行运算,将运算后的结果输入到所述第二自注意力层,所述第二自注意力层提取所述运算后的结果的特征,所述第二层标准化层用于将所述特征进行标准化,所述第二全连接层用于不同层之间的非线性交互。
9.一种基于自注意力机制的穿墙雷达人体姿态重构方法,包括:
穿墙雷达发出探测信号,对墙后的人体目标进行探测,捕捉墙后人体目标的关节点,采集并接收雷达回波信号;
将所述雷达回波信号输入到基于自注意力机制的神经网络模型中,通过所述神经网络模型的姿态编码器和姿态解码器进行处理,输出人体目标的关节点坐标,其中所述基于自注意力机制的神经网络模型由权利要求1-8任一所述的方法训练得到。
10.一种基于自注意力机制的穿墙雷达人体动作识别系统,包括:
雷达模块,用于对墙后的人体目标进行探测,捕捉墙后人体目标的关节点信息,采集并接收雷达回波信号;
神经网络模块,用于将所述雷达回波信号输入到基于自注意力机制的神经网络模型中,通过所述神经网络模型的姿态编码器和姿态解码器进行处理,输出人体目标的关节点坐标,其中所述基于自注意力机制的神经网络模型由权利要求1-8任一所述的训练方法训练得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院空天信息创新研究院,未经中国科学院空天信息创新研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110916211.X/1.html,转载请声明来源钻瓜专利网。





