[发明专利]基于深度神经网络的近似消息传递大规模MIMO信号检测算法

权利要求书

1.一种基于深度神经网络的近似消息传递大规模MIMO信号检测算法，其特征在于：包括以下步骤：

步骤一：简化用于大规模MIMO系统置信传播算法并标量化，得到最初适用于大规模MIMO系统的近似消息传递算法；具体过程包括：

大规模MIMO系统在基站端配置M根传输天线，用户端N传输天线，其实值信号模型为：

y＝Hx+n (1)

其中表示接收端的接收信号矢量，表示用户端传输的调制信号，H表示独立同分布的信道矩阵服从N(0,1/2M)，为服从高斯分布的加性高斯白噪声，其均值为0，方差为已知接收信号y和信道矩阵H，根贝叶斯理论和最小均方误差估计

在大规模MIMO系统因子图的BP迭代过程中，将从变量节点到因子节点的消息表示为J_i→j；同样，让表示从因子节点到变量节点的消息，在第t次迭代时，消息方程更新如下：

假定传输信号x服从高斯分布根据高斯分布的乘法也服从高斯分布，再根据贝叶斯定理与高斯分布乘法运算法则，消息迭代过程为

令利用泰勒级数展开以及矩阵归一化得到标量化的AMP检测算法中的均值与方差更新表达式：

其中，

步骤二：设置训练参数，得到改进的近似消息传递算法；具体包括：

将步骤一中的算法迭代过程展开构成神经网络，称为AMP-DNN，并从训练数据中学习网络参数的最优值；通过深度学习技术为算法中的均值方差更新提供一个合适的步长，包括加入可训练参数λ_t，用于精确计算

将设置为可训练的参数，对于步骤一中算法中的Onsager修正项将MIMO系统分解为相同信噪比的独立AWGN信道，修正项的精确度影响估计结果，将Onsager修正项设为其中β_t为训练参数

步骤三：将带有训练参数的近似消息传递算法展开成一个用于大规模MIMO系统检测的深度神经网络；具体包括：

将带有训练参数的迭代过程展开成网络；所述的AMP-DNN由若干层功能单元组成，其中输入层和输出层之间有T层隐含层，每一个隐含层都具有相同的结构，对应于具有可训练参数的迭代，即有多少迭代就有多少隐藏层；

训练数据和测试数据由在不同配置下随机生成的数据对组成其中传输信号x从调制符号中均匀随机产生，接收信号y根据已知的信道矩阵和噪声方差通过大规模MIMO信道模型产生；

将小批量训练数据输入到AMP-DNN检测网络中，初始化后通过最小化原始传输信号x与估计信号之间的损失来调整网络参数来训练网络，损失函数定义为：

其中为网络中训练的参数，通过反向传播计算且用随机梯度优化器来优化，最后整个检测过程由DL库PyTorch实施；

步骤四：对所构建的深度神经网络进行离线训练，得到适用于MIMO系统检测的最优近似消息传递深度神经网络，用训练好的神经网络进行在线检测。

2.根据权利要求1所述的基于深度神经网络的近似消息传递大规模MIMO信号检测算法，其特征在于：所述步骤四具体包括：

通过PyTorch搭建AMP-DNN检测器，在信噪比范围为0-14dB，以2dB为增量，不同情况下的信噪比和天线配置下进行实验，传输数据的调制模式为QPSK、16QAM，输入层数据为尺寸为1024的1000个mini批次，初始化r⁰，Adam优化器的学习率设为0.0025，选择合适的层数，进行训练，优化参数，用训练好的神经网络进行在线检测。