[发明专利]一种人工神经网络差和迭代数据处理方法及装置

说明书

一种人工神经网络差和迭代数据处理方法及装置，所述方法将一个静态图像帧看作一个三维空间里的二元函数图形，每个像素点的颜色灰度值是其坐标的函数，采用差分对于输入信号通过多阶差分高通滤波，采用求和是对输入信号进行低通滤波，采用差和运算将差分信号和求和信号进行迭代运算，得到不同阶次的数学特征抽象，供机器全面快速学习；所述装置包括输入层、差和层和输出层。本发明用差和层的简单的二元差分算子和二元求和算子及其迭代架构，实现了对声音、图像和高维流形的几何和物理意义分析的功能。实质是把卷积神经网络中卷积层的卷积运算中矩阵的乘、加的内积运算,代之以矩阵的加、减迭代运算，可以加速网络运行速度和效率。解决了现有神经网络不透明的黑盒子问题及学习速度慢等问题。广泛应用于图像及视频对象识别与处理装置中。

技术领域

本发明涉及人工智能神经网络领域，进一步来说，涉及一种声音、图像及视频对象识别技术及数据处理方法，具体来说，涉及差和迭代数据处理方法的神经网络算法架构及装置。

背景技术

神经网络有强大的非线性拟合能力，可映射任意复杂的非线性关系。且学习规则简单，便于计算机实现。具有很强的鲁棒性、记忆能力及自学习能力，因此应用市场广泛。但目前的深度学习神经网络因为采用大量卷积层，需学习或训练的权值参数繁多，从本质上讲，其实就是多层神经网络架构的理论透明度不够,既无法从数学上清晰解释网络各层的连接方式，也不能更清晰解释卷积神经网络的卷积核的几何和物理意义，同时也难以解释BP算法的不同权值的取舍理由。因此，现有的多层神经网络的复杂性既是深度学习成功的原因也是其缺陷存在的原因。要解决现有神经网络的大样本问题、学习或工作速度慢、过拟合的问题以及最终解决黑盒子的理论问题，只能根据新的数学算法理论设计新的算法，进而设计出新的网络架构和实现装置。现有神经网络的几大明显缺陷如下：

黑盒子问题：神经网络由于复杂多层、参数众多，难以解释自己的预测过程和依据。这种不透明的黑盒子的错误结论在可能引起生命、责任或权利后果的场景中导致了严重的问题：如无人驾驶的汽车撞了行人，可能无从得知为什么人工智能会做出这样的决定；医生机器人给出需要手术的诊断结果如何使人信服，法官机器人的判决也可能无法给出逻辑链条清晰的判据集……等等。

速度慢、过拟合的问题：神经网络都需要大量训练样本来完成调参学习。样本少就无法进行工作，无法像人类一样可以少样本、无监督的学习。

同样因为要用大量的样本训练，神经元之间的全连接及权值参数不可控，大规模网络训练过程中计算周期长，学习速度慢，且容易产生过拟合现象。

比如BP网络，当一个或多个可调参数(权值或阈值)对任何一个输出都有影响，这样的所谓全局逼近网络。由于对于每次输入，网络上的每一个权值都要调整，从而导致网络的学习速度很慢。

在中国专利数据库中涉及一种人工神经网络差和迭代数据处理方法及其装置的专利有《基于稀疏表示和神经网络的心律不齐识别分类方法》公开(公告)号为CN108647584 A，《卷积神经网络训练方法、超声图像识别定位方法及系统》公开(公告)号为CN109447940 A，《一种基于并行多级宽度神经网络的学习方法》公开(公告)号为CN110110845 A，《一种基于非线性组合模型的卷烟月度销量预测方法》公开(公告)号为CN109961315 A，《一种基于卷积神经网络的电力设备检测算法》公开(公告)号为CN109446925 A。然而迄今为止，尚无采用本发明所述差和迭代人工神经网络算法架构的技术方案解决现有神经网络难以解释自己预测过程和依据的黑盒子问题、需要大量训练样本来完成调参学习以解决速度慢等问题的申请件。

发明内容

本发明旨在解决现有神经网络难以解释自己预测过程和依据而产生的黑盒子问题、需要大量训练样本来完成调参学习以解决速度慢等问题。

针对以上所述深度机器学习中神经网络的问题，结合生物神经学领域听、视觉神经系统的存在大量信号差的解剖结果，本发明从图像或视频的机器学习和识别入手，提出了一种基础性的神经网络新算法、新架构及其装置的系统设计。