[发明专利]用于数字信号处理的设备和计算机实现的方法

说明书

用于数字信号处理的设备和计算机实现的方法，包括提供（206）第一组数据，将第一组数据映射（208）到第二组数据，以及取决于第二组数据来确定（210）数字信号处理的输出，其中取决于有限级数项的总和来确定第二组数据，其中取决于第一组数据与内核的卷积结果来确定所述级数的至少一个项，并且取决于第一组数据并且独立于内核来确定所述级数的至少一个项。

技术领域

本发明涉及一种用于数字信号处理、特别是用于图像处理的设备和计算机实现的方法。

背景技术

生成模型旨在学习高维变量上的分布。基于似然的生成模型是使用对数似然目标来优化的，并且可以被宽泛地划分成自回归模型（ARM）、变分自动编码器（VAE）和归一化流（NF）。

例如，Diederik P. Kingma、Max Welling的“Auto-Encoding VariationalBayes”（关于学习表示的第二届国际会议的论文集中，2014年）中描述了VAE的方面。

例如，Danilo Rezende和Shakir Mohamed的“Variational Inference withNormalizing Flows”（关于机器学习的第32届国际会议的论文集中，机器学习研究论文集第37卷，第1530-1538页，PMLR，2015年）中描述了NF的方面。

NF和ARM两者都允许精确的似然计算。取决于模型，一些形式的ARM至少与NF相比不允许简单的逆向计算，显式逆有时不是设计问题。NF使用可逆函数，所述可逆函数的逆和雅可比行列式是易于计算的。

特定类的归一化流是线性归一化流。虽然存在线性流，但是只有少数可以直接应用于卷积。

Mahdi Karami等人的“Invertible Convolutional Flow”（2019年12月14日，XP055749260）和GUOQING ZHENG等人的“Convolutional Normalizing Flows”（XP081327603）公开了卷积流的方面。

发明内容

鉴于此，通过根据独立权利要求的方法和设备、利用下面被称为卷积指数（convolution exponential）的变换实现了进一步的改进。该操作利用矩阵指数来构造由卷积内核参数化的线性变换。卷积指数继承了来自矩阵指数的性质：正向和逆向计算在线性时间内具有相同的时间复杂度和精确的行列式计算。

在一个方面，在与输入向量的矩阵向量乘法中使用等价于卷积的矩阵。与卷积的这种等价数学形式使得易于确定卷积指数的导数。

根据一个方面，在用于密度建模的模型中使用该变换。根据该方面，该模型由形成可逆人工神经网络的正向部分的函数来定义，并且该函数的逆形成可逆人工神经网络的反向部分。

根据进一步的方面，在编码网络中，该模型用于将样本映射到表示上。在这种情况下，该模型的逆自动作为解码器。

一种数字信号处理的计算机实现的方法包括：提供第一组数据，将第一组数据映射到第二组数据，以及取决于第二组数据来确定数字信号处理的输出，其中取决于有限级数项的总和来确定第二组数据，其中取决于第一组数据与内核的卷积结果来确定该级数的至少一个项，并且取决于第一组数据并且独立于内核来确定该级数的至少一个项。由于这种方法，提供了数字信号到其表示的变换的相同内核可以用于根据其表示来确定数字信号，并且反之亦然。

在一个方面，取决于内核与由第一组数据定义的自回归函数的输出的卷积来确定取决于内核所确定的级数的至少一个项。

第一组数据表示人工神经网络的隐藏层处的输入，其中第二组数据表示人工神经网络的隐藏层的输出，其中输入和输出具有相同的维数。这意味着，针对可逆性在该层处应用卷积指数。