[发明专利]将外部应用程序集成到深度神经网络中

说明书

本申请涉及将外部应用程序集成到深度神经网络中。在深度神经网络(DNN)的端到端训练期间，操作可微分的估计器子网以估计外部软件应用程序的功能。然后，在由所训练的DNN进行推理期间，通过启用DNN和外部软件应用程序之间的API通信，将可微分的估计器子网替换为外部软件应用程序的功能。

技术领域

本发明涉及深度神经网络(DNN)领域。

背景技术

DNN的端到端学习在过去几年中已经占据了一席之地，在包括计算机视觉、文本分析和语音识别在内的多个领域实现了最先进的性能。在端到端学习中，学习过程可以在单个端到端步骤中训练分类器，这消除了对复杂的多阶段机器学习流水线的需要。

行业面临的挑战之一是将DNN与外部应用程序集成。使DNN能够(例如，通过应用程序编程接口(API))使用外部应用程序或与外部应用程序交互可以产生优越的解决方案，因为外部应用程序提供的功能或逻辑可以被包括在DNN中，或者成为DNN的一部分。访问API是经由API的输入和输出参数完成的。例如，考虑简单的问题：“7.2大于4.5吗？”。可以通过让DNN处理自然语言处理部分并访问简单的API(例如通过运行确定哪个值更大的简单函数)来解决逻辑部分来回答该问题。这可以被称为“混合”解决方案。通过使用已经在外部应用程序中实现的分析技术和封闭算法，该类型的解决方案可以胜过纯DNN模型。这样的外部应用程序不需要学习，因此使用它们会减少所需的训练数据总量。

训练DNN以通过外部应用程序的API与外部应用程序交互存在固有的困难：大多数DNN训练过程依赖于梯度反向传播的不同变体。因此，只有所有解决方案部分都被实现为神经网络，或者至少可以返回有效梯度，才可能对它们进行端到端训练。因此，整体解决方案的所有部分必须是可微分的。

相关技术的前述示例和与其相关的限制旨在是说明性的而非排他性的。通过阅读说明书和研究附图之后，相关领域的其他限制对于本领域技术人员而言将变得明显。

发明内容

结合系统、工具和方法来描述和说明以下实施例及其方面，这些系统、工具和方法旨在是示例性和说明性的，而不是限制范围。

一个实施例提供了一种方法，包括：在深度神经网络(DNN)的端到端训练期间，操作可微分的估计器子网以估计外部软件应用程序的功能。

另一实施例提供了一种计算机程序产品，包括具有随其实现的程序代码的非暂态计算机可读存储介质，该程序代码可由至少一个硬件处理器执行以：在深度神经网络(DNN)的端到端训练期间，操作可微分的估计器子网以估计外部软件应用程序的功能。

另一实施例提供了一种系统，包括：至少一个硬件处理器；以及具有随其实现的程序代码的非暂态计算机可读存储介质，该程序代码可由所述至少一个硬件处理器执行以：在深度神经网络(DNN)的端到端训练期间，操作可微分的估计器子网以估计外部软件应用程序的功能。

在一些实施例中，该方法或指令还包括：在由所训练的DNN进行的推理期间，通过启用DNN与外部软件应用程序之间的API通信，来将可微分的估计器子网替换为外部软件应用程序的功能。

在一些实施例中，端到端训练具有随机梯度下降(SGD)。

在一些实施例中，外部软件应用程序的功能是不可微分的。

在一些实施例中，外部软件应用程序的功能是可微分的。

在一些实施例中，该方法或指令还包括操作至少一个选择器子网以：确定对外部软件应用程序的应用程序编程接口(API)调用；以及从到DNN的输入中提取合适的API自变量。

在一些实施例中，该方法或指令还包括操作适应函数以：使选择器子网的输出格式适应API所需的输入格式；并且在推理期间使API的输出格式适应DNN的更高网络层所需的输入格式。