[发明专利]在多个机器学习任务上训练机器学习模型

说明书

一种训练具有多个参数的机器学习模型的方法，其中该机器学习模型已经在第一机器学习任务上进行训练以确定该机器学习模型的参数的第一值。该方法包括：对于每一个参数，确定参数对机器学习模型在第一机器学习任务上实现可接受性能的重要性的相应度量；获得用于在第二、不同的机器学习任务上训练机器学习模型的训练数据；以及，通过在训练数据上训练机器学习模型，在第二机器学习任务上训练机器学习模型以调节参数的第一值，使得机器学习模型在第二机器学习任务上实现可接受性能水平，同时在第一机器学习任务上保持可接受性能水平。

相关申请的交叉引用

本申请要求于2016年7月18日提交的、序列号为62/363,652的美国临时申请的优先权。该在先申请的公开被认为是本申请公开的一部分，并通过引用并入本申请的公开中。

背景技术

本说明书涉及训练机器学习模型。

机器学习模型接收输入，并基于接收到的输入生成输出，例如，预测的输出。一些机器学习模型是参数模型，并基于接收到的输入和模型的参数值生成输出。

一些机器学习模型是深度模型，其利用模型的多个层为接收到的输入生成输出。例如，深度神经网络是包括输出层和一个或多个隐藏层的深度机器学习模型，其中每个隐藏层对接收到的输入应用非线性变换以生成输出。然而，机器学习模型在多个任务上训练时可能会经受“灾难性遗忘”，即在学习新任务时丢失先前任务的知识。

一些神经网络是递归神经网络。递归神经网络是接收输入序列并根据输入序列生成输出序列的神经网络。具体地，递归神经网络在处理了输入序列中的先前输入之后，使用网络的一些或全部内部状态，根据输入序列中的当前输入生成输出。

发明内容

本说明书描述了在一个或多个位置处的一个或多个计算机上实施为计算机程序的系统如何在多个机器学习任务上训练机器学习模型。

总的来说，一个创新方面可以体现在用于训练具有多个参数的机器学习模型的方法中。机器学习模型已经在第一机器学习任务上进行了训练以确定机器学习模型的参数的第一值。该方法包括：对于多个参数中的每一个参数，确定参数对机器学习模型在第一机器学习任务上实现可接受性能的重要性的相应度量；获得用于在第二、不同的机器学习任务上训练机器学习模型的训练数据；以及，通过在训练数据上训练机器学习模型，在第二机器学习任务上训练机器学习模型以调节参数的第一值，使得机器学习模型在第二机器学习任务上实现可接受性能水平，同时在第一机器学习任务上保持可接受性能水平，其中，在机器学习模型在第二机器学习任务上进行训练期间，对机器学习模型在第一机器学习任务上实现可接受性能更为重要的参数的值比对机器学习模型在第一机器学习任务上实现可接受性能的不太重要的参数的值受到更强的约束以不偏离第一值。

在训练数据上训练机器学习模型可以包括：调节参数的第一值以使目标函数最优化，更具体地说是旨在使目标函数最小化，该目标函数包括：(i)度量机器学习模型在第二机器学习任务上的性能的第一项，和(ii)对偏离第一参数值的参数值施加惩罚的第二项，其中，第二项对于对在第一机器学习任务上实现可接受性能更为重要的参数与第一值的偏差的惩罚比对在第一机器学习任务上实现可接受性能不太重要的参数更重。对于多个参数中的每一个参数，第二项可以取决于参数的重要性的相应度量和参数的当前值与参数的第一值之间的差的乘积。

在一些实施方式中，训练可以实施“弹性权重合并(elastic weightconsolidation，EWC)”，其中在第二任务的训练期间，参数通过弹性惩罚锚定到它们的第一值，这是对调节参数的惩罚，该惩罚随着距离参数的第一值的距离的增大而增大。弹性惩罚的刚度或程度可以取决于参数对第一任务的重要性的度量，或者更一般地说，取决于参数对任何以前学习过的任务的重要性的度量。因此，弹性权重合并可以作为软约束实施，例如随着距离的增加呈二次型，使得每一个权重都以某个量拉回到旧值，该某个量取决于(例如，成比例)其对一个或多个先前执行的任务的重要性的度量。广义地说，参数由先验调和，先验是从(多个)先前任务导出的参数的后验分布。