[发明专利]神经网络的训练方法、数据获取方法和装置

说明书

本申请公开了人工智能领域中的一种神经网络的训练方法、数据获取方法和装置。该神经网络的训练方法包括：获取训练数据；使用训练数据对所述神经网络进行训练，使得神经网络从训练数据中学习分解域不变特征和域特定特征。通过从训练数据中分解域不变特征和域特定特征，使得域不变特征能够与域特定特征解耦；其中，所述域特定特征为表征所述训练数据所属的领域的特征，所述域不变特征为与所述训练数据所属领域无关的特征。由于本申请的方法训练的神经网络使用特征解耦得到的域不变特征来执行任务，避免了域特定特征对于神经网络的影响，从而提升了神经网络在不同领域之间的迁移性能。

技术领域

本申请涉及人工智能领域，具体涉及一种神经网络的训练方法、数据获取方法和装置。

背景技术

人工智能(artificial intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。人工智能领域的研究包括机器人，自然语言处理，计算机视觉，决策与推理，人机交互，推荐与搜索，AI基础理论等。

例如，在计算机视觉相关的应用场景中，以机器学习方式训练的神经网络可用于完成目标分类/检测/识别/分割/预测等多种任务。在很多应用场景下，训练样本和测试样本很可能来自不同的域，这会为神经网络的实际应用带来问题。例如，在车辆检测的应用场景下，源域数据可能是晴天拍摄的交通场景图像，而目标域数据却是雾天拍摄的交通场景图像。此时使用源域数据训练得到的目标检测模型就很难在目标域数据场景下取得好的效果。为了解决这种由于训练样本和测试样本之间的域偏差所带来的模型应用问题，域自适应(domain adaptation，DA)学习作为机器学习的重要研究领域在近几年受到了广泛的关注。

域自适应学习通常使用分布对齐的方法来对齐源域和目标域的数据之间的概率分布，以缓解域偏差对域自适应学习任务带来的不利影响。由于这种分布对齐的过程只是在整体特征表示层面进行的，使得域自适应学习任务不可避免受到不同领域的特定特征的影响，因此，训练出的神经网络仍然存在迁移性能差的问题。

发明内容

本申请提供一种神经网络的训练方法、数据获取方法和装置，能够更好地提升神经网络在不同领域之间的迁移性能。

第一方面，提供了一种神经网络的训练方法，包括：获取训练数据；使用所述训练数据对神经网络进行训练，使得所述神经网络从所述训练数据中学习分解域不变特征和域特定特征；其中，所述域特定特征为表征所述训练数据所属的领域的特征，所述域不变特征为与所述训练数据所属领域无关的特征。

通过从训练数据中分解域不变特征和域特定特征，使得域不变特征能够与域特定特征解耦。由于本申请的训练方法得到的神经网络使用域不变特征来执行任务，这样避免了域特定特征对于神经网络的影响，从而提升了神经网络在不同领域之间的迁移性能。

结合本申请的第一方面，在一种可能的实现方式中，所述使用所述训练数据对神经网络进行训练包括：从所述训练数据中分解出域不变特征和域特定特征；使用所述域不变特征执行任务，得到任务损失，并计算所述域不变特征和所述域特定特征之间的互信息损失，所述任务损失用于表征使用所述域不变特征执行任务所得到的结果与任务标签之间的差距，所述互信息损失用于表示所述域不变特征和所述域特定特征之间的差异；根据所述任务损失和所述互信息损失，训练所述神经网络。

通过根据任务损失和互信息损失来训练神经网络，不仅可使得分解出的域不变特征更加精准的与实例对应，还可在训练的过程中减少域不变特征和域特定特征之间的互信息损失，以促进域不变特征和域特定特征的完全解耦，进一步降低域特定特征对域不变特征的影响。