[发明专利]神经网络中的盲点实施

说明书

公开了用于在神经网络模型中实施盲点的技术。在一些示例实施例中，一种计算机实施的方法包括：获得在图像捕获设备的视场内捕获的并且包括占据视场内的特定位置的特定类型的对象的图像，以及使用神经网络模型基于对象的特定位置来确定对象的置信值。置信值表示对象是感兴趣对象的可能性，并且神经网络模型被训练为当特定类型的对象占据特定位置时，为特定类型的对象生成比当特定类型的对象不占据特定位置时更低的置信值。

技术领域

本申请一般涉及神经网络的技术领域，并且在各种实施例中，涉及用于神经网络模型中的盲点实施的系统和方法。

背景技术

随着实践应用开始出现在从计算机视觉到语音识别的各种领域中，工业上对人工智能的兴趣正经历指数级增长。尽管早期取得了成功，但机器学习(Machine Learning，ML)模型在某些情况下仍然遭受不一致性。例如，基于ML的模型对小的对抗性扰动并不稳健，并且一般缺乏可解释性。当前，用来检测图像捕获设备(例如，安全相机)的视场(field ofvision)中的感兴趣对象并提供这样的检测的指示的计算机视觉模型在其检测中没有实施任何盲点。结果，如果在图像捕获设备的视场内的任何地方检测到潜在的感兴趣对象，则其被视为检测到的感兴趣对象。这些当前的计算机视觉模型不能提供对感兴趣对象的选择性检测，这造成指示对感兴趣对象的检测的不必要通知被生成，并且因此导致电子资源的过度消耗，诸如与生成并发送不必要通知相关联的附加的处理器工作负荷和网络带宽消耗。另外，由当前计算机视觉模型的这种失败造成的不必要通知需要过度的人的注意，导致了对通知的注意的负载平衡中的问题，并且恶化了用户体验。

发明内容

根据本公开的一方面，提供了一种用于神经网络模型中的盲点实施的计算机实施的方法，该方法包括：获得在图像捕获设备的视场内捕获的第一图像，第一图像包括占据视场内的第一位置的第一类型的第一对象；由至少一个硬件处理器使用神经网络模型基于第一对象的第一位置来确定第一对象的第一置信值，第一置信值表示第一对象是感兴趣对象的可能性，所述神经网络模型被配置为当第一类型的对象占据视场内的第一位置时，为第一类型的对象生成比当第一类型的对象不占据视场内的第一位置时更低的置信值；获得在图像捕获设备的视场内捕获的第二图像，第二图像包括占据图像捕获设备的视场内的第二位置的第一类型的第二对象，第二位置不同于第一位置；由至少一个硬件处理器使用神经网络模型基于第二对象的第二位置来确定第二对象的第二置信值，第二置信值表示第二对象是感兴趣对象的可能性，并且基于第二对象处于第二位置而不是第一位置，第二对象的第二置信值高于第一对象的第一置信值；基于第二对象的第二置信值来确定第二对象是感兴趣对象；以及基于确定第二对象是感兴趣对象，经由网络向计算设备通信传送指令，所述指令被配置为使得计算设备基于第二对象是感兴趣对象来执行功能。

根据本公开的又一方面，提供了一种用于神经网络模型中的盲点实施的系统，该系统包括：至少一个处理器；以及一种存储可执行指令的非暂时性计算机可读介质，其中所述可执行指令在被执行时使得至少一个处理器执行操作，所述操作包括：获得在图像捕获设备的视场内捕获的第一图像，第一图像包括占据视场内的第一位置的第一类型的第一对象；使用神经网络模型基于第一对象的第一位置来确定第一对象的第一置信值，第一置信值表示第一对象是感兴趣对象的可能性，所述神经网络模型被配置为当第一类型的对象占据视场内的第一位置时，为第一类型的对象生成比当第一类型的对象不占据视场内的第一位置时更低的置信值；获得在图像捕获设备的视场内捕获的第二图像，第二图像包括占据图像捕获设备的视场内的第二位置的第一类型的第二对象，第二位置不同于第一位置；使用神经网络模型基于第二对象的第二位置来确定第二对象的第二置信值，第二置信值表示第二对象是感兴趣对象的可能性，并且基于第二对象处于第二位置而不是第一位置，第二对象的第二置信值高于第一对象的第一置信值；基于第二对象的第二置信值来确定第二对象是感兴趣对象；以及基于确定第二对象是感兴趣对象，经由网络向计算设备通信传送指令，所述指令被配置为使得计算设备基于第二对象是感兴趣对象来执行功能。