[发明专利]信息处理系统

说明书

本发明提供一种信息处理系统，其信息处理装置具备：第一判断部，其实施第二输出数据相对于第一输出数据的变化量是否在被预先设定的阈值以下的判断，其中，所述第一输出数据为，通过将第一输入数据向被预先学习过的学习完毕模型中输入从而从学习完毕模型中获得的数据，所述第二输出数据为，通过将在第一输入数据上相加被设定的摄动量的摄动而得到的第二输入数据向学习完毕模型中输入从而从学习完毕模型中获得的数据；第一输出部，其将表示通过第一判断部而被判断为变化量在阈值以下的第一输入数据和摄动量的信息输出。

技术领域

本公开涉及一种信息处理系统。

背景技术

在Xiang,Tran and Johnson,Reachable Set Computation and SafetyVerification for Neural Networks with ReLU Activations(arXiv2017).(非专利文献1)中，公开了一种对相对于利用神经网络而被预先学习过的学习完毕模型的输入数据的、该学习完毕模型的输出数据的范围严格地进行辨别的技术。

发明内容

发明所要解决的问题

在非专利文献1所记载的技术中，由于计算量庞大从而并不现实，因此在减少计算量的观点上存在改善的余地。此外，非专利文献1中所记载的技术并不是对通过向学习完毕模型输入数据从而获得的输出数据的可靠性进行评价的技术。

本公开是考虑到以上的情况而完成的技术，其涉及一种能够在减少计算量的同时，对通过向学习完毕模型输入数据从而获得的输出数据的可靠性进行评价的技术。

用于解决问题的方法

第一方式所涉及的信息处理系统包括信息处理装置以及控制装置，其中，所述信息处理装置具备：第一判断部，其实施第二输出数据相对于第一输出数据的变化量是否在被预先设定的阈值以下的判断，其中，所述第一输出数据为，通过将第一输入数据输入至被预先学习过的学习完毕模型中从而从所述学习完毕模型中获得的数据，所述第二输出数据为，通过将在所述第一输入数据上相加被设定的摄动量的摄动而得到的第二输入数据输入至所述学习完毕模型中从而从所述学习完毕模型中获得的数据；第一输出部，其将表示通过所述第一判断部而被判断为所述变化量在所述阈值以下的所述第一输入数据和所述摄动量的信息输出，所述控制装置具备：取得部，其取得用于输入至所述学习完毕模型中的第三输入数据；第二判断部，其实施所述第三输入数据是否被包含在以由所述第一输出部而输出的信息所表示的所述第一输入数据为基准的所述摄动量的范围内的判断；第二输出部，其将通过所述第二判断部而被判断为并未被包含在所述范围内的所述第三输入数据输出，所述第一判断部将通过所述第二输出部而被输出的第三输入数据作为所述第一输入数据来实施所述判断，所述第一输出部进一步将表示通过所述第一判断部而被判断为所述变化量在所述阈值以下的所述第三输入数据和所述摄动量的信息输出。

根据第一方式所涉及的信息处理系统，实施第二输出数据相对于第一输出数据的变化量是否在被预先设定的阈值以下的判断，其中，所述第一输出数据为，通过将第一输入数据输入至被预先学习过的学习完毕模型中从而从学习完毕模型中获得的数据，所述第二输出数据为，通过将在第一输入数据上相加被设定的摄动量的摄动而得到的第二输入数据输入至学习完毕模型中从而从学习完毕模型中获得的数据。此外，通过信息处理装置而将表示被判断为变化量在阈值以下的第一输入数据和摄动量的信息输出。此外，通过控制装置而对用于向学习完毕模型输入的第三输入数据是否被包含在以由第一输出部而输出的信息所表示的第一输入数据为基准的摄动量的范围内进行判断。此外，通过控制装置而输出被判断为未被包含在上述范围内的第三输入数据。而且，通过信息处理装置而将通过控制装置而输出的第三输入数据作为第一输入数据来实施上述判断，并且进一步输出表示被判断为变化量在阈值以下的第三输入数据和摄动量的信息。

因此，能够在减少计算量的同时，对通过向学习完毕模型输入数据从而获得的输出数据的可靠性进行评价。