[发明专利]电子装置和执行该电子装置的操作的方法

说明书

一种用于电子装置执行人工智能模型的操作的方法包括：在用于神经网络模型的操作的多个数据存储在存储器中时，获取关于电子装置的硬件的资源信息，所述多个数据分别具有彼此不同的重要程度；基于所获取的资源信息，根据所述多个数据中的每个的重要程度，获得所述多个数据之中的将用于神经网络模型的操作的数据；以及通过使用所获得的数据执行神经网络模型的操作。

相关申请的交叉引用

本申请是基于2019年6月5日在韩国知识产权局提交的韩国专利申请第10-2019-0066396号并要求享有其优先权，该韩国专利申请的公开内容通过引用全文合并于此。

技术领域

本公开涉及电子装置和执行该电子装置的操作的方法，更具体地，涉及执行人工神经网络模型的操作的方法。

背景技术

近来，通过使用硬件来实现人工智能模型(例如深度学习模型)的研究正在持续。在通过使用硬件来实现人工智能模型的情况下，可以极大地提高人工智能模型的操作速度，并且先前由于存储器大小或对响应时间的限制而难以使用的各种深度学习模型的使用成为可能。

提出了用于从硬件的实现的观点来看持续改善人工智能模型的性能的算法，作为例如减少操作数据的量用以减少操作延迟和功耗的数据量子化技术。

数据量子化是例如减少表示矩阵参数的信息的量的方法，并且可以将实数数据分解为二进制数据和缩放因子，并将数据表示为近似值。由于量子化的数据不能达到原始数据的精度，因此使用量子化的数据的人工智能模型的推理的精度可能低于人工智能模型的原始推理的精度。然而，考虑到硬件的有限情形，量子化在一定程度上可以节省存储器的使用量或计算资源的消耗，因此在设备上人工智能(on-device artificial intelligence)领域中正在积极地进行研究。

发明内容

本公开的实施例提供了减少人工智能模型的数据容量同时使人工智能模型的性能的劣化最小化的电子装置、以及执行人工智能模型的操作的方法。

根据本公开的一方面，一种用于电子装置执行人工智能模型的操作的方法包括以下操作：在分别具有彼此不同的重要程度的多个数据存储在存储器中时，获取关于电子装置的硬件的资源信息，所述多个数据用于神经网络模型的操作；基于所获取的资源信息，根据所述多个数据中的每个的重要程度，获得所述多个数据之中的将用于神经网络模型的操作的一些数据；以及通过使用所获得的一些数据执行神经网络模型的操作。

根据本公开的一方面，一种电子装置包括：存储器，存储分别具有彼此不同的重要程度的多个数据；以及处理器，被配置为基于用于电子装置的硬件的资源信息根据存储在存储器中的所述多个数据中的每个的重要程度获得所述多个数据之中的将用于神经网络模型的操作的一些数据、以及通过使用所获得的一些数据执行神经网络模型的操作。

根据实施例，可以根据硬件的要求灵活地调整用于神经网络模型的数据量。例如，可以在延迟方面、功耗方面或用户方面中的至少一个方面预期改善的效果。

在延迟方面，可以考虑到请求运行神经网络模型的时间而在神经网络模型的操作中排除具有低重要程度的二进制数据并选择性地仅使用具有高重要程度的二进制数据，从而以最小的准确性降低满足要求。

在功耗方面，在确定电子装置的电池的剩余量较低的示例中，可以控制使得神经网络模型考虑到硬件的条件(例如电池的低电量)以最小性能操作的数据量，因此可以延长电子装置的操作时间。

在用户(或开发人员)方面，在相关技术中，考虑到安装在电子装置上的人工智能应用的操作量和其他限制，用户难以判断将用于神经网络模型的最佳数据量。然而，根据实施例，可以基于硬件的条件考虑延迟和功耗自动地适当调整数据量，因此可以将人工智能模型的推理的准确性维持高于一定程度，同时有效地运行神经网络模型。