[发明专利]指令执行方法、装置、电子设备和计算机可读存储介质

说明书

根据本公开的示例实施例，提供了一种指令执行方法、装置、电子设备和计算机可读存储介质，可以用于人工智能领域中。指令执行方法包括：执行指令序列，所述指令序列包括存储器指令和非存储器指令，所述执行序列中的指令按顺序开始执行；确定需要在开始执行第二存储器指令之前完成对第一存储器指令的执行，所述第二存储器指令是在所述指令序列中所述第一存储器指令之后的下一个存储器指令；以及在执行所述第一存储器指令的周期期间，执行所述第一存储器指令与所述第二存储器指令之间的非存储器指令，而不执行所述第二存储器指令。利用上述方法，可以在提升处理器整体性能的同时保证编程正确性和易用性，有利于人工智能处理器的推广。

技术领域

本公开涉及计算机技术，并且更具体地，涉及指令执行方法、装置、电子设备和计算机可读存储介质，可以应用于人工智能领域中。

背景技术

存储器模型可以分为硬件层面的存储器模型和语言的存储器模型，其通过定义硬件设计或者编程需要的规范来保证访存顺序和程序顺序，从而保证执行程序的正确性。传统的处理器以及例如C++等高级语言都支持存储器模型。主要的存储器模型包括顺序一致性模型、全存储排序模型和松散存储器模型等，其中松散存储器模型对性能最友好。对于新兴的人工智能处理器以及相应的编程语言，同样需要针对其定义和支持存储器模型。人工智能处理器是一类域特定的处理器。在针对人工智能领域的特点设计的存储器架构，最大的变化是采用便签存储器来替代传统处理器中的高速缓存，从而使得编程人员可以直接管理数据的存储。

具体而言，在人工智能应用场景中，访存局部性相对传统处理器较差，这时高速缓存带来的性能提升不明显，而在数据即用即扔的场景中反而会降低性能。同时，高速缓存的复杂度以及资源占比极高，相比之下移除高速缓存以获得更多的硬件资源面积用于算力的增加是更合理的，所以目前很多人工智能处理器采取无高速缓存的便签存储器结构。采用便签存储器之后，存储器主要由软件编程人员来管理，大部分人工智能由于架构和编程语言上的不同，传统处理器实现的存储模型系统和方法不能完全适用。

发明内容

根据本公开的实施例，提供了一种指令执行方法、装置、电子设备和计算机可读存储介质。

在本公开的第一方面中，提供了一种指令执行方法，包括：执行指令序列，所述指令序列包括存储器指令和非存储器指令，所述执行序列中的指令按顺序开始执行；确定需要在开始执行第二存储器指令之前完成对第一存储器指令的执行，所述第二存储器指令是在所述指令序列中所述第一存储器指令之后的下一个存储器指令；以及在执行所述第一存储器指令的周期期间，执行所述第一存储器指令与所述第二存储器指令之间的非存储器指令，而不执行所述第二存储器指令。

在本公开的第二方面中，提供了一种指令执行装置，包括：指令序列执行模块，被配置为执行指令序列，所述指令序列包括存储器指令和非存储器指令，所述执行序列中的指令按顺序开始执行；执行确定模块，被配置为确定需要在开始执行第二存储器指令之前完成对第一存储器指令的执行，所述第二存储器指令是在所述指令序列中所述第一存储器指令之后的下一个存储器指令；以及非存储器指令执行模块，被配置为在执行所述第一存储器指令的周期期间，执行所述第一存储器指令与所述第二存储器指令之间的非存储器指令，而不执行所述第二存储器指令。

在本公开的第三方面中，提供了一种电子设备，包括至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够实现根据本公开的第一方面的方法。

在本公开的第四方面中，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机实现根据本公开的第一方面的方法。

利用根据本申请的技术，可以在提升处理器整体性能的同时保证编程正确性和易用性，有利于人工智能处理器的推广。