[发明专利]使用异构处理器为应用程序提供低潜伏时间的系统和方法

摘要

本发明公开用于响应请求的方法、装置和计算机可读介质。一种响应请求的方法可包括接收包括回调函数的请求。所述一个或多个请求可接收于与第一类型的处理器相关联的第一存储器中，所述第一类型的处理器可为CPU。所述请求可被移动至第二存储器。所述第二存储器可与第二类型的处理器相关联，所述第二类型的处理器可为GPU。GPU线程可在所述请求的数量为至少阈值数量时处理所述请求，以便确定所述请求的结果。所述方法可包括将所述结果移动至所述第一存储器。所述方法可包括所述CPU利用所述对应结果来执行所述一个或多个回调函数。GPU持久线程可检查请求的数量，以便确定何时达到请求的阈值数量。

主权项

1.一种用于在多处理器计算机系统中响应请求的方法，所述方法包括：由第一类型的一个或多个处理器接收一个或多个请求，每个请求具有密钥值，其中所述第一类型的一个或多个处理器与第一存储器相关联，并且所述第一存储器包括具有多个数据值的第一数据结构，所述每个数据值对应于所述第一存储器中的多个位置中的一个位置；将所述一个或多个请求从与所述第一类型的所述一个或多个处理器相关联的所述第一存储器移动至与第二类型的一个或多个处理器相关联的第二存储器，其中所述第二存储器包括第二数据结构，并且所述第二数据结构包括：(i)多个对值，每个对值包括多个密钥值中的一个以及所述第一存储器中的所述多个位置中的一个，以及(ii)多个索引值，其各自对应于所述多个对值中的一个或多个，每个指针包括索引值；存储在所述第二数据结构中，在每个索引值处，所述多个对值中的一个或多个各自具有在所述第一存储器中的所述位置中的存储对应数据值的一个位置；基于所述一个或多个请求中的至少一个，通过所述第二类型的所述一个或多个处理器修改在所述第二存储器中的所述第二数据结构；由所述第二类型的所述一个或多个处理器确定所述一个或多个请求中的每一个的一个或多个确定的指针，其中所述指针基于所述请求中的信息来确定所述一个或多个确定的指针中的每一个对应于所述密钥值和所述第一存储器中的数据值的对应位置，其中所述一个或多个确定的指针中的每一个包括由每个相应请求中的所述密钥值确定的指针值；将所述密钥值和对应位置移动至所述第一存储器；对于所述一个或多个确定的指针中的每一个，通过所述第一类型的所述一个或多个处理器检索由所述一个或多个确定的指针所指向的一个或多个数据值的检索数据，其中所述检索数据是在所述第一存储器中在所述对应位置处从所述第一存储器中的所述第一数据结构检索的；以及通过所述第一类型的所述一个或多个处理器发送所述检索数据来响应所述一个或多个请求。