[发明专利]快取存储器存取方法及系统

说明书

技术领域

本发明涉及一种快取存储器，特别是涉及一种三维图形着色器(shader)的快取存储器的存取系统及方法。

背景技术

在一般电子系统中，系统存储器的存取速度远慢于中央处理器的时钟速度。因此，当中央处理器欲存取系统存储器时，经常花相当的时间于等待系统存储器，因而造成整个系统效能的低落。为了增进系统效能，因而有快取存储器(cache)架构的提出，藉由内建或外加一小容量的快速存储器，例如静态随机存取存储器(SRAM)，用以存放中央处理器较常或较可能存取的数据。当所欲读取的数据已事先存放于快取存储器中，则中央处理器可快速地从快取存储器读取，不需如一般从系统存储器来读取。

快取存储器的好处对于指令(instruction)数据而言更为显著，因为，指令的数据量通常比数据(data)的数据量来得小，然而，指令被读取的机率却远比数据被读取的几率来得大。再者，对于影像显示的处理，例如三维图形着色器，不同像素数据的处理往往会使用到相同的指令群，因此，快取存储器架构对于这类影像处理应用将更显重要。

然而，一般系统中快取存储器的容量并不会很大，无法在一次写入操作中存放整个指令群，这样，在读取操作时，不能一次读取整个指令群，而是要反复地写入和读取，因而无法显现出快取存储器所带来的效能增进。举例而言，假设指令群的长度较快取存储器的长度大1。当处理第一像素时，首先必须从系统存储器读取指令群并写入快取存储器。由于快取存储器无法容纳最后一条指令，因此，图形处理器必须再从系统存储器读取最后一条指令，并将其更新覆盖于快取存储器内。当处理第二像素时，由于快取存储器已被更新覆盖，因而无法于快取存储器命中(hit)所需指令，因此，又必须重新自系统存储器读取整个指令群。换句话说，当处理每一像素时，图形处理器都无法于快取存储器命中(hit)所需指令，而必须从系统存储器读取指令，因而无法享受到前述快取存储器的好处。

因此，亟需提出一种新颖的快取存储器存取系统及方法，用以增进系统存储器频宽的使用效能。

发明内容

一种快取存储器存取方法，包含：根据对多个数据的一读取请求，决定在存储于一快取存储器中的多个数据中的各个数据是否被命中读取；及当在快取存储器中未命中读取多个数据中的各个数据，且多个数据的长度大于快取存储器的长度时，于快取存储器中预留至少一位置不予以锁定，并锁定其余位置。

根据本发明实施例，快取存储器存取系统包含快取存储器及快取控制器。快取控制器根据一数据读取请求，决定多个数据中的各个数据是否能够在一快取存储器中命中。其中，当在快取存储器中未命中多个数据中的各个数据，且多个数据的长度大于该快取存储器的长度时，于快取存储器中预留至少一位置不予以锁定，并锁定其余位置。

鉴于上述，本发明实施例提出的快取存储器存取系统及方法，有效减少快取存储器对于读取数据的无谓更新覆写，不但可减少系统存储器的数据传送，且能增进快取存储器的命中率。

附图说明

图1A显示本发明实施例的快取存储器存取系统的方块图。

图1B显示本发明另一实施例的快取存储器存取系统的方块图。

图2显示图1A/B的快取控制器的细部方块图。

图3显示本发明一实施例的快取存储器存取方法的流程图。

图4显示本发明另一实施例的快取存储器存取方法的流程图。

具体实施方式

图1A显示本发明实施例的快取存储器(cache)存取系统的方块图。本实施例虽以三维图形着色器(shader)作为例示，但是本实施例也可适用于其他应用。在本实施例中，处理器10为图形处理器(graphics processingunit，GPU)，其辅助中央处理器(未显示)，以加速图形的处理。处理器10藉由快取控制器(cache controller)12对快取存储器14及系统存储器16进行数据存取。快取存储器14可以是静态随机存取存储器(SRAM)，其存取速度快于系统存储器16，例如动态随机存取存储器(DRAM)。快取控制器12及快取存储器14可和处理器10位于同一芯片，但不限定于此。在本实施例中，快取存储器14是作为指令快取存储器之用，用以存放着色指令(shader instruction)。鉴于每一像素会执行相同的着色指令，因此本实施例的三维图形着色器非常适合采用多线程(multithreading)工作型态，让处理器10以多工方式对各线程的像素数据进行多线程处理。此外，本实施例的快取存储器14亦可规划为“多路(multiway)”快取存储器，亦即，将快取存储器14的整个存储空间划分为多个区块，用以减小判断逻辑复杂度。