CN104714898B - 一种Cache的分配方法和装置 - Google Patents

Abstract

本发明适用于调整缓存领域，提供了一种Cache的分配方法和装置，该方法包括：获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。本发明通过每个进程的缺失率分配Cache空间的大小，可以有效减少同一个进程的数据因存放在无序的不同的组内而被经常替换的情况；通过在硬件内部设置寄存器组区，根据硬件内部寄存器组区数据来调整每个进程的Cache的大小，调整更加及时，效率更高。

Description

一种Cache的分配方法和装置

技术领域

本发明属于高速缓存领域，尤其涉及一种Cache的分配方法和装置。

背景技术

随着现代化电子设备对处理器性能的要求越来越高，使得优化处理器的内部结构变得越来越重要。为了提高处理器的运行效率，减少处理器访问主存的时间，在处理器与主存之间引入了高速缓存存储器(Cache)。通过将处理器使用次数较多数据暂时存储放在Cache，由于Cache的读写速度比主存要高得多，接近于处理器的速度，从而对于提高处理器的效率有极其重要的效果。

通过引入Cache，使得处理器可以更高效率的获取数据，能够提高处理器的运算效率。然而，由于Cache的容量远远小于主存的容量，而在Cache中只能存放主存的一部分数据，使得Cache与主存间需要建立一定的映射关系，在处理器访问主存前，会先在Cache中确定是否有数据命中，如果不命中则需要访问主存。因此，要尽可能减少Cache中的数据缺失，从而提高处理器获取数据的速度。

目前使用较多的Cache与主存间的映射方式为路组关联映射策略，将Cache按照与主存相同行大小划分多个大小相同的存储组，一行主存中的数据只能存储到固定的几个Cache存储组中，但可存储在存储组内任意的Cache行中，由于处理器处理不同的程序的数据时，对主存的访问不是均匀的，容易造成Cache中的一部分数据经常被替换，而某些部分的数据却很少访问，不利于增加Cache的命中率和提高处理器的性能。

发明内容

本发明的目的在于提供一种Cache的分配方法，以解决现有技术由于处理器处理不同的程序的数据时，对主存的访问不均匀，容易造成Cache中的一部分数据经常被替换，而某些部分的数据很少访问的问题，从而增加Cache的命中率和提高处理器的性能。

本发明的实现方法如下：一种Cache的分配方法，将Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述方法包括：

获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

本发明的另一目的在于提供一种Cache的分配装置，其特征在于，Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述装置包括：

获取单元，用于获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断单元，用于判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

第一调整单元，用于如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

在本发明中，Cache存储器包括若干个大小相同的存储组，在每个存储组中包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，通过由Cache缺失率寄存器所记录的进程号的Cache缺失率，判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值，如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。本发明通过基于硬件内部进程号来识别不同的进程，根据每个进程的缺失率分配Cache空间的大小，可以有效减少同一个进程的数据因存放在无序的不同的组内而被经常替换的情况；其次，本发明通过在硬件内部设置寄存器组区，通过硬件内部寄存器组区数据来调整每个进程的Cache的大小，相对于软件根据应用程序来调整Cache的方法响应更加及时，调整效率更高。

附图说明

图1是本发明第一实施例提供Cache存储器的数据划分示意图；

图2是本发明第一实施例提供的Cache的分配方法的实现流程图；

图3是本发明第二实施例提供的Cache的分配方法的实现流程图；

图4是本发明第三实施例提供的Cache的分配装置的结构示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明实施例中所述Cache缺失率，是指处理器读取指令或者数据时，数据未能在Cache中命中的概率。本发明实施例所述处理器在处理实际程序时，处理器内部按照硬件内部进程号转换进程号的有效地址为实际地址，其中，所述硬件内部进程号可用于读取指令与数据存储，与主存中实际运行的程序的地址存在对应关系。由于一个应用程序往往会占用一个或者几个硬件内部进程号，通过硬件内部进程号为整体来调整其占用Cache的资源，可以有效减少同一个进程的数据因放置在无序的不同的组内而被经常替换的情况。本发明所述Cache的分配方法，Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述方法包括：

获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

Cache存储器包括若干个大小相同的存储组，在每个存储组中包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，由Cache缺失率寄存器所记录的进程号的Cache缺失率，判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值，如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。本发明通过基于硬件内部进程号来识别不同的进程，根据每个进程的缺失率分配Cache空间的大小，可以有效减少同一个进程的数据因存放在无序的不同的组内而被经常替换的情况；其次，本发明通过在硬件内部设置寄存器组区，通过硬件内部寄存器组区数据来调整每个进程的Cache的大小，相对于软件根据应用程序来调整Cache的方法响应更加及时，调整效率更高。

实施例一：

在本发明实施例中，Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器。

如图1所示，将Cache存储器分成数据及状态存储区、地址标签存储区和相应的三个寄存器组区，其中，数据及状态存储区用于存储数据与存储器状态，地址标签存储区用于地址的命中比较，三个寄存器定义如下：

1)处理器进程号寄存器：用于存储当前Cache的存储组的处理器进程号，用于区分不同的进程的标记。

2)Cache缺失率寄存器：实时记录当前存储组的Cache缺失率值，可用于计算当前进程对应多个存储组时的平均Cache缺失率大小。

3)Cache组标记寄存器：动态调整当前进程号的Cache的存储组的组标记，用于识别同一个进程号下不同的存储组。

通常情况下，硬件进程号的位宽为8位，可以独立表示256个不同的进程。以64K字节数据存储空间的Cache为例，每个Cache行由64字节组成，可将Cache划分为128个存储组，每个存储组有8行Cache行组成（可以根据实际情况调整每个Cache存储组的大小，如可将Cache划分为64个存储组，每个存储组有16行组成）。

图2示出了本发明第一实施例提供的Cache的分配方法的实现流程，本发明所述Cache的分配方法包括：

在步骤S201中，获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率。

具体的，所述Cache缺失率寄存器用于记录每个进程所对应的多个存储组的缺失率，在处理器取指令或者存取数据操作时，产生相应的需要操作的数据的硬件地址进入Cache，查找所述硬件地址对应的进程号，可以确定所述进程号是否存在于Cache中，如果进程号存在于Cache中，则报告Cache命中，表示Cache中存储有所述硬件地址的数据，处理器可以在Cache中操作。相反，如果进程号不存在于Cache中，则报告未命中，表示Cache中没有存储所述硬件地址的数据，在这种情况下，由Cache缺失率寄存器记录所述进程号的Cache缺失率。

在步骤S202中，判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值。

具体的，所述Cache缺失率阈值，可以根据Cache未使用的空间进行调整，当Cache中未使用的空间较多时，可以将所述Cache缺失率阈值相应的调整为较小，当所述Cache中未使用的空间较少时，可以将所述Cache缺失率阈值相应的增大。

在步骤S203中，如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

当所述进程号的Cache缺失率高于预设的Cache缺失率阈值，则表示当前进程号所对应的在Cache中的存储组缺失的数据较多，需要进一步增加存储组来减少缺失，提高进程号对应的数据命中。

其中，增加存储组通过修改需要新增的存储组的Cache组标记寄存器、进程号寄存器，使得新增加的存储组对应于所述进程号和区分同一进程下的不同存储组。

本发明实施例通过Cache存储器包括若干个大小相同的存储组，在每个存储组中包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，通过由Cache缺失率寄存器所记录的进程号的Cache缺失率，判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值，如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。本发明实施例通过基于硬件内部进程号来识别不同的进程，根据每个进程的缺失率分配Cache空间的大小，可以有效减少同一个进程的数据因存放在无序的不同的组内而被经常替换的情况；其次，本发明通过在硬件内部设置寄存器组区，通过硬件内部寄存器组区数据来调整每个进程的Cache的大小，相对于软件根据应用程序来调整Cache的方法响应更加及时，调整效率更高。

实施例二：

图3示出了本发明第二实施例提供的Cache的分配方法的实现流程，Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述Cache存储器还包括最小缺失率寄存器，所述Cache的分配方法详述如下：

在步骤S301中，判断在Cache中是否存在所述操作的数据的硬件地址所属的进程号。

在此步骤之前，需要操作的数据的硬件地址进入到Cache存储器中，在Cache存储器中查找是否存在所述操作的数据的硬件地址所属的进程号。通过查看处理器进程号寄存器，得到当前Cache的每个存储组的进程号，进行比较判断后，可以得到当前Cache中是否存在所查找的进程号。

在步骤S302中，如果Cache存储器中不存在所述硬件地址所属的进程号，分配新的存储组写入所述进程号对应的数据。

在Cache存储器中不存在所述硬件地址所属的进程号时，则说明在Cache存储器的当前时间点，Cache存储器中没有所述进程号对应的数据，需要分配新的存储组写入所述进程号对应的数据。

其中，所述新的存储组，可以查找当前Cache存储器中是否有未使用的存储组，选取所述未使用的存储组写入所述进程号对应的数据。

如果在Cache存储器中没有未使用的存储组，可以查找最近最少使用的存储组，作为写入所述进程号对应的数据的存储组。

在步骤S303中，如果Cache存储器中存在所述硬件地址所属的进程号，则获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率。

所述Cache缺失率由Cache缺失率寄存器记录，可直接通过在Cache缺失率寄存器中读取数据。

对于进程号对应一个存储组时，由所述存储组记录的Cache缺失率即为所述进程号的缺失率。

对于进程号对应多个存储组时，所述获取所述Cache缺失率寄存器记录的进程号的Cache缺失率步骤为：

根据所述Cache缺失率寄存器记录的进程号，查询所述进程号对应的多个存储组；

根据所述查询的进程号对应的多个存储组，获取所述多个存储组的Cache缺失率的平均值，作为所述进程号的Cache缺失率。

在步骤S304中，判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值。

在步骤S305中，如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

其中，所述调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组步骤，具体可包括如下步骤：

在步骤S3051中，查找Cache存储器中是否还有未使用的存储组；

在步骤S3052中，如果所述Cache存储器中有未使用的存储组，则调整Cache组标记寄存器、进程号寄存器为所述进程号分配新的存储组。

在步骤S3053中，如果所述Cache存储器中没有未使用的存储组，则查找最近最少使用的进程号所对应的存储组；

在步骤S3054中，将所述查找的存储组作为Cache缺失率高于预设的Cache缺失率阈值的进程号的新增加的存储组。

另外，本发明实施例还可以包括由缺失率寄存器记录每个周期中最小缺失率的存储组。在Cache数据行替换时，如果所述进程号的Cache缺失率低于预设的Cache缺失率阈值，则对所述进程号中的缺失率最小的存储组，通过查找所述存储组中最少使用的数据行作为替换数据行。

本发明实施例与实施例一的区别之处在于，通过在Cache存储器中查找是否有对应的进程号，可对于在Cache存储器中没有所述进程号的数据直接分配新的存储组，对于所述进程号的Cache缺失率小于预设的Cache缺失率阈值时，通过记录每个周期中最小缺失率最小的存储组，通过查找所述存储中最少使用的数据行为作替换的数据行，通过寄存器快速定位，提高替换效率。

实施例三：

图4示出了本发明第三实施例提供的Cache的分配装置的结构示意图，详述如下：

本发明实施例所述Cache的分配装置，其中的Cache存储器包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述装置包括：

获取单元401，用于获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断单元402，用于判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

第一调整单元403，用于如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组。

可选的，所述获取单元401包括：

查询子单元，用于根据所述Cache缺失率寄存器记录的进程号，查询所述进程号对应的多个存储组；

获取子单元，用于根据所述查询的进程号对应的多个存储组，获取所述多个存储组的Cache缺失率的平均值，作为所述进程号的Cache缺失率。

可选的，所述Cache存储器还包括最小缺失率寄存器，所述装置还包括：

记录单元，用于由缺失率寄存器记录每个周期中最小缺失率的存储组；

查找替换单元，用于如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，则对所述进程号中的缺失率最小的存储组，通过查找所述存储组中最少使用的数据行作为替换数据行。

进一步的，所述装置还包括：

查找单元，用于查找Cache存储器中是否还有未使用的存储组；

第二调整单元，用于如果所述Cache存储器中有未使用的存储组，则调整Cache组标记寄存器、进程号寄存器为所述进程号分配新的存储组。

本发明实施例所述装置与实施例一和实施例二中所述方法相对应，在此不作重复赘述。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种Cache的分配方法，其特征在于，其中的Cache包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述方法包括：

所述寄存器组区是通过在硬件内部设置的硬件内部寄存器组区；

获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组；

其中，所述获取所述Cache缺失率寄存器记录的进程号的Cache缺失率步骤为：

根据所述Cache缺失率寄存器记录的进程号，查询所述进程号对应的多个存储组；

根据所述查询的进程号对应的多个存储组，获取所述多个存储组的Cache缺失率的平均值，作为所述进程号的Cache缺失率。

2.根据权利要求1所述方法，其特征在于，所述Cache还包括最小缺失率寄存器，所述判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值步骤之后，所述方法还包括：

由缺失率寄存器记录每个周期中最小缺失率的存储组；

在Cache数据行替换时，如果所述进程号的Cache缺失率低于预设的Cache缺失率阈值，则对所述进程号中的缺失率最小的存储组，查找所述存储组中最少使用的数据行作为替换数据行。

3.根据权利要求1所述方法，其特征在于，所述如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组步骤包括：

查找Cache中是否还有未使用的存储组；

如果所述Cache中有未使用的存储组，则调整Cache组标记寄存器、进程号寄存器为所述进程号分配新的存储组。

4.根据权利要求3所述方法，其特征在于，所述查找Cache中是否还有未使用的存储组之后，所述方法还包括：

如果所述Cache中没有未使用的存储组，则查找最近最少使用的进程号所对应的存储组；

将所述查找的存储组作为Cache缺失率高于预设的Cache缺失率阈值的进程号的新增加的存储组。

5.根据权利要求1所述方法，其特征在于，在所述获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率的步骤之前，所述方法还包括：

判断在Cache中是否存在操作的数据的硬件地址所属的进程号；

如果Cache中不存在所述硬件地址所属的进程号，分配新的存储组写入所述进程号对应的数据；

如果Cache中存在所述硬件地址所属的进程号，则转入获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率的步骤。

6.一种Cache的分配装置，其特征在于，其中的Cache包括若干个大小相同的存储组，所述存储组中包括数据及状态存储区、地址标签存储区和寄存器组区，所述寄存器组区包括处理器进程号寄存器、Cache缺失率寄存器和Cache组标记寄存器，所述装置包括：

所述寄存器组区是通过在硬件内部设置的硬件内部寄存器组区；

获取单元，用于获取所述Cache缺失率寄存器所记录的进程号的Cache缺失率；

判断单元，用于判断所述进程号的Cache缺失率是否高于预设的Cache缺失率阈值；

第一调整单元，用于如果所述进程号的Cache缺失率高于预设的Cache缺失率阈值，调整Cache组标记寄存器、进程号寄存器增加所述进程号对应存储组；

其中，所述获取单元包括：

查询子单元，用于根据所述Cache缺失率寄存器记录的进程号，查询所述进程号对应的多个存储组；

获取子单元，用于根据所述查询的进程号对应的多个存储组，获取所述多个存储组的Cache缺失率的平均值，作为所述进程号的Cache缺失率。

7.根据权利要求6所述装置，其特征在于，所述Cache还包括最小缺失率寄存器，所述装置还包括：

记录单元，用于由缺失率寄存器记录每个周期中最小缺失率的存储组；

查找替换单元，用于如果所述进程号的Cache缺失率低于预设的Cache缺失率阈值，则对所述进程号中的缺失率最小的存储组，查找所述存储组中最少使用的数据行作为替换数据行。

8.根据权利要求6所述装置，其特征在于，所述装置还包括：

查找单元，用于查找Cache中是否还有未使用的存储组；

第二调整单元，用于如果所述Cache中有未使用的存储组，则调整Cache组标记寄存器、进程号寄存器为所述进程号分配新的存储组。