CN1662887A - 低功率组关联缓存 - Google Patents

Abstract

具有L1缓存存储器的处理器可以使用比较电路来确定所存储的标记信息与地址是否匹配，并用缓存命中信号来接通缓存存储器的感应放大器。

Description

低功率组关联缓存

微处理器的体系结构通常包括至少一个静态随机存取存储器(SRAM)作为内部缓存，以提供高速数据访问，因该缓存最靠近寄存器堆，通常被称作一级(L1)缓存。在计算机***中的记忆缓存(memorycaching)是有效的，因为大多数程序表现出其数据和指令均有空间上和时间上的局部性。通过在高速SRAM L1缓存中保存尽可能多的这种信息，微处理器可以避免访问低速的外部存储器。内部缓存可以被划分为较小的“小存储体(bank)”，设计各种方法来断言(assert)较少字线或启动较少的感应放大器，以减少功耗。然而，需要比通常装载和存储发生时更广的访问的有些操作如线占用和逐出，会被这样的缓存结构所阻碍。

计算机***也可以使用虚拟地址缓存和关联(associative)机制来减少功耗，但仍遇到高速处理器的内存需要。例如，N路组关联缓存可以使用缓存命中信号(cache-hit signal)控制多路复用器，该复用器传播从所选择的路中读出的数据。虽然这种技术为缓存命中提供了低的等待时间，但功率可能被浪费在感应放大器中，因为对于所选择的组数据阵列的所有路都要被读取。作为替代方案，标记在一个周期中被读取，在下一个周期中被用于选择合适的路以读取数据。这项技术可以减少功耗，但所增加的等待时间可能在一个低级别的缓存中不被接受。因此，这种机制被用于二级和三级缓存。

因此，仍然需要减少等待时间，降低微处理器的功耗，而不干扰宽访问，如线逐出和线填充的缓存结构。

图的简要说明

本发明的主题部分在本说明书的结论部分特别指出，并清楚声明。然而，该发明的结构和操作方法，以及对象、特征和优点，可以通过参考下面的详细说明阅读相应的附图，得到更好的理解，其中：

图1说明具有N路组关联缓存的计算机***；

图2是图1中说明的缓存的框图；

图4是依照本发明给出的图1中所介绍的缓存存储器的物理排列图。

为了说明的简单清晰，图中说明的元素没必要按比例画。例如，为了清晰起见有些元素的尺寸相对于其它元素而言被夸大。另外，在认为合适的地方，参照数字被重复，以表示相应的或相似的元素。

详细描述

在下面的详细描述中给出了大量具体的细节，以提供对本发明的完整理解。然而，对于那些本领域的技术人员来说，这一点应理解为，本发明可以不需要这些具体细节就可实施。在另外的场合中，众所周知的方法、过程、构件和电路未被详细说明，以便使本发明不至于模糊不清。

本发明实施例可被用于广泛的应用中。这里所公开的电路可以被用在微控制器、多用途微处理器、数字信号处理器(DSP)、精简指令集计算(RISC)、复杂指令集计算(CISC)，以及其它电子构件。然而，应当知道本发明的范围不限于这些例子。虽然本发明不限于这个方面，许多操作***(OS)如来自华盛顿州雷蒙德(Redmond)市的微软公司的Windows 95TM、Windows 98 TM和Windows NT TM，或者贝尔实验室的UNIX，可以管理控制器或处理器上的物理存储器。

本发明还可以被包含或被嵌入在集成电路中，一般地，本实施例可以组合内部缓存和外部主存储器，可以被合并到下一代智能电话、发报机(communicatior)和个人数字助理(PDA)、基带和应用处理器、基于OS平台的设备、数码相机、音像解码、汽车信息娱乐、机顶盒及其它产品。

在下面的描述和权利要求中，术语“耦合的”和“连通的”以及它们的派生词会被用到。应知道这些术语并不是被打算用作彼此的同义语。相反，在特定的实施例中，“连通的”可以用来指示两个或多个元素是彼此直接物理连接或电气接触的。“耦合的”表示两个或多个元素是直接物理接触或电气接触。然而，“耦合的”还可表示两个或多个元素不是彼此直接接触，但仍彼此协作或相互影响。

图1说明具有操作***(OS)的计算机***10，该操作***可管理计算机上的有限物理存储器，在同时运行的多个进程中划分物理存储器，以及为每个进程分配合适的内存份额。运行在微处理器12上的操作***可依赖来自存储器管理单元(MMU)14的硬件支持来管理存储器和导出功能，以便其它子***和应用程序可以使用这些功能与存储器相互作用。L1缓存18可以具有虚拟存储地址空间，地址空间的大小由字节的数量以及每个字节中的比特数确定。

通常期望微处理器12的内存访问多数来自L1缓存，因为L1缓存工作在处理器频率上。因而，计算机***10中的存储器缓存利用了一个L1内部缓存18来减少微处理器12访问L2“离线(off-chip)”或外部主存储器20的次数。缺少L1缓存可能导致处理器12转到L2存储器或主存储器20，当处理器在等待许多指令时间完成从存储器读数时，潜在地停滞了处理器。在微处理器12的算术逻辑部件16中执行逻辑运算的数据可以存储在缓存18和/或存储器20。

一般地，L1内部缓存18可以是高速静态随机读取存储器(SRAM)，而L2存储器和主存储器20可以是较慢的动态随机读取存储器(DRAM)，然而存储器的类型不是所声明的主题的限制。内部缓存18可以虚拟索引，并且是N路组关联缓存，尽管区分虚拟缓存和物理缓存与本发明的结构和特征是不相关的。

图2说明依照本发明的L1硬件缓存18。与缓存18关联的N路组允许访问至多N个不同的存储器区域，这些区域重迭在相同的缓存存储器中而不覆盖先前缓存的数据。同样地，缓存18包括路0如第22列，路1如第24列，路2如第26列，…，以及路N如第28列，用来存储地址的标记部分。感应放大器32、34、36、…、以及38可感应到分别存储在第22、24、26、…、和28列中的虚拟标记信息。应当注意，缓存18中路数和列的大小均不应被看做是对本发明的范围的限制。

一般地，提供给缓存18的地址可以被标记序号，如从0比特到31比特，这里0表示最低有效位(或低位比特)，31表示最高有效位(高位比特)。通过这样结构，地址可以具有“索引”部分、“组”部分和“标记”部分。作为示例，低位的5比特可以作为“索引”部分，[12:5]的8比特可作为“组”部分，[31:13]的19比特可作为“标记”部分。虽然这个例子提供了32比特的地址，以及地址划分：标记[31:13]、组[12:5]、索引[4:0]，应当指出的是，可以在地址中使用不同的划分，甚至使用不同的比特数目。因而，这意味着比特分组或比特数均不对本权利要求的范围构成限制。

在一个实施例中，提供给L1内部缓存18的地址[31:0]可使用例如该地址的比特位[12:5]，来从每个路阵列的256条缓存线中选择一条缓存线。注意到该地址可以是“虚拟的”，可以是“物理的”，即，已经由微处理器MMU 14所解释。存储在路0、路1、路2、…、路N中所选缓存线上的标记信息可分别由感应放大器32、34、36、…、38所感应。比较电路42、44、46和48接收所感应的标记，提供与该地址的比特[31:13]的比较。如果比较电路指示匹配，即缓存命中，则来自适当路的数据信息，与来自合适的数据阵列感应放大器的激活时序信号结合在一起，只启动相符合的路的对应的感应放大器52、54、56和58。这样，对于所选择的路，只有M感应放大器(其中M是数据宽度)消耗功率。可替换地，应当注意到，多米诺式的CMOS门或者按照或方式线连接的输出路径(wire-or’ed output path)可以自动地选择数据。如果缓存18中没有标记匹配地址的标记部分，则存在数据缓存缺失。应当注意，在这种情况下，L1缓存感应放大器和数据传递路径不消耗功率。

选择器60包括缓存感应放大器52、54、56和58的组，它们从对应的路阵列中接收标记，但是根据本发明，只有一组缓存感应放大器被激活传输数据到输出。作为示例，存储在路0中一条被选择的缓存线上的标记由感应放大器32感应，由比较电路42与地址的标记部分进行比较，如果比较电路42指示缓存命中，则缓存数据由数据感应放大器52的组传输到数据输出。再次注意到缓存18可以通过使用比较电路来只激活数据感应放大器的一个路，而不用激活其余数据放大器组，从而将其操作功率降低。

图3是描述依照本发明的缓存18的时序图。地址生成可发生在时钟的下降沿，即时间t0。在时间t1到t2期间，存储在路阵列中被选择的缓存线上的标记被感应，由比较电路将其与地址的标记部分进行比较。如果比较电路指示某个路缓存命中，该缓存命中信号在时间t1跟随时钟的上升沿被提供给缓存感应放大器。选择器60中的适当的缓存感应放大器被激活，在随后的时间t3数据被提供给数据输出。

图4说明缓存存储器的结构以减少最低级别缓存和下一个高级别缓存之间的等待时间。计算机***10(图1)的性能与用来在缓存的不同级别之间传递数据的周期数有关。任何周期数的减少可以降低停滞。L1缓存和微处理器核心之间的存取典型情况为一到两个字，而在不同缓存级别之间的通信更偏好较大的分组，如4到16个字(被称作“线”)。在本实施例中，路的结构和缓冲存储器中字的物理排列可以改进***性能，这是通过允许单一信号周期线大小写(a single cycle line sizewrite)和单一信号周期线大小读(a single cycle line size read)(逐出)而不需要过多的感应放大器实现的。注意到减少读出感应放大器的数目减少了袖珍式计算机(handheld)及其它低功耗应用的空闲电流元件。

这个实施例显示了4路组关联缓存，但是缓存的大小和路的数目不应作为本发明的限制。如所示，缓存可以被划分为70-84块，每个块具有4个路，即路0、路1、路2和路3。4个路中的每一个路可以包含4字节(一个字节表示8比特)以存储一个32比特的字。每个块中的路0、路1、路2和路3可以被划分为一个较低部分以存储较低的两字节，和一个较高部分以存储较高的两字节。作为示例，第70块中的路0可以存储较低的两字节(表示为字节[0:1]，即比特0:15)，另一个路0可以存储较高的两字节(表示为字节[2:3]，即16:31)。

同样地，在缓存中，字可以被物理排列为字0(第70块)、字2(第72块)、字1(第74块)、字3(第76块)、字4(第78块)、字6(第80块)，字5(第82块)和字7(第84块)。进一步注意到64位感应放大器可以位于字0和字2之间，64位感应放大器可以位于字1和字3之间，64位感应放大器可以位于字4和字6之间，64位感应放大器可以位于字5和字7之间。

在本实施例中，一半的字可以被排列为具有连续排序的路，而另一半中，路的对排序可以相反。换句话说，字0、字1、字4和字5可以物理排序为路0、路1、路2和路3，以存储低位的两字节，相同的序号存储高位的两字节。然而，字2、字3、字6和字7可以被排列为具有不同顺序的路。在这些字中，对排序可以相反地具有物理排序路1、路0、路3和路2，以存储低位的两字节，相同的排序以存储高位的两字节。这种缓存存储器排列允许路0与路1共享感应放大器，路2与路3共享感应放大器。例如，对于第70块的路0，低位的两字节(字节[0:1])和高位的两字节(字节[2:3])可以被排列为与对应的第72块的路1的低位的两字节和高位的两字节共享感应放大器。类似地，第70块的路1的低位的两字节(字节[0:1])和高位的两字节(字节[2:3])可以被排列为与对应的第72块的路0的低位的两字节和高位的两字节共享感应放大器。同样地，第70块的路2的低位的两字节(字节[0:1])和高位的两字节(字节[2:3])可以被排列为与对应的第72块的路3的低位的两字节和高位的两字节共享感应放大器，第70块的路3的低位的两字节(字节[0:1])和高位的两字节(字节[2:3])可以被排列为与对应的第72块的路2的低位的两字节和高位的两字节共享感应放大器。

感应放大器可以被用来感应每个存储位的值。在读一个32比特的字的正常操作期间，一个感应放大器的使能信号被断言，以允许与每个I/O比特片关联的4个感应放大器之一活动地感应信息。但在逐出期间，需要断言两个感应放大器使能信号，允许4个感应放大器组中的两个被激活。在这种情况下，举例来说，字0的比特0和字2的比特0可以被读取给相同的路。通过不将字在相同的缓存块中分组，当前的结构允许一个周期的逐出，激活256个感应放大器，允许8个字同时被读出。并且，这种缓存结构允许在一个逐出或填充期间，在整个缓存阵列中均匀地分配功率。注意，感应放大器可以被存储在一个路的标记中的缓存命中信号选通，因此，没有“后路(late way)”选择电路存在。

尽管这里描述并说明了本发明的某些特征，对于那些本领域技术人员来说，他们的头脑中将会闪现许多修改、代替、改变和等价的东西。因此，附加的权利要求应被理解为涵盖所有这些落入本发明的本义的修改和改变。

Claims (26)

1.一种存储器，包括由第一缓存命中信号激活的感应放大器部分和由第二缓存命中信号激活的第二部分。

2.权利要求1中的存储器，其是一个N路组关联缓存，具有如下次序：在第一字中，第二路跟随在第一路后面；在第二字中，第一路跟随在第二路后面。

3.权利要求1中的存储器，还包括比较电路，将存储在存储器中的标记信息与提供给存储器的地址进行比较。

4.权利要求3中的存储器，其中比较电路在标记信息与地址匹配时产生第一缓存命中信号。

5.一种缓存存储器，包括：

第一和第二路；

第一和第二比较电路被耦合以接收地址，第一比较电路进一步被耦合以接收存储在第一路中的数据并且产生第一缓存命中信号；第二比较电路被耦合以接收存储在第二路中的数据并且产生第二缓存命中信号；

第一和第二感应放大器，它们将分别存储在第一和第二路中的数据传输到输出，其中第一感应放大器由第一缓存命中信号激活，第二感应放大器由第二缓存命中信号激活。

6.权利要求5中的缓存存储器，其中，该缓存存储器具有如下结构：在第一块中，第二路跟随在第一路后面，在第二块中，第一路跟随在第二路后面。

7.权利要求5中的缓存存储器，其中，该缓存存储器通过使用虚拟地址进行寻址。

8.权利要求5中的缓存存储器，其中，该缓存存储器通过使用物理地址进行寻址。

9.一种至少具有第一和第二路的缓存，该缓存包括：

第一和第二感应放大器被激活以传递分别存储在第一和第二路中的数据到输出，其中第一缓存命中信号激活第一感应放大器，第二缓存命中信号激活第二感应放大器。

10.权利要求9中的缓存，其中，该缓存具有如下结构：在第一块中，第二路跟随在第一路后面；在第二块中，第一路跟随在第二路后面。

11.权利要求9中的缓存还包括：

第一比较电路被耦合以接收地址信号和存储在第一路中的数据，生成第一缓存命中信号。

12.权利要求11中的缓存还包括：

第二比较电路被耦合以接收地址信号和存储在第二路中的数据，生成第二缓存命中信号。

13.一种设备，包括：

缓存中的第一和第二路，在第一块中，第二路跟随在第一路后面，在第二块中，第一路跟随在第二路后面；

第一和第二感应放大器传输分别存储在第一和第二路中的数据到输出，其中，第一缓存命中信号激活第一感应放大器，第二缓存命中信号激活第二感应放大器。

14.权利要求13中的设备，还包括第三和第四路，其次序为：在第一块中，第四路跟随在第三路后面，在第二块中，第四路跟随第三路。

15.权利要求13中的设备，还包括第一和第二比较电路，它们被耦合以接收地址，第一比较电路进一步被耦合以接收存储在第一路中的数据，生成第一缓存命中信号；第二比较电路被耦合以接收存储在第二路中的数据，生成第二缓存命中信号。

16.权利要求13中的设备，还包括：

与缓存耦合的存储器管理单元；

与缓存耦合的另一存储器。

17.一种方法，包括：

用第一缓存命中信号激活第一感应放大器，用第二缓存命中信号激活第二感应放大器。

18.权利要求17中的方法，还包括：

将地址与存储在第一路中的数据进行比较，生成第一缓存命中信号；将地址与存储在第二路中的数据进行比较，生成第二缓存命中信号。

19.权利要求18中的方法，还包括：

在第一字中，排列第二路跟随在第一路后面，在第二字中反过来，第二路跟随第一路。

20.一种方法，包括：

在一个周期逐出中，从缓存的第一路读取多个字。

21.权利要求20中的方法，还包括：

安排第一字中的第一路跟随第二路，在第二字中第一路和第二路顺序相反。

22.一种方法，包括：

断言多个路的命中信号以从缓存中读取多个数据字。

23.权利要求22中的方法还包括：

在逐出期间，断言多个路命中信号，激活感应放大器。

24.权利要求23中的方法，还包括：

耦合感应放大器到至少两个路。

25.在权利要求24中的方法，其中耦合感应放大器到至少两个路还包括至少在两个路上复用一个感应放大器。

26.权利要求23中的方法，还包括：

根据缓存的操作，选择一个路传输数据到一个感应放大器。

Images