SE520343C2 - Förfarande, system och dator för grenprediktion - Google Patents

Description

520 343 sättningar.

- Dynamisk grenprediktion medför extra kostnader för ytterligare datastrukturer inuti CPU:n. På grund av fysiska begränsningar samt ökade kostnader kan dessa strukturer inte innefatta data för alla villkorliga greninstruktioner i programmet och flera datagrenar måste dela registeringångar i en BHT. Prestandan hos dynamisk grenprediktion beror då på programmets statistiska uppträdande. Exempelvis kan prestanda bero på huruvida programmet har matats in på adresser som utför mer än en ofta exekverad gren om de lägre bitarna i adressen i den villkorliga greninstruktionen används för att välja registeringång i BHT:n.

I telekommunikationstillämpningar matas program in i systemet och kommer att användas kontinuerligt under en lång tid, dvs vanligen minst i flera veckor tills systemet återigen matas med en ny version av programmet. Exekveringen kan i de flesta fall förväntas ha samma statistik under denna tid.

Vidare beskriver US 5 367 703 en grenprediktionsmekanism i ett superskalärt processorsystem. Mekanismen använder grenhistorik- tabeller, som innefattar en separat grenhistorik för varje hämt- position i en flerinstruktionsaccess. Ett prediktionsfält be- stående av två bitar används för att bestämma om en viss gren skall tas eller inte. Värdet för de två bitarna ökas eller minskas i beroende av om en gren tas eller inte.

US 5 423 011 beskriver en anordning bestående av ett associerat minne i vilket grenprediktionsbitar lagras. Cache-rader och jämförelseorgan för att matcha lagra prediktionsbitar med motsvarande cache-rader används.

I patentansökan GB 2 283 595 beskrivs en grenprediktionskrets som kan arbeta i en av två av användaren valbara noder.

REDocöRELsE FÖR UPPFINNINGEN Det är ett syfte med föreliggande uppfinning att åstadkomma ett förfarande och ett system som övervinner de ovan beskrivna problemen och som kan åstadkomma en grenprediktionsmekanism som kan dra fördel av det faktum att ett program går under en lång _. i. . f -- -- ^' ' ' ii » , - I~* .. I: :w n u « - o ß ~ w , 1.» »= «. » ,'_ , = .f » ~ tid.

Detta syfte åstadkoms med en halv-statisk grenprediktionsmekanism innefattande tre delar: 1) en grenprediktionsbit i instruktionen eller en extra bit i instruktionsminnet, 2) en hårdvaruräknare som kan samla in grenstatistik för en specifik Villkorlig greninstruktion i programminnet, och 3) ett bakgrundsprogram.

Grenprediktionsmekanismen arbetar sedan som följer: Bakgrundsprogrammet, t ex ett program med låg prioritet, ett periodiskt återkommande program, etc, läser instruktionsminnet för att hitta villkorliga greninstruktioner.

När en Villkorlig greninstruktion hittas startar bakgrunds- programmet hårdvaruräknaren för att registrera grenstatistik för denna gren och går sedan i vila under ett tag.

När den väcks använder bakgrundsprogrammet den insamlade statistiken för att sätta prediktionen i den villkorliga greninstruktionen i programminnet.

Ett system som arbetar på ett sådant sätt har flera fördelar, såsom: - Det är transparent för mjukvara, och även om instruktionen i programminnet används för att lagra grenprediktionsínformation påverkas inga mjukvaruutvecklingsverktyg och sättet att lagra information kan ändras mellan olika CPU-realiseringar.

- Hårdvaruutformningen är enkel - Hårdvarukostnaden är låg eftersom inga separata datastrukturer behövs för grenprediktionen.

- Förfarandet gör det möjligt att prediktera multipla villkorliga greninstruktioner parallellt vilket t ex kan behövas i superskalära processorer för att erhålla en god noggrannhet hos grenprediktionen.

- Programprestandan beror enbart på exekveringsstatistik för den predikterade grenen och inte på samverkan med andra villkorliga x 520 343 ;EfÄ 4 greninstruktioner i andra program.

Det finns emellertid villkor som måste uppfyllas för att den halvstatiska grenprediktionsmekanismen skall fungera bra, dvs ge en bra grenprediktion. i) Samma program måste exekveras under en relativt lång tid och ha ungefär samma beteende under denna tid eftersom det tar ett tid för bakgrundsprogrammet att gå igenom programmet efter alla villkorliga greninstruktioner och insamla tillförlitlig statistik. ii) Det måste vara möjligt att inkludera grenprediktionsbiten. iii) Det måste vara möjligt att inkludera en hårdvaruräknare eller räknare för att insamla exekveringsstatistik.

APZ-processorerna, som används i de AXE-telefonväxlar och vilka tillverkas av Ericsson uppfyller alla dessa krav. Hårdvaran och mjukvaran är skräddarsydd och de flesta villkorliga greninstruktioner har flera oanvända bitar som kan användas för att lagra grenprediktion.

Vidare kan bakgrundsprogrammet och räknarna användas för att uppdatera en grenhistoriktabell (BHT). I stället för att uppdatera prediktionsbiten i en villkorlig greninstruktion efter varje gång som ny statistik samlats in används bakgrundsprogrammet för att uppdatera prediktionsfältet som svarar mot instruktionen i BHT:en.

En sådan utformning kan t ex vara fördelaktig när det inte är möjligt att inkludera prediktionsbiten.

KORTFATTAD BESKRIVNING AV RITNINGARNA Föreliggande uppfinning kommer nu att beskrivas mer i detalj med hjälp av icke begränsade exempel och med hänvisning till de bilagda ritningarna, i vilka: - Figur 1 är en allmän vy över en enhet innefattande delar i en 520 343 5 dator som ingår i en grenprediktionsmekanism kompletterad med hårdvara och mjukvara för att utföra halvstatisk grenprediktion.

- Figur 2 är en detaljerad vy över hårdvaruräknaren som används av enheten i figur 1.

- Figurerna 3a och 3b är flödesscheman, som används i ett bakgrundsprogram, vilket används för att sätta en grenprediktionsbit, respektive för att uppdatera en BHT i en grenprediktionsmekanism.

BESKRIVNING AV FÖREDRAGNA UTFÖRINGSFORMER Figur 1 visar en enhet 101 uppbyggd av ett antal block som vanligen ingår i en grenprediktionsmekanism. Således har enheten 101 ett programminne 103 i vilket programmet som skall exekveras av processorn finns lagrat. Programminnet 103 är vanligen anslutet till ett cache-minne 105. Användning av cache-minnet 105 är emellertid valfri.

Programminnet 103 eller cache~minnet 105, om ett sådant används, är anslutet till ett minnesgränssnitt 107. Syftet med gränssnittet 107 är att åstadkomma ett gränssnitt mellan minnet och ett instruktionsavkodningsblock 109. Således används blocket 107 för att hämta instruktioner från minnet vilka sedan matas till instruktionsavkodningsblocket 109.

I instruktionsavkodningsblocket 109 avkodas instruktionen. När instruktionen har avkodats vet processorn vilken typ av instruktion som för närvarande behandlas. Denna information används för att utvärdera om instruktionen är en villkorlig hoppinstruktion eller inte. Informationen om instruktionen är en hoppinstruktion eller inte matas till en instruktionshämtnings- enhet i ett block 111 tillsammans med information om adressen till vilken det möjliga hoppet från blocket 109 går. Blocket 111 innefattar också ett organ 119 för att sätta en grenprediktor.

Informationen om den adress till vilken det möjliga hoppet går kan utmatas på olika sätt såsom genom att ge den absoluta adressen direkt eller som en adress relativt den aktuella adressen, dvs en relativ adress. Ett annat sätt att indikera adressen till vilken ett möjligt hopp går är att ge en 520 343 6 parameter. Parametern används sedan som ingångspost i en tabell som sedan utmatar adressen. Den senare metoden används i APZ- processorn som utvecklas och tillverkas av Ericsson.

Instruktionshämtningsenheten i blocket 111 hämtar sedan nästa instruktion på basis av den information som ges av grenprediktorn 119. Således väljs och hämtas därefter instruktionen vid den adress som indikeras av prediktions- informationen från grenprediktorsättningsorganet 119 om prediktionsinformationen som ges från grenprediktorsättnings- organet 119 indikerar att den aktuella instruktionen är en Villkorlig hoppinstruktion och att hoppet har bestämts vara sannolikt att tas i blocket 111.

Om, å andra sidan, informationen från grenprediktorn 119 indikerar att den aktuella instruktionen inte är en Villkorlig hoppinstruktion, eller om blocket 111 bestämmer att hoppet inte är sannolikt att tas, väljs instruktionen i nästa sekventiella instruktionsadress att hämtas.

Blocket 111 är också anslutet till programminnet och möjligen också till cache-minnet 105 i syfte att en enhet som samlar statistik 121 och som är placerad däri, kan uppdatera prediktionsbitar i minnena 103 och 105.

Instruktionen som avkodas i blocket 109 behandlas sedan vidare i en exekveringsenhet. Vanligen har en processor, liksom i detta fall, flera exekveringsenheter, var och en utformad för att exekvera olika typer av instruktioner. Sålunda är enheten 101 utrustad med tre exekveringsenheter 113, 115 och 117. Den första enheten 113 används för att exekvera instruktioner som innehåller heltalsoperationer, den andra enheten 115 används för att exekvera instruktioner som innehåller flyttalsoperationer och den tredje enheten 117, grenenheten, används för att exekvera hoppinstruktioner.

Således matas, beroende på typ av instruktion som skall exekveras, den avkodade instruktionen från blocket 109 till en av de tre exekveringsenheterna i blocken 113, 115 eller 117. 520 343 7 I grenexekveringsenheten i block 117 registreras information angående utfallet för varje villkorlig hoppinstruktion. Detta utförs genom att samla information från de andra två exekveringsenheterna i blocken 113 och 115. När grenenheten i blocket 117 har samlat all information som krävs för att utvärdera både om ett villkorligt hopp utfördes och om så är fallet, till vilken adress hoppet gick, varvid denna information matas till blocket 111. Blocket 111 använder återkopplingsinformationen från blocket 117 när den bestämmer adressen från vilken nästa instruktion skall hämtas. Således måste korrekt instruktion från korrekt adress hämtas om ett tidigare villkorligt hopp har felpredikterats och instruktioner hämtats från felprediktionen och vidare måste ignoreras.

I figur 2 visas hårdvaran som används i enheten 121 för att samla in statistik avseende om en gren tas eller inte. Således placeras för att samla in statistik avseende en viss Villkorlig greninstruktion i programminnet adressen för denna instruktion i ett register 201, här benämnt uppmätt adressregister (MAR).

Denna adress jämförs i ett block 203 med instruktionsadressen som för närvarande utpekas av programräknaren och som är tillgänglig i ett block 205.

De två adresserna jämförs i blocket 203 och om de två adresserna är identiska inkrementeras en första räknare i ett block 211 med 1. Utsignalen från blocket 203 matas också till ett OCH-block 207. Till OCH-blocket 207 matas också en signal som indikerar om grenen togs eller ej. Således inkrementerar utsignalen 207 en andra räknare 209 varje gång som grenen i instruktionen i minnesadressregistret tas.

Allmänt sett måste två av följande statistiska data samlas in för att sätta grenprediktionsbitarna: - antalet gånger den villkorliga grenen tas - antalet gånger den villkorliga grenen inte tas - det totala antalet gånger som den villkorliga greninstruktionen exekveras. 520 343 Qffiwfiflf 8 Figurerna 3a och 3b är flödesscheman som visar ett bakgrundsprogram som används för att samla in statistik avseende olika villkorliga hoppinstruktioner och för att sätta prediktionsbitarna i enlighet med detta. Räknarna som används av programmet är de som beskrivs i samband med figur 2.

Således börjar bakgrundsprogrammet med att scanna eller söka igenom programminnet för den första villkorliga hoppinstruktionen i ett block 303. När det finner den första villkorliga hoppinstruktionen mätes motsvarande programminnesadress in i det uppmätta adressregistret (MAR) i ett block 305. Därefter nollställer programmet alla räknare som används för att samla in statistik i ett block 307.

Därefter startas alla räknare i ett block 309.

Bakgrundsprogrammet väntar nu på att statistik kan samlas in.

Räknarna inkrementeras varje gång programmet från vilket statistik insamlas exekverar den villkorliga greninstruktion som är associerad med adressen lagras i MAR respektive när motsvarande gren tas, om realiseringen som beskrivits i samband med figur 2 används. Statistiken för en specifik villkorlig greninstruktion insamlas under en förutbestämd tid som indikeras i ett block 311, vilken kan vara lika lång för varje villkorlig greninstruktion.

Därefter avläses räknarna i ett block 313. Om den villkorliga greninstruktionen exekverades mycket få gånger under mätningsperioden återvänder bakgrundsprogammet till block 303.

Detta bestäms i ett block 315 t ex genom att jämföra antalet gånger som den villkorliga greninstruktionen exekverades med ett förutbestämt tröskelvärde. Om, å andra sidan, antalet gånger som den villkorliga greninstruktionen exekverades är tillräckligt stort för att säkerställa relevant statistik, fortsätter bakgrundsprogammet till ett block 317.

I blocket 317 beräknas den nya prediktionen. Bakgrundsprogrammet fortsätter sedan till ett block 319. I blocket 319 bestäms det om grenprediktionsbiten skall uppdateras eller inte. 520 343 9 Om antalet gånger som den villkorliga grenen togs respektive inte togs är lika eller nästan lika är således beslutet nej och bakgrundsprogrammet återvänder till blocket 303. Om, å andra sidan, beslutet är ja fortsätter bakgrundsprogammet till ett block 321.

I blocket 321 uppdateras prediktionsbiten i den villkorliga greninstruktionen i programminnet och möjligen också i cache- minnet om ett sådant används. Bakgrundsprogrammet återvänder sedan till blocket 303, i vilket sökningen efter nästa villkorliga greninstruktion börjar, eller om instruktionen var den sista villkorliga greninstruktionen i minnet börjar bakgrundsprogrammet att scanna från början av programmet i programminnet.

Förfarandet kan således antingen användas för att uppdatera en extra bit i instruktionsminnet eller en grenprediktionsbit i instruktionen.

I en annan föredragen utföringsform används statistiken som uppsamlats av bakgrundsprogrammet för att uppdatera en grenhistoriktabell (BHT). Således används, i en sådan utföringsform, bakgrundsprogrammet för att ändra BHT:en i stället för att ändra en prediktionsbit i en villkorlig greninstruktion.

Flödesschemat för en sådan realisering kan vara identisk med flödesschemat i figur 3a förutom att blocket 321 byts ut mot ett block 323 i vilken en uppdatering av BHT:en utförs i stället. I figur 3b visas ett flödesschema för en sådan realisering.

Användningen av ett system som ändrar en BHT i stället för en grenprediktionsbit i instruktionen kan vara fördelaktig i fall då en prediktionsbit inte finns tillgänglig i de villkorliga greninstruktionerna eller om prediktionssystemet som beskrives häri används i en dator som redan använder en BHT. I det senare fallet behöver mycket lite extra hårdvara och mjukvara läggas till.

Claims (18)

520 345 10 PATENTKRAV

1. System för grenprediktion, kännetecknat av - organ för att under ett tidsintervall registrera antalet gånger, som en Villkorlig greninstruktion i ett exekverande program tas respektive inte tas och - organ anslutna till de registrerande organen för att sätta en grenprediktionsbit i instruktionen eller en extra bit i instruktionsminnet till ett värde som beror på antalet gånger grenen i instruktionen eller inte togs under registreringstiden.

2. System enligt krav 1, kännetecknat av organ för att scanna det exekverade programmet efter ytterligare villkorliga greninstruktioner och påbörja registrering under ett nytt tidsintervall när det föregående tidsintervallet har förflutit.

3. System enligt krav 2, kännetecknat av att alla tidsintervall är lika långa och förbestämda.

4. System enligt något av kraven 1-3, kännetecknat av att organen för att sätta grenprediktionsbiten är anordnade att sätta grenprediktionsbiten i greninstruktionen om grenen har tagits fler gånger än den inte har tagits under registreringsintervallet och att annars nollställa grenprediktionsbiten.

5. System enligt något av kraven 2-4, kännetecknat av organ för att öka registreringstidsintervallet för en specifik greninstruktion om under den senaste registreringen för denna specifika greninstruktion antalet totala registrerade exekverade instruktioner var lägre än ett förutbestämt tröskelvärde.

6. System enligt något av kraven 2-4, kännetecknat av organ för att inte ändra grenprediktionsbiten om vid slutet av en registrering antalet totala registrerade exekverade instruktioner är lägre än ett förutbestämt tröskelvärde oavsett utfallet av den insamlade statistiken.

7. Dator innefattande: 520 343 ll - ett programminne för att lagra ett datorprogram, - en avkodningsenhet för att avkoda instruktioner i ett datorprogram lagrat i minnet, - en gränssnittsenhet ansluten till minnet och till avkodningsenheten för att hämta instruktioner från minnet till avkodningsenheten och - en exekveringsenhet för att exekvera instruktioner som avkodas av avkodningsenheten, kännetecknad av - organ anslutna till avkodningsenheten och till exekveringsenheten för att under ett tidsintervall registrera antalet gånger, som en specifik gren i en instruktion i ett exekverande program tas respektive inte tas och - organ anslutna till minnet och till registreringsorganen för att sätta en grenprediktionsbit i instruktionen eller en extra bit i instruktionsminnet till ett värde som svarar mot antalet gånger som grenen i instruktionen togs eller inte togs under registreringstiden.

8. Dator enligt krav 7, kännetecknad av organ för att sätta grenprediktionsbiten till att indikera att grenen skall tas om antalet gånger som grenen tas under registreringsintervallet överskrider antalet gånger som grenen inte tas och vice versa.

9. Förfarande för grenprediktion, kännetecknat av stegen att - registrera under ett tidsintervall antalet gånger som en specifik gren i en Villkorlig greninstruktion i ett exekverande program tas respektive inte tas, och - sätta en grenprediktionsbit i instruktionen eller en extra bit i instruktionsminnet i det exekverande programmet till ett värde som beror på antalet gånger som grenen i instruktionen togs eller inte togs under registreringstiden.

10. Förfarande enligt krav 9, kännetecknat av att, när ett föregående tidsintervall har passerats, programmet scannas efter ytterligare villkorliga greninstruktioner och att en registrering under ett nytt tidsintervall påbörjas.

11. Förfarande enligt krav 10, kännetecknat av att alla 520 343 12 tidsintervall sätts lika långa.

12. Förfarande enligt något av kraven 9-11, kännetecknat av att grenprediktionsbiten i den villkorliga greninstruktionen sätts om den registrerade villkorliga greninstruktionen tas fler gånger än den inte tas.

13. Förfarande enligt något av kraven 9-12, kännetecknat av att registreringstidsintervallet för en specifik greninstruktion ökas om under den senaste registreringen för denna specifika villkorliga greninstruktion antalet totala registrerade exekverade instruktioner är lägre än ett förutbestämt tröskelvärde.

14. Förfarande enligt något av kraven 10-13, kännetecknat av att grenprediktionsbiten, oavsett utfallet av den insamlade statistiken inte ändras om i slutet av en registrering antalet totala registrerade exekverade instruktioner är lägre än ett förutbestämt tröskelvärde.

15. System för grenprediktion, kännetecknat av - organ för att under ett tidsintervall registrera antalet gånger en specifik gren i en villkorlig greninstruktion i ett exekverande program tas respektive inte tas, - organ anslutna till reqistreringsorganen för att sätta en registeringång i en grenhistoriktabell (BHT) svarande mot adressen för den registrerade instruktionen till ett värde beroende på antalet gånger som grenen i instruktionen togs eller inte togs under registreringstiden.

16. Dator innefattande: - ett programminne för att lagra ett datorprogram, - en avkodningsenhet för att avkoda instruktioner i ett datorprogram lagrat i minnet, - en gränssnittsenhet ansluten till minnet och till en avkodningsenhet för att hämta instruktioner från minnet till avkodningsenheten och - en exekveringsenhet för att exekvera instruktionerna som avkodas av avkodningsenheten, 520 343 13 - en grenhistoriktabell (BHT) kännetecknad av - organ anslutna till avkodningsenheten och till exekveringsenheten för att under ett tidsintervall registrera antalet gånger som en specifik gren i en instruktion i ett exekverande program tas respektive inte tas och - organ anslutna till grenhistoriktabellen för att sätta en registeringång i grenhistoriktabellen till ett värde svarande mot antalet gånger som grenen i instruktionen togs eller inte togs under registreringstíden.

17. Dator enligt krav 16, kännetecknad av att grenprediktionsbiten sätts att indikera att grenen skall tas om antalet gånger som grenen tas under registreringsintervallet överskrider antalet gånger som grenen inte tas och vice versa.

18. Förfarande för grenprediktion, kännetecknat av stegen att - registrera under ett tidsintervall antalet gånger som en specifik gren i en Villkorlig greninstruktion i ett exekverande program tas respektive inte tas, och - organ för att sätta en registeringång i en grenhistoriktabell svarande mot instruktionen till ett värde svarande mot antalet gånger som grenen i instruktionen togs eller inte togs under registreringstíden.