Ok\u00e9, vertakkingen in code zijn nogal lastig vanuit hardwareperspectief. Soms heb je van die if-then-else statements, en moet de CPU uitzoeken welk pad hij moet nemen. Gewone sequenti\u00eble uitvoering is geen probleem: het verwerkt elke instructie \u00e9\u00e9n voor \u00e9\u00e9n. Maar met pipelined processors, waar meerdere instructies tegelijk worden uitgelijnd, wordt het ingewikkeld. De CPU gokt welke vertakking hij zal nemen, maar als het fout is, moet hij een hoop werk ongedaan maken, wat tijd en cycli verspilt. Daar komt vertakkingsvoorspelling om de hoek kijken: het probeert de processor te slim af te zijn en alles soepel te laten verlopen.<\/p>\n
Dit is niet altijd een optie, maar op sommige hardware- en besturingssysteemconfiguraties kun je het gedrag van de branchvoorspelling mogelijk aanpassen. Zo kun je op Linux bijvoorbeeld bepaalde kernelparameters bekijken (via \/sys<\/strong> of \/proc<\/strong> ), of zelfs BIOS-\/UEFI-instellingen kunnen opties bevatten met betrekking tot hardwarevoorspelling of prestatie-afstemming. Soms kan het inschakelen van hyperthreading of specifieke CPU-functies de nauwkeurigheid van de voorspelling verbeteren. Controleer Instellingen > Geavanceerd > CPU-configuratie<\/strong> of iets dergelijks om te zien of er iets is met betrekking tot de branchvoorspelling \u2013 misschien heb je geluk. Bovendien kan het helpen om je CPU-microcode up-to-date te houden, aangezien fabrikanten updates uitbrengen die deze functies verfijnen.<\/p>\n Ik weet niet zeker waarom het werkt, maar in sommige configuraties kan het inschakelen van alle beschikbare hardwarefuncties milliseconden schelen. Verwacht een betere benutting van de pijplijn en minder storingen door verkeerd voorspelde data.<\/p>\n Deze gaat meer over het schrijven of slimmer compileren van code. Als je code veel onvoorspelbare vertakkingen heeft \u2013 zoals willekeurige if-statements die sterk vari\u00ebren van run tot run \u2013 neemt het succes van de predictor af. Zorg er dus, indien mogelijk, voor dat de vertakkingen voorspelbaar zijn. Je kunt bijvoorbeeld de volgorde van sommige if-else-blokken of structuurlussen wijzigen, zodat het meest voorkomende geval bovenaan staat, wat de voorspellingen nauwkeuriger maakt. Compilervlaggen zoals – Ofast<\/strong> of -O3<\/strong> op GCC\/Clang herschikken code vaak om voorspelbaarheid te bevorderen.<\/p>\n Deze aanpak is nuttig omdat statische voorspellers gokken op basis van aannames. Als de code overeenkomt met die aannames, zal de CPU vaker gelijk hebben. Werkt het beste wanneer je code voornamelijk voorspelbaar lusvormig is of vertakt. Als een vertakking altijd waar is, vraag je compiler dan om er een hint naar te geven met waarschijnlijke<\/strong> of onwaarschijnlijke<\/strong> macro’s, indien beschikbaar.<\/p>\n Tools zoals Intel’s VTune of AMD’s uProf kunnen vaststellen of verkeerde voorspellingen in vertakkingen een knelpunt vormen in uw applicatie. Als er veel verkeerde voorspellingen zijn, kijk dan naar de hotspots en kijk of u code kunt refactoren om vertakkingen voorspelbaarder te maken. Soms kan een simpele aanpassing van het algoritme (zoals het vervangen van een hash-gebaseerde zoekopdracht door een lineaire zoekopdracht in kleine arrays) de onvoorspelbaarheid verminderen. Een andere truc is het toevoegen van expliciete hints voor vertakkingen of het gebruiken van voorwaardelijke verplaatsingen (zoals cmov<\/strong> op x86) die helemaal geen vertakking vereisen.<\/p>\n Niet altijd toepasbaar, maar als je je verdiept in prestatie-afstemming, kan deze stap een verschil maken. Wees wel voorbereid op wat vallen en opstaan, want CPU-gedrag kan vreemd koppig zijn.<\/p>\n Dit is meer hardwarematig, maar moderne CPU’s voeren veel out-of-order-uitvoering uit, waarbij ze proberen instructies vooruit te draaien terwijl ze toekomstige paden correct voorspellen. Het uitrollen van lussen kan ook helpen: door lussen uit te breiden, ontstaan \u200b\u200ber minder vertakkingen, wat leidt tot een betere algehele voorspelling. Wanneer lussen grotere blokken opeenvolgende instructies bevatten, wordt het voorspellen van vertakkingen eenvoudiger omdat het patroon consistenter is.<\/p>\n Natuurlijk is dit geen tovermiddel \u2013 het hangt af van je werklast en of die wijzigingen daadwerkelijk helpen. Soms krijg je grotere binaire bestanden of minder cache-effici\u00ebntie, dus het is een kwestie van balanceren.<\/p>\n In echte CPU’s schuilt de magie in de vertakkingsvoorspeller \u2013 zie het als een waarzegster die probeert te voorspellen wat er gaat gebeuren. Deze voorspellers gebruiken algoritmen om te leren en zich aan te passen tijdens de uitvoering. Moderne voorspellers maken gebruik van dynamische voorspellingen: ze kijken naar gedrag uit het verleden en bouwen patronen, zelfs met neurale netwerken van tegenwoordig. Dus zelfs als je code niet perfect voorspelbaar is, kan het leerproces van de voorspeller je voorspellingen meestal behoorlijk nauwkeurig maken.<\/p>\n Als het fout gokt, moet de pijplijn flushen of teruggaan naar de juiste instructie, wat cycli verspilt. Dat is de belangrijkste reden waarom verkeerde voorspellingen de prestaties negatief be\u00efnvloeden. Veel CPU-modellen halen nu een slagingspercentage van meer dan 97%, maar het is nooit perfect \u2013 er is altijd een kleine kans op een mislukking.<\/p>\n Statische voorspellers zijn gebaseerd op simpele aannames: “achteruitsprongen zijn meestal lussen, vooruitsprongen zijn meestal if-else-beslissingen.” Maar dynamische voorspellers worden slimmer door recent gedrag te volgen, zoals: “deze tak wordt meestal na vier iteraties genomen, dus de volgende keer die kant op.” Door gebruik te maken van meerdere algoritmen en lokale of globale geschiedenis passen ze zich aan verschillende workloads aan. Sommige gebruiken zelfs minuscule neurale netwerken die complexe patronen herkennen, wat nogal vreemd is, maar eigenlijk effectief.<\/p>\n Branch prediction is slechts \u00e9\u00e9n van die micro-optimalisaties die, eerlijk gezegd, een aanzienlijk verschil kunnen maken. Soms gaat het om het optimaliseren van de codestructuur, soms om het updaten van hardware of firmware om de nieuwste voorspellingsverbeteringen te krijgen. Hoe dan ook, een beetje bewustzijn helpt wanneer de prestaties onverwachts teruglopen. Houd er rekening mee dat in veel gevallen CPU-ontwerptrucs en softwarematige aanpassingen de zaken soepeler laten verlopen.<\/p>\n Uiteindelijk blijft branch prediction een essentieel onderdeel van moderne CPU-prestaties, en inzicht in hoe het werkt kan helpen bij het afstemmen van software of het oplossen van vertragingen. Of je nu diep in de compiler-magie duikt of gewoon de firmware updatet, een beetje inspanning op dit vlak kan je machine draaiende houden wanneer het erop aankomt. Hopelijk helpt dit iemand om een \u200b\u200bpaar extra cycli uit zijn hardware te halen.<\/p>\n","protected":false},"excerpt":{"rendered":" Ok\u00e9, vertakkingen in code zijn nogal lastig vanuit hardwareperspectief. Soms heb je van die if-then-else statements, en moet de CPU uitzoeken welk pad hij moet<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1462","post","type-post","status-publish","format-standard","hentry","category-hulp"],"_links":{"self":[{"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/posts\/1462","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/comments?post=1462"}],"version-history":[{"count":0,"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/posts\/1462\/revisions"}],"wp:attachment":[{"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/media?parent=1462"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/categories?post=1462"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/help.peacedoorball.blog\/nl\/wp-json\/wp\/v2\/tags?post=1462"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Methode 2: Optimaliseer uw code voor een betere vertakkingsvoorspelling<\/h3>\n
Methode 3: Gebruik profilerings- en afstemmingshulpmiddelen<\/h3>\n
Methode 4: Overweeg uitvoering buiten de volgorde en het uitrollen van lussen<\/h3>\n
Hoe wordt dit probleem werkelijk aangepakt?<\/h2>\n
Matching Code en patroontracking<\/h3>\n
Afronding<\/h2>\n
Samenvatting<\/h2>\n
\n
Conclusie<\/h2>\n