Intel Thread Director: Hoe werkt hybride core intelligence?

Informatic Digital » Middelen » Intel Thread Director: Hoe werkt hybride core intelligence?

Als je hebt gehoord over de nieuwe hybride processors van Intel en dat je bekend voorkomt... Thread Director, maar je weet niet precies wat het doet.Je bent hier aan het juiste adres. Deze technologie is essentieel om te begrijpen waarom Alder Lake, Raptor Lake, Meteor Lake en latere generaties presteren zoals ze doen, met name bij gaming, multitasking en virtualisatie.

Laten we rustig bekijken hoe het werkt. Intel Thread Director van binnenuit: welk probleem het oplost en welke beperkingen het heeft.Je zult zien dat het geen magie is, noch een verborgen turboknop, maar gewoon een onderdeel van een machine waarin het besturingssysteem, de P-cores en de E-cores allemaal een belangrijke rol spelen.

Wat is Intel Thread Director en waarom bestaat het?

De komst van de 12e generatie Core-processoren betekende dat Intel inzette op een hybride kernarchitectuur met krachtige P-kernen en zeer efficiënte E-kernenTot die tijd waren processors met allemaal dezelfde kernen de norm in de wereld van desktop-pc's, terwijl deze "big.LITTLE"-aanpak typerend was voor mobiele SoCs gebaseerd op ARM-architectuur.

Deze verandering vormde een ernstig probleem: desktopbesturingssystemen waren hier niet op voorbereid. onderscheid maken tussen cores met verschillende kracht en efficiëntie bij het toewijzen van threads en processenDe scheduler zag simpelweg "X cores" en verdeelde het werk zonder te overwegen welk type core het meest geschikt was voor elke taak.

Om dit op te lossen, creëerde Intel wat het commercieel noemde Intel Thread Director is een in de CPU geïntegreerde technologie die analyseert hoe processen zich gedragen en het besturingssysteem hierover adviseert. wat betreft de plaatsing ervan. Het is belangrijk te benadrukken dat het geen vervanging is voor de scheduler van het besturingssysteem, maar eerder een zeer verfijnd en gespecialiseerd hulpmiddel.

In tegenstelling tot wat veel mensen denken, Thread Director is geen aparte chip of een "magische eenheid" in de processor.Dit omvat logica en microcode die op de CPU zelf draaien, zeer gedetailleerde telemetriegegevens verzamelen en deze via specifieke interfaces aan het besturingssysteem beschikbaar stellen.

Hoe Thread Director intern werkt

De werking van Thread Director is conceptueel vergelijkbaar met een Gecontroleerde speculatieve uitvoering die het gedrag van threads evalueert voordat de ideale kernel wordt gekozen.Hiervoor gebruikt het een van de uitvoeringsthreads van een P-Core in Alder Lake en Raptor Lake, terwijl het in Meteor Lake en latere versies vertrouwt op energiezuinige E-Cores binnen de Tile SoC.

Wat deze logica doet is Het monitoren van instructies, toegangspatronen en de rekenkosten van de algoritmen die worden uitgevoerd.Het kijkt niet alleen naar de statische instructielijst, maar observeert het daadwerkelijke gedrag gedurende een korte periode om te begrijpen of een belasting licht, gemiddeld, sterk parallel, geheugenintensief, enzovoort is.

Die analyse is gecodeerd in een datastructuur die aan het record is gekoppeld. IA32_THREAD_FEEDBACK_CHAR, waarin drie soorten sleutelinformatie over elke thread worden opgeslagen.: het soort werk, een prestatiescore en een score voor energie-efficiëntie, allemaal in een eenvoudig formaat zodat het besturingssysteem het snel kan gebruiken.

Het eerste deel is een classificatie van het type proces in vier verschillende klassen die de planner helpen te begrijpen welk type kern het meest geschikt is:

• Clase 0: threads die zonder grote problemen kunnen worden uitgevoerd op zowel P-Cores als E-Cores.
• Clase 1: werklasten die aanzienlijk beter presteren op P-Cores, vanwege hun piekprestatie-eisen of lage latentie.
• Clase 2Taken die aanbevolen worden om naar E-Cores te worden verplaatst, omdat ze lichter zijn of baat hebben bij een efficiënte uitvoering.
• Clase 3: processen met kostbare lussen, mogelijk lange wachttijden of gedragingen die andere threads kunnen schaden als ze onjuist worden gecombineerd, en die daarom een ​​speciale behandeling vereisen.

Naast de les, een Een prestatiescore van 0 tot 255 die aangeeft hoe goed die thread presteert op een bepaalde core.Op dezelfde manier is er een score van 0 tot 255 opgenomen om de energie-efficiëntie aan te geven die gepaard gaat met het gebruik van dat type kern onder de huidige omstandigheden.

Met die telemetrie kan het besturingssysteem Neem beter onderbouwde beslissingen over welke threads naar P-Cores moeten worden gestuurd en welke naar E-Cores moeten worden doorgestuurd.Daarbij wordt niet alleen gekeken naar het kerneltype, maar ook naar de huidige belasting, het aantal actieve taken en de prioriteiten van de gebruikerssessie.

Het belang van scoren en taakverdeling

Bij moderne multi-core CPU's is het niet meer voldoende om te beslissen of iets naar een P-Core of een E-Core gaat: Het is ook belangrijk in welke specifieke core elke thread terechtkomt om knelpunten en onderbenutte cores te voorkomen.De prestatie- en efficiëntiescore van Thread Director speelt hierbij een cruciale rol.

Dankzij die numerieke evaluatie kan de scheduler van het besturingssysteem Verdeel de belasting gelijkmatig over de cores van hetzelfde type, door de zwaarste threads eerst toe te wijzen aan de minst belaste cores. en optimaal gebruikmaken van elke beschikbare ruimte. Het idee is om te voorkomen dat P-Cores overbelast raken terwijl andere bijna inactief zijn, of dat E-Cores onderbenut worden door nutteloze taken uit te voeren.

Een ander voordeel is dat Thread Director Het helpt om snel te detecteren wanneer een workload het meest geschikt is voor een specifiek type processorkern, op basis van de instructieset of kenmerken ervan.Als tijdens de evaluatie blijkt dat een thread instructies gebruikt die alleen door P-Cores worden ondersteund (bijvoorbeeld bepaalde geavanceerde AVX-sets), begrijpt het besturingssysteem duidelijk dat deze thread naar een P-Core moet worden gestuurd.

Het is ook relevant in scenario's waarin hetzelfde proces Het ontwikkelt zich in de loop van de tijd: het kan licht beginnen, overgaan in een fase van intense berekening en vervolgens terugkeren naar een meer ontspannen toestand.Dankzij continue feedback kunnen deze threads tussen P en E migreren, afhankelijk van wat ze op een bepaald moment doen, zonder dat de applicatie op de hoogte hoeft te zijn van de hybride architectuur.

In de praktijk is dit mechanisme erop gericht de gebruiker de indruk te geven dat het systeem Het systeem reageert soepel, of je nu een veeleisend spel speelt, meerdere applicaties opent, content afspeelt of processen op de achtergrond laat draaien.Dynamische verdeling voorkomt dat een eenvoudige achtergrondtaak een volledige P-Core in beslag neemt terwijl een E-Core inactief is.

Thread Director geeft geen "opdrachten": het besturingssysteem beslist.

De bedrijfsnaam kan misleidend zijn, omdat "Directeur" de indruk wekt dat hij de leiding heeft, maar in werkelijkheid is dat De Thread Director neemt niet de uiteindelijke beslissing over waar elke thread wordt uitgevoerd.De scheduler van het besturingssysteem heeft nog steeds het laatste woord en gebruikt of negeert de door de CPU verstrekte informatie al naar eigen inzicht.

Dit is heel duidelijk te merken in alledaagse situaties, bijvoorbeeld wanneer Je stuurt een resource-intensieve applicatie naar de achtergrond, bijvoorbeeld een rendering in Blender, en blijft de computer gebruiken voor andere taken.Windows interpreteert dat wat op de voorgrond draait prioriteit heeft voor de gebruiker, waardoor het de resources die aan rendering zijn toegewezen vermindert en de hoofdtaak naar de E-Cores kan verplaatsen.

Op dezelfde manier kan een applicatie met lage eisen die in het actieve venster draait, een P-Core gebruiken simpelweg doordat deze actief is, zelfs als het CPU-gebruik niet bijzonder hoog is. Dit illustreert dat... De criteria van het besturingssysteem (voorgrond-/achtergrondstatus, procesprioriteit, energiebeleid) wegen zwaarder dan de mening van Thread Director..

Samengevat biedt Thread Director een soort "expertadviseur" aan de systeemplanner, maar Als het besturingssysteem dit niet kan begrijpen of andere regels voorrang geeft, zal de toewijzing van threads niet optimaal zijn.Daarom zijn er duidelijke verschillen tussen Windows 10, Windows 11 en de verschillende versies van Linux als het gaat om het benutten van hybride CPU's.

Vanuit het perspectief van de applicatieontwikkelaar is het interessante dat Het is niet nodig om de software specifiek voor P-Cores en E-Cores te herschrijven. In de meeste gevallen, zolang het besturingssysteem Thread Director ondersteunt, wordt het grootste deel van de werklast redelijk verdeeld zonder dat er codeaanpassingen nodig zijn, behalve in enkele zeer specifieke scenario's.

Gedrag in games en bij workloads in de praktijk: P-cores, E-cores en secundaire threads

Een van de meest verwarrende kwesties is wat er gebeurt in moderne games die veel threads gebruiken, vooral wanneer Het aantal taken overschrijdt het aantal beschikbare P-Cores, waardoor E-Cores voor secundaire threads in gebruik worden genomen.Dit is waar theorie en praktijk elkaar ontmoeten.

Intels idee is dat in een typisch scenario de De belangrijkste gameprocessen (rendering, hoofdlogica, belangrijke natuurkundige processen) worden door de P-Cores uitgevoerd.De E-Cores verwerken daarentegen threads met een lagere prioriteit, systeemtaken en achtergrondprocessen zoals capture cards, chats, browsers, enzovoort.

Wanneer een spel bijvoorbeeld wordt gestart, wordt er een negende of tiende thread gebruikt die alleen maar... tussen 10% en 30% van een P-Core met tussenpozenThread Director kan het besturingssysteem adviseren om de thread naar een E-Core te verplaatsen. De scheduler, die weet dat deze thread niet cruciaal is en rekening houdt met de prestatie-/efficiëntiescore, stuurt de thread naar de efficiënte core zonder de game-ervaring te beïnvloeden.

Het is belangrijk om te weten dat een E-Core bescheidener is dan een P-Core, maar als de werklast klein is, Het kan een groter percentage van de E-Core in beslag nemen (bijvoorbeeld 60%) en toch de benodigde prestaties leveren zonder knelpunten te creëren.Op deze manier komen de P-Cores vrij voor wat er echt toe doet, en wordt het beschikbare silicium beter benut.

In de meeste goed ontworpen games die op Windows 11 draaien, is de combinatie van De hybride planner in combinatie met Thread Director biedt in ongeveer 99% van de gevallen stabiel gedrag.Er zijn echter enkele titels of engines met enigszins ongebruikelijke threadpatronen waarbij de verdeling niet zo perfect is, maar dit zijn doorgaans uitzonderingen.

Relatie met Windows 11, Windows 10 en algemene compatibiliteit

Een van de belangrijkste punten is dat Windows 11 is ontwikkeld in directe samenwerking tussen Microsoft en Intel om optimaal gebruik te maken van de hybride architectuur en Thread Director native te implementeren.Dit omvat een bijgewerkte planner, specifieke energiebeleidsregels en een betere integratie met telemetriegegevens afkomstig van de CPU.

In Windows 10 is de taakplanner echter anders. Het is niet vanaf nul ontworpen om P-Cores en E-Cores te begrijpen of om Thread Director-signalen correct te interpreteren.Het werkt wel, maar de taakverdeling is minder intuïtief en daardoor kunnen de prestaties en efficiëntie aanzienlijk lager liggen in vergelijking met dezelfde CPU in Windows 11.

In Linux heeft het verhaal een andere wending genomen. Aanvankelijk, De kernel maakte niet optimaal gebruik van de hybride cores van Intel, wat resulteerde in aanzienlijk slechtere prestaties dan in Windows.Vooral bij gemengde workloads en virtualisatie. De kernelscheduler en de interfaces met Thread Director zijn in de loop der tijd verfijnd.

Dankzij de nieuwste kernelpatches heeft Intel het volgende toegevoegd: geavanceerde ondersteuning voor Thread Director en heeft daarnaast gewerkt aan de virtualisatie van deze technologie voor virtuele machines (Thread Director Virtualization).Hierdoor kan een gastbesturingssysteem, zoals een virtuele Windows 11-machine, profiteren van ITD-gebaseerde programmeerlogica, zelfs wanneer het draait op een Linux-host.

Bij tests met een Core i9-13900K waarop Windows 11 in een Linux-VM draaide, werd het volgende gemeten: Tot wel 14% prestatieverbetering in 3DMark door de toewijzing van P-Cores en E-Cores van de virtuele machine optimaal te benutten.Deze winst is vooral interessant voor servers die cloudgaming of meerdere virtuele desktops aanbieden.

Draadcoördinator bij Alder Lake, Raptor Lake, Meteor Lake en daarbuiten.

Thread Director maakte officieel zijn debuut met de De 12e generatie Intel Core-processors (Alder Lake) introduceerde als eerste de hybride desktoparchitectuur.Deze chips combineren krachtige P-Cores met efficiënte E-Cores en worden geproduceerd met behulp van Intel 7-lithografie, waarbij veel van de eerdere technologieën van het merk zijn overgenomen.

In Alder Lake-S, ontworpen voor desktops en LGA1700-sockets, vinden we Tot 16 cores (8 P-cores + 8 E-cores) en in totaal 24 threads, ondersteuning voor DDR5, achterwaartse compatibiliteit met DDR4 en PCIe 5.0-lanes rechtstreeks vanuit de CPU.Daarnaast is er nog de klassieke variant. Intel Smart Cache (gedeelde L3-cache) en een gereorganiseerde L2-cache om de twee typen cores te ondersteunen.

De P-Cores beschikken over 1,25 MB L2-cache per core, terwijl de E-Cores zijn gegroepeerd in clusters van vier die 2 MB L2-cache delen.Daarbovenop is er tot 30 MB aan L3-cache (LLC) die alle cores delen, wat helpt de latentie te verminderen en de gegevensuitwisseling tussen threads van verschillende typen te verbeteren.

Het platform voegt daar ook aan toe Ondersteuning voor PCIe 5.0 (tot 16 lanes van de CPU), plus PCIe 4.0 lanes van de Z690-chipset, geïntegreerde WiFi 6E en Thunderbolt 4-compatibiliteit.Hoewel er ten tijde van de lancering nauwelijks PCIe 5.0 GPU's en SSD's beschikbaar waren, was de infrastructuur al wel aanwezig.

Met Raptor Lake verfijnde Intel deze aanpak, maar de echte verandering in Thread Director komt met Meteor Lake: De evaluatielogica wordt vervolgens uitgevoerd op de energiezuinige E-Cores in de Tile SoC, het blok met directe toegang tot het RAM-geheugen dankzij de geïntegreerde geheugencontroller.Vervolgens wordt elk proces geanalyseerd en wordt er een beslissing genomen of het kan worden afgehandeld binnen die E-Cores of dat het moet worden doorverwezen naar de Compute Tile, waar de krachtigste cores zich bevinden.

Dit betekent dat, uitgaande van Meteor Lake, Thread Director hoeft niet langer constant rechtstreeks te coördineren tussen "drie soorten cores", omdat veel taken met een lage belasting worden afgehandeld voordat ze de belangrijkste P-Cores bereiken.Pas wanneer wordt vastgesteld dat een taak meer rekenkracht vereist, wordt deze naar het high-performance computing-blok verplaatst.

Integratie met de hybride architectuur van Alder Lake-S

Binnen het desktopecosysteem vormen de Alder Lake-S de perfecte showcase van wat Thread Director kan bijdragen aan een hybride processor met zeer duidelijke doelstellingen: gaming, contentcreatie en geavanceerd overklokken.Intel heeft het hele platform opnieuw ontworpen om optimaal gebruik te maken van deze combinatie van cores.

Hybride architectuur laat de oude monolithische aanpak achter zich en stelt een model voor dat sterk lijkt op... ARM big.LITTLE, met P-cores ontworpen voor zware workloads en E-cores gericht op schaalbaarheid en efficiënt multitasken.Deze combinatie zorgt volgens interne metingen van Intel voor een toename van 19% in IPC per core ten opzichte van de 11e generatie.

In alledaagse termen betekent dit dat wanneer je een spel leidt, De P-Cores verzorgen de game-engine, terwijl de E-Cores achtergrondtaken zoals streaming, Discord, internetbrowsen of systeemprocessen afhandelen.Intel heeft verbeteringen laten zien tot wel 19% in games en tot wel 84% in scenario's met "gamen + streamen" in vergelijking met een Core i9-11900K.

Dit gedrag is afhankelijk van het vermogen van Thread Director om Detecteer welke threads cruciaal zijn voor de latency van games en welke add-ons naar E-Cores kunnen worden omgeleid zonder de spelervaring te beïnvloeden.Dit zorgt ervoor dat de framesnelheid constant blijft en vermindert het risico op haperingen wanneer er veel dingen tegelijk gebeuren.

Het platform van Alder Lake introduceerde ook Nieuwe energiebeheermechanismen, die PL1 en PL2 op elkaar afstemmen om de boostfrequenties langer te behouden.Dit wordt mogelijk gemaakt door het bestaan ​​van E-Cores die lichte belastingen aankunnen zonder dat de P-Cores permanent op hun thermische limiet draaien.

Overklokken, geheugen en bijbehorende tools

De Alder Lake-S-modellen werden geleverd met een herziening van de afstelgereedschappen, te beginnen met Intel Extreme Tuning Utility (XTU) 7.5, waarmee specifieke controle over E-Core-frequenties en volledige ondersteuning voor DDR5 wordt toegevoegd.Dit komt bovenop de P-Cores-telemetrie en de nieuwe interne BCLK-beheeropties.

Een van de belangrijkste nieuwe ontwikkelingen op het gebied van geheugen is XMP 3.0, waarmee het aantal overklokprofielen per module wordt uitgebreid tot maximaal vijf (drie van de fabrikant en twee door de gebruiker aanpasbaar).Deze aanpasbare profielen kunnen een naam van maximaal 16 tekens krijgen, waardoor de gebruikte instelling snel en eenvoudig te herkennen is.

Daarnaast biedt XMP 3.0 de mogelijkheid om... Stel handmatig spanningen in zoals VDD, VDDQ en VPP.Dit geeft enthousiastelingen volop ruimte om te experimenteren en het maximale uit DDR5 te halen. Hoewel Thread Director geen directe invloed heeft op het geheugen, is het hele platform ontworpen met een breed scala aan veeleisende workloads in gedachten.

Het werd ook toegevoegd Dynamic Memory Boost Technology is een soort automatische "turbo"-functie voor RAM-geheugen die het XMP-profiel activeert wanneer een belasting wordt gedetecteerd en terugkeert naar de basisstatus wanneer de vraag afneemt.Deze logica doet denken aan de werking van Turbo Boost in CPU's, waarbij prestaties, energieverbruik en temperaturen in balans worden gehouden zonder constante tussenkomst van de gebruiker.

Dit alles wordt aangevuld door de Z690-chipset, die Het biedt volledige ondersteuning voor het overklokken van de CPU en het geheugen, plus PCIe 4.0-lanes en moderne connectiviteit zoals USB 3.2 Gen 2x2 en WiFi 6E (Gig+).Het idee is dat het platform als geheel klaar is om te profiteren van het dynamische gedrag dat Thread Director mogelijk maakt bij de toewijzing van threads.

Linux, servers en virtualisatie met Thread Director

Buiten de thuiscomputer begint Thread Director steeds relevanter te worden in Linux-omgevingen waar meerdere virtuele machines of cloudgebaseerde gamestreamingdiensten draaien.Hier vertaalt efficiëntie in de toewijzing van kernmiddelen zich direct in kosten en kwaliteit van de dienstverlening.

Intel heeft onlangs een Een reeks patches voor de Linux-kernel die de integratie van Thread Director en de planningslogica voor hybride CPU's aanzienlijk verbeteren.Deze wijzigingen passen niet alleen de manier aan waarop taken over de host worden verdeeld, maar introduceren ook het concept van Thread Director Virtualization.

Met deze virtualisatie kan een virtuele machine (bijvoorbeeld Windows 11 als gastbesturingssysteem) Ontvang en gebruik informatie van Thread Director, zelfs wanneer deze op een Linux-host draait.Het resultaat is dat de gast zijn eigen werklast beter kan verdelen over gevirtualiseerde P-Cores en E-Cores, waardoor de prestaties dichter bij die van een native systeem komen.

Uit de gepubliceerde gegevens blijkt dat in scenario's van Games die draaien op een Windows 11 virtuele machine op een Linux-host met een Core i9-13900K.De prestatieverbetering kan oplopen tot 14% in benchmarks zoals 3DMark. Voor Linux-gebaseerde cloudstreamingproviders is deze sprong voorwaarts zeer significant.

Het is belangrijk om in acht te nemen dat Deze optimalisaties zijn voornamelijk bedoeld voor professionele en serveromgevingen.Linux heeft een veel groter marktaandeel dan Windows Server. In een thuisomgeving zal de gemiddelde gebruiker weinig verschil merken, hoewel het altijd goed nieuws is wanneer de kernel de ondersteuning voor hybride CPU's verbetert.

Beperkingen, mythes en wat we kunnen verwachten

Ondanks alle voordelen is het beter om Thread Director niet te veel te verheerlijken. Het eerste wat je moet begrijpen is dat Het kan een slecht geoptimaliseerd besturingssysteem of een game-engine met gebrekkig threadbeheer niet volledig compenseren.Als de belasting vanuit de software slecht verdeeld is, kan de CPU maar een beperkt aantal taken uitvoeren.

Het is ook geen magische technologie die dat garandeert. Er zullen zich nooit zeldzame gevallen voordoen waarbij een belangrijke thread in een E-Core terechtkomt of een lichte taak langer dan nodig in een P-Core blijft.De feedback is erg snel, maar niet direct, en er zijn altijd ongebruikelijke laadpatronen die de planner in de war kunnen brengen.

Een andere veelvoorkomende mythe is dat je met Thread Director... Game- en applicatieontwikkelaars kunnen hybride architectuur volledig vergeten.Hoewel het besturingssysteem in de meeste gevallen alles redelijk goed afhandelt, is het, om er het maximale uit te halen, toch verstandig om engines te ontwerpen die hun eigen threads beter classificeren, de juiste prioriteiten stellen en ongecontroleerde overbelasting voorkomen.

Met het oog op toekomstige generaties zoals Arrow Lake wijst alles daarop. De basisfilosofie van Thread Director blijft behouden, met verbeteringen op het gebied van telemetrie en integratie met besturingssystemen.De ervaringen opgedaan in Alder, Raptor en Meteor Lake zullen helpen om grensgevallen, waarbij de allocatie niet helemaal optimaal is, verder te verminderen.

In het dagelijks gebruik, voor de gebruiker die gamet, video bewerkt, streamt of virtuele machines gebruikt, is het allerbelangrijkste om duidelijk te hebben dat Windows 11 en moderne versies van Linux met de nieuwste patches zijn vrijwel onmisbaar als je het maximale uit een Intel hybride CPU wilt halen.Met het juiste systeem wordt Thread Director een stille bondgenoot die ervoor zorgt dat alles soepeler en energiezuiniger verloopt.

Uiteindelijk heeft Intel Thread Director zich bewezen als een belangrijk onderdeel in de overgang naar pc-processoren met heterogene kernen, waardoor het besturingssysteem slimmere beslissingen kan nemen over waar elke thread moet worden uitgevoerd.Hoewel het zelf geen processen uitvoert, maakt de continue analyse van prestaties en efficiëntie wel degelijk een verschil bij gaming, multitasking, contentcreatie en virtualisatie, mits de onderliggende software dit kan verwerken.