Intel Thread Director: Sådan fungerer hybrid kerneintelligens

Informatic Digital » Recursos » Intel Thread Director: Sådan fungerer hybrid kerneintelligens

Hvis du har hørt om Intels nye hybridprocessorer, og udtrykket Thread Director lyder bekendt, men ikke helt er sikker på, hvad det egentlig gør , er du kommet til det rette sted. Denne teknologi er nøglen til at forstå, hvorfor Alder Lake, Raptor Lake, Meteor Lake og efterfølgende generationer præsterer, som de gør, især inden for spil, multitasking og virtuelle maskiner.

Lad os se nærmere på, hvordan Intel Thread Director fungerer internt, hvilke problemer det løser, og hvad dets begrænsninger er . Du vil se, at det ikke er magi eller en skjult turboknap, men snarere endnu en brik i et komplekst system, hvor operativsystemet, P-kerner og E-kerner alle spiller en betydelig rolle.

Hvad er Intel Thread Director, og hvorfor findes det?

Ankomsten af ​​12. generations Core-processorer betød, at Intel valgte en hybrid kernearkitektur med højtydende P-kerner og højeffektive E-kerner . Indtil da var processorer med alle kerner af samme type normen i desktop-pc-verdenen, mens denne "big.LITTLE"-tilgang var typisk for mobile SoC'er baseret på ARM-arkitektur.

Denne ændring udgjorde et alvorligt problem: Desktop-operativsystemer var ikke udstyret til at skelne mellem kerner med varierende kraft og effektivitet, når de allokerede tråde og processer . Scheduleren så blot "X kerner" og fordelte arbejdsbyrden uden at overveje, hvilken type kerne der var bedst egnet til hver opgave.

For at imødegå dette skabte Intel det, de kommercielt kalder Intel Thread Director, en teknologi integreret i CPU'en, der analyserer procesadfærd og rådgiver operativsystemet om, hvor de skal placeres. Det er vigtigt at bemærke, at det ikke er en erstatning for operativsystemets scheduler, men snarere et yderst raffineret og specialiseret værktøj.

I modsætning til hvad mange tror, ​​er Thread Director ikke en separat chip eller en "magisk enhed" inde i processoren . Den består af logik og mikrokode, der kører på selve CPU'en, indsamler meget detaljerede telemetrioplysninger og eksponerer dem for operativsystemet via specifikke grænseflader.

Sådan fungerer tråddirektøren internt

Tråddirektøren fungerer konceptuelt som et kontrolleret spekulativt udførelsessystem, der evaluerer trådadfærd, før den ideelle kerne bestemmes . For at gøre dette bruger den en af ​​udførelsestrådene fra en P-kerne i Alder Lake og Raptor Lake, mens den i Meteor Lake og senere er afhængig af lav-strømforøgende E-kerner i Tile SoC'en.

Denne logik overvåger instruktioner, adgangsmønstre og beregningsomkostningerne ved at køre algoritmer . Den ser ikke blot på den statiske instruktionsliste; i stedet observerer den adfærd i den virkelige verden over en kort periode for at bestemme, om en belastning er let, moderat, meget parallel, hukommelseskrævende osv.

Denne analyse er kodet i en datastruktur tilknyttet IA32_THREAD_FEEDBACK_CHAR-registeret, hvor tre typer nøgleinformation om hver tråd er gemt : arbejdsklassen, en ydeevnescore og en energieffektivitetsscore, alt sammen i et simpelt format, så operativsystemet hurtigt kan bruge det.

Den første del er en klassificering af procestypen i fire forskellige klasser , der hjælper planlæggeren med at forstå, hvilken type kerne der er bedst egnet:

• 0 klasseTråde der kan udføres uden større problemer på både P-kerner og E-kerner.
• 1 klasse: arbejdsbelastninger, der yder betydeligt bedre på P-kerner på grund af deres krav til maksimal ydeevne eller lave latenstid.
• 2 klasse: opgaver, der anbefales flyttet til E-Cores, fordi de er lettere eller drager fordel af effektiv udførelse.
• 3 klasse: processer med dyre løkker, potentielt lange ventetider eller adfærd, der kan skade andre tråde, hvis de blandes forkert, og derfor kræver særlig behandling.

Ud over klassen gemmes en performance-score fra 0 til 255 , der afspejler, hvor godt den pågældende tråd klarer sig på en specifik kerne . Tilsvarende inkluderes en anden score fra 0 til 255 for at angive den energieffektivitet, der er forbundet med at køre den på den pågældende type kerne under de aktuelle forhold.

Med den telemetri kan operativsystemet træffe mere informerede beslutninger om, hvilke tråde der skal sendes til P-kerner, og hvilke der skal omdirigeres til E-kerner , ikke kun ved at se på kernetypen, men også på den aktuelle belastning, antallet af aktive opgaver og brugersessionsprioriteterne.

Vigtigheden af ​​scoring og belastningsdeling

I moderne CPU'er med mange kerner er det ikke længere nok blot at beslutte, om noget går til en P-Core eller en E-Core: det er også vigtigt, hvilken specifik kerne hver tråd lander på for at undgå flaskehalse og underudnyttede kerner . Det er her, at den ydeevne- og effektivitetsscore, som Thread Director leverer, spiller en nøglerolle.

Takket være denne numeriske vurdering kan operativsystemets scheduler afbalancere belastningen mellem kerner af samme type, tildele de tungeste tråde til de mindst belastede kerner først og udnytte al den tilgængelige plads. Ideen er at undgå at P-kerner er mættede, mens andre er næsten inaktive, eller at E-kerner er underudnyttede og udfører meningsløse opgaver.

En anden fordel er, at Thread Director hjælper med hurtigt at registrere, hvornår en arbejdsbelastning er bedst egnet til en bestemt type kerne baseret på dens instruktionssæt eller egenskaber . Hvis det under evalueringen viser sig, at en tråd kun bruger instruktioner, der understøttes af P-kerner (f.eks. visse avancerede AVX-instruktionssæt), ved operativsystemet, at denne tråd skal tildeles en P-kerne.

Det er også relevant i scenarier, hvor en enkelt proces udvikler sig over tid: den kan starte let, bevæge sig til en beregningsintensiv fase og derefter vende tilbage til en mere afslappet tilstand . Kontinuerlig feedback tillader disse tråde at migrere mellem P og E afhængigt af, hvad de laver på et givet tidspunkt, uden at applikationen behøver at være opmærksom på hybridarkitekturen.

I praksis har denne mekanisme til formål at sikre, at brugeren opfatter systemet som værende problemfrit, uanset om det kører et krævende spil eller åbner flere applikationer, afspiller indhold eller lader processer køre i baggrunden . Dynamisk ressourceallokering forhindrer en simpel baggrundsopgave i at forbruge en hel P-kerne, mens en E-kerne forbliver inaktiv.

Tråddirektøren "kommanderer" ikke: operativsystemet bestemmer.

Navnet kan være misvisende, fordi "Director" lyder som om, den har ansvaret, men virkeligheden er, at Thread Director ikke træffer den endelige beslutning om, hvor hver tråd kører . Operativsystemets scheduler har stadig det sidste ord og bruger eller ignorerer de oplysninger, som CPU'en leverer, i henhold til sin egen logik.

Dette er meget mærkbart i hverdagssituationer, f.eks. når du sender et ressourcekrævende program til baggrunden, for eksempel en gengivelse i Blender, og fortsætter med at bruge computeren til andre opgaver . Windows fortolker, at det, der er i forgrunden, har prioritet for brugeren, så det reducerer de ressourcer, der er allokeret til gengivelse, og kan flytte sin primære arbejdsbyrde til E-Cores.

På samme måde kan en applikation med lav efterspørgsel, der kører i det aktive vindue, ende med at bruge en P-Core blot ved at være i fokus, selvom dens CPU-forbrug ikke er særlig højt. Dette viser, at operativsystemets kriterier (forgrunds-/baggrundstilstand, procesprioritet, strømpolitikker) vejer tungere end tråddirektørens mening.

Kort sagt fungerer Thread Director som en slags "ekspertrådgiver" til systemplanlæggeren, men hvis operativsystemet ikke er udstyret til at forstå det eller prioriterer andre regler, vil trådallokeringen ikke være optimal . Dette forklarer de klare forskelle mellem Windows 10, Windows 11 og forskellige Linux-distributioner i, hvordan de udnytter hybride CPU'er.

Fra applikationsudviklerens perspektiv er det interessante, at det i de fleste tilfælde ikke er nødvendigt at omskrive softwaren specifikt til P-Cores og E-Cores . Så længe operativsystemet understøtter Thread Director, fordeles langt størstedelen af ​​arbejdsbyrden ret rimeligt uden kodeændringer, undtagen i nogle få meget specifikke scenarier.

Adfærd i spil og virkelige arbejdsbelastninger: P-kerner, E-kerner og sekundære tråde

Et af de mest forvirrende emner er, hvad der sker i moderne spil, der bruger mange tråde, især når antallet af opgaver overstiger de tilgængelige P-kerner, og E-kerner bruges til sekundære tråde . Det er her, teori møder den virkelige praksis.

Intels idé er, at kritiske spiltråde (rendering, hovedlogik, vigtig fysik) i et typisk scenarie falder på P-kernerne , mens E-kernerne tager sig af tråde med lavere prioritet, systemopgaver og baggrundsprocesser såsom capture cards, chats, browsere osv.

Når et spil f.eks. starter en niende eller tiende tråd, der kun periodisk bruger mellem 10 % og 30 % af en P-kerne , kan tråddirektøren foreslå operativsystemet, at den flyttes til en E-kerne. Scheduleren, der ved, at denne tråd ikke er kritisk, og tager præstations-/effektivitetsscoren i betragtning, sender den til den effektive kerne uden at påvirke spiloplevelsen.

Det er vigtigt at forstå, at en E-Core er mindre kraftfuld end en P-Core, men hvis arbejdsbyrden er lille, kan den udnytte en større procentdel af E-Core'ens ressourcer (f.eks. 60%) og stadig levere den nødvendige ydeevne uden at skabe flaskehalse . Dette frigør P-Cores til det, der virkelig betyder noget, og udnytter det tilgængelige silicium bedre.

I de fleste veldesignede spil, der kører Windows 11, giver kombinationen af ​​en hybridbevidst scheduler og Thread Director stabil ydeevne i omkring 99% af tilfældene . Der er dog nogle titler eller motorer med noget usædvanlige trådmønstre, hvor fordelingen ikke er perfekt, men disse er normalt undtagelsen.

Forholdet til Windows 11, Windows 10 og generel kompatibilitet

Et af hovedpunkterne er, at Windows 11 blev udviklet i direkte samarbejde mellem Microsoft og Intel for at udnytte hybridarkitekturen fuldt ud og bruge Thread Director indbygget . Dette inkluderer en opdateret scheduler, specifikke strømpolitikker og finere integration med telemetridata fra CPU'en.

I Windows 10 er scheduleren dog ikke designet fra bunden til at forstå P-kerner og E-kerner eller til korrekt at fortolke Thread Director-signaler . Det virker, men opgaveallokeringen er mere "blind", og derfor kan ydeevne og effektivitet være betydeligt lavere sammenlignet med den samme CPU i Windows 11.

I Linux har historien taget en anden vej. I starten udnyttede kernen ikke Intels hybridkerner fuldt ud, hvilket resulterede i betydeligt dårligere ydeevne end Windows , især under blandede arbejdsbelastninger og i virtualisering. Med tiden er kernelplanlæggeren og grænsefladerne med Thread Director blevet forfinet.

Takket være de seneste kernepatches har Intel tilføjet avanceret understøttelse af Thread Director og har også arbejdet på Thread Director Virtualization . Dette giver en gæst, såsom en virtuel Windows 11-maskine, mulighed for at drage fordel af ITD-baseret planlægningslogik, selv når den kører oven på en Linux-vært.

I tests med en Core i9-13900K, der kører Windows 11, på en Linux VM, blev der målt en ydeevneforbedring på op til 14% i 3DMark ved korrekt at udnytte allokeringen mellem P-kerner og E-kerner fra den virtuelle maskine . Denne gevinst er især relevant for servere, der hoster cloud-spil eller flere virtuelle skriveborde.

Tråddirektør hos Alder Lake, Raptor Lake, Meteor Lake og videre

Thread Director debuterede officielt med 12. generation af Intel Core-processorer (Alder Lake), som for første gang introducerede hybridarkitektur til stationære computere . Disse chips kombinerer højtydende P-kerner med effektive E-kerner og er fremstillet ved hjælp af Intel 7-litografi, der arver mange af mærkets tidligere teknologier.

I Alder Lake-S, designet til stationære computere og med LGA1700-socket, finder vi op til 16 kerner (8 P-kerner + 8 E-kerner) og 24 tråde i alt, understøttelse af DDR5, bagudkompatibilitet med DDR4 og PCIe 5.0-baner direkte fra CPU'en . Dette suppleres af den klassiske Intel Smart Cache (delt L3-cache) og en reorganiseret L2-cache for at imødekomme begge typer kerner.

P-kernerne har 1,25 MB L2-cache pr. kerne, mens E-kernerne er grupperet i klynger på fire, der deler 2 MB L2-cache . Derudover er der op til 30 MB L3-cache (LLC) fælles for alle kerner, hvilket hjælper med at reducere latenstid og forbedre dataudveksling mellem tråde af forskellige typer.

Platformen tilføjer også understøttelse af PCIe 5.0 (op til 16 baner fra CPU'en), flere PCIe 4.0-baner fra Z690-chipsættet, integreret WiFi 6E og Thunderbolt 4-kompatibilitet . Selvom PCIe 5.0 GPU'er og SSD'er var knappe ved lanceringen, var infrastrukturen allerede på plads.

Med Raptor Lake forfinede Intel denne tilgang, men den virkelige ændring i Thread Director kommer med Meteor Lake: evalueringslogikken kører nu på de lavstrøms E-kerner, der findes i SoC Tile, som er blokken med direkte adgang til RAM takket være den integrerede hukommelsescontroller . Derfra analyseres hver proces, og der træffes en beslutning om, hvorvidt den kan løses på disse E-kerner, eller om den skal videreføres til Compute Tile, hvor de kraftigere kerner befinder sig.

Det betyder, at Thread Director, startende med Meteor Lake, ikke længere konstant behøver at orkestrere direkte mellem "tre typer kerner", fordi mange opgaver med lav efterspørgsel løses, før de når de primære P-kerner . Først når en arbejdsbelastning registreres som værende behov for mere processorkraft, overføres den til højtydende computerblokken.

Integration med Alder Lake-S hybridarkitekturen

Inden for desktop-økosystemet viser Alder Lake-S-processorerne perfekt, hvad Thread Director kan tilbyde en hybridprocessor med meget klare mål: gaming, indholdsskabelse og avanceret overclocking . Intel har redesignet hele platformen for at drage fordel af denne blanding af kerner.

Hybridarkitekturen opgiver den gamle monolitiske tilgang og foreslår en model, der minder meget om ARM big.LITTLE, med P-kerner designet til tunge arbejdsbelastninger og E-kerner fokuseret på skalerbarhed og multitasking-effektivitet . Denne kombination giver en stigning på 19 % i IPC pr. kerne sammenlignet med den 11. generation ifølge Intels interne målinger.

I daglig brug betyder det, at når man kører et spil, håndterer P-kernerne spilmotoren, mens E-kernerne tager sig af baggrundsopgaver såsom streaming, Discord, browsing og systemprocesser . Intel har vist forbedringer på op til 19% i gaming og op til 84% i "gaming + streaming"-scenarier sammenlignet med en Core i9-11900K.

Denne adfærd er afhængig af Thread Directors evne til at registrere, hvilke tråde der er kritiske for spillets latenstid, og hvilke der er hjælpetråde, der kan omdirigeres til E-Cores uden at påvirke oplevelsen negativt . Dette opretholder FPS-hastigheden og reducerer risikoen for hakken, når mange ting sker samtidigt.

Alder Lake-platformen introducerede også nye strømstyringsmekanismer, der matcher PL1 og PL2 for at opretholde boostfrekvenser i længere tid , noget der drages fordel af eksistensen af ​​E-kerner, der kan klare lette belastninger uden at P-kernerne permanent er på den termiske grænse.

Overclocking, hukommelse og tilhørende værktøjer

Alder Lake-S-processorerne blev ledsaget af en opdatering til tuningværktøjerne, startende med Intel Extreme Tuning Utility (XTU) 7.5, som tilføjer specifik kontrol over E-Core-frekvenser og fuld understøttelse af DDR5 . Dette er ud over P-Core-telemetri og nye interne BCLK-administrationsmuligheder.

En af de vigtigste nye funktioner til hukommelse er XMP 3.0, som udvider overclockingprofiler til fem pr. modul (tre fra producenten og to, der kan tilpasses af brugeren) . Disse brugerdefinerede profiler kan navngives med op til 16 tegn, hvilket gør det nemt hurtigt at identificere den anvendte indstilling.

Derudover tillader XMP 3.0 manuel justering af spændinger som VDD, VDDQ og VPP , hvilket giver entusiaster betydelig spillerum til at få mest muligt ud af DDR5-hukommelse. Selvom Thread Director ikke direkte påvirker hukommelsen, er hele platformen designet med en bred vifte af krævende arbejdsbelastninger i tankerne.

Dynamisk hukommelsesboost-teknologi blev også tilføjet , en slags automatisk "Turbo" til RAM, der aktiverer XMP-profilen, når der registreres en belastning, og vender tilbage til basistilstanden, når efterspørgslen falder . Denne logik ligner den, hvordan Turbo Boost fungerer i CPU'er, og hjælper med at afbalancere ydeevne, strømforbrug og temperaturer uden konstant brugerindgriben.

Alt dette suppleres af Z690-chipsættet, som tilbyder fuld understøttelse af CPU- og hukommelsesoverclocking, plus PCIe 4.0-baner og moderne tilslutningsmuligheder såsom USB 3.2 Gen 2x2 og WiFi 6E (Gig+) . Ideen er, at platformen som helhed er klar til at drage fordel af den dynamiske adfærd, som Thread Director muliggør i forbindelse med trådallokering.

Linux, servere og virtualisering med Thread Director

Uden for hjemmeskrivebordet bliver Thread Director særligt relevant i Linux-miljøer, der kører flere virtuelle maskiner eller cloudbaserede spilstreamingtjenester . Her omsættes effektiv kerneallokering direkte til omkostningsbesparelser og forbedret servicekvalitet.

Intel har for nylig udgivet et sæt Linux-kernepatches, der forbedrer Thread Director-integrationen og planlægningslogikken for hybrid-CPU'er betydeligt . Disse ændringer justerer ikke kun, hvordan opgaver distribueres på værten, men introducerer også konceptet med Thread Director Virtualization.

Med denne virtualisering kan en virtuel maskine (f.eks. Windows 11 som gæst) modtage og bruge information fra Thread Director, selv mens den kører på en Linux-vært . Resultatet er, at gæsten bedre kan fordele sine egne arbejdsbelastninger på tværs af virtualiserede P-kerner og E-kerner, hvilket mere nærmer sig den native ydeevne.

De offentliggjorte tests viser, at i spilscenarier, der kører på en Windows 11 VM på en Linux-vært med en Core i9-13900K , kan forbedringerne af ydeevnen nå op til 14% i benchmarks som 3DMark. For Linux-baserede cloud-streamingudbydere er dette spring meget betydeligt.

Det er vigtigt at bemærke, at disse optimeringer primært er beregnet til professionelle og servermiljøer , hvor Linux har en meget større markedsandel end Windows Server. I hjemmemiljøet vil den gennemsnitlige bruger ikke bemærke lige så stor forskel, selvom det altid er gode nyheder, når kernen forbedrer sin håndtering af hybrid-CPU'er.

Begrænsninger, myter og hvad vi kan forvente

Trods alle dens fordele er det vigtigt ikke at overmytologisere Thread Director. For det første er det afgørende at forstå, at det ikke fuldstændigt kan kompensere for et dårligt optimeret operativsystem eller en spilmotor med mangelfuld trådhåndtering . Hvis arbejdsbyrden er dårligt fordelt af softwaren, kan CPU'en kun håndtere en grænse.

Det er heller ikke en magisk teknologi, der garanterer, at der aldrig vil være sjældne tilfælde, hvor en vigtig tråd ender i en E-Core, eller en let opgave forbliver i en P-Core længere end nødvendigt . Feedback er meget hurtig, men ikke øjeblikkelig, og der er altid usædvanlige belastningsmønstre, der kan forvirre scheduleren.

En anden almindelig myte er, at spil- og applikationsudviklere med Thread Director helt kan glemme hybridarkitektur . Selvom operativsystemet i de fleste tilfælde håndterer alt rimeligt godt, er det stadig en god idé at designe motorer, der bedre klassificerer deres egne tråde, sætter passende prioriteter og undgår ukontrolleret overbelastning, for at få mest muligt ud af det.

Med blikket rettet mod fremtidige generationer som Arrow Lake, tyder alt på, at kernefilosofien bag Thread Director vil forblive, med forbedringer af telemetri og integration af operativsystemer . Erfaringerne fra Alder, Raptor og Meteor Lake vil bidrage til yderligere at reducere grænsetilfælde, hvor allokeringen ikke er helt optimal.

I daglig brug, for brugere der spiller, redigerer video, streamer eller kører virtuelle maskiner, er det vigtigste at forstå, at Windows 11 og moderne Linux-distributioner med de nyeste patches praktisk talt er obligatoriske, hvis man virkelig vil have mest muligt ud af en Intel hybrid CPU . Med det rigtige system bliver Thread Director en lydløs allieret, der hjælper alt med at køre mere gnidningsløst og med bedre energieffektivitet.

I sidste ende har Intel Thread Director etableret sig som en nøglekomponent i overgangen til pc-processorer med heterogene kerner, hvilket gør det muligt for operativsystemet at træffe smartere beslutninger om, hvor hver tråd skal køres . Selvom det ikke styrer noget alene, gør dets kontinuerlige analyse af ydeevne og effektivitet en forskel i spil, multitasking, indholdsoprettelse og virtualisering, forudsat at den underliggende software er klar til at forstå det.