Intel Thread Director: Kako funkcionira hibridna jezgrena inteligencija

Informatec Digital » Sredstva » Intel Thread Director: Kako funkcionira hibridna jezgrena inteligencija

Ako ste čuli za Intelove nove hibridne procesore i izraz Thread Director zvuči vam poznato, ali niste sasvim sigurni što on zapravo radi , došli ste na pravo mjesto. Ova tehnologija je ključna za razumijevanje zašto Alder Lake, Raptor Lake, Meteor Lake i sljedeće generacije rade onako kako rade, posebno u igrama, multitaskingu i virtualnim strojevima.

Pogledajmo pobliže kako Intel Thread Director interno radi, koje probleme rješava i koja su mu ograničenja . Vidjet ćete da to nije magija, niti skriveni turbo gumb, već još jedan dio u složenom sustavu u kojem operativni sustav, P jezgre i E jezgre igraju značajnu ulogu.

Što je Intel Thread Director i zašto postoji?

Dolazak 12. generacije Core procesora značio je da se Intel odlučio za hibridnu arhitekturu jezgre s visokoučinkovitim P-jezgrama i visokoučinkovitim E-jezgrama . Do tada su u svijetu stolnih računala procesori sa svim jezgrama istog tipa bili norma, dok je ovaj pristup "veliko.MALO" bio tipičan za mobilne SoC-ove temeljene na ARM arhitekturi.

Ova promjena predstavljala je ozbiljan problem: operativni sustavi za stolna računala nisu bili opremljeni za razlikovanje jezgri s različitom snagom i učinkovitošću prilikom dodjeljivanja niti i procesa . Raspoređivač je jednostavno vidio "X jezgri" i distribuirao radno opterećenje bez razmatranja koja je vrsta jezgre najbolje prilagođena za svaki zadatak.

Kako bi se riješio ovaj problem, Intel je stvorio ono što je komercijalno nazvao Intel Thread Director, tehnologiju integriranu u CPU koja analizira ponašanje procesa i savjetuje operativnom sustavu gdje ih smjestiti. Važno je napomenuti da to nije zamjena za planer operativnog sustava, već visoko usavršen i specijaliziran alat.

Suprotno onome što mnogi misle, Thread Director nije zaseban čip ili "čarobna jedinica" unutar procesora . Sastoji se od logike i mikrokoda koji se izvršavaju na samom CPU-u, prikupljajući vrlo detaljne telemetrijske informacije i izlažući ih operativnom sustavu putem specifičnih sučelja.

Kako Thread Director interno funkcionira

Upravitelj niti konceptualno funkcionira poput kontroliranog spekulativnog sustava izvršavanja koji procjenjuje ponašanje niti prije nego što odluči o idealnoj jezgri . Za to koristi jednu od izvršnih niti P-jezgre u Alder Lakeu i Raptor Lakeu, dok se u Meteor Lakeu i kasnije oslanja na E-jezgre niske snage unutar Tile SoC-a.

Ova logika prati instrukcije, obrasce pristupa i računalne troškove izvršavanja algoritama . Ne gleda samo statički popis instrukcija; umjesto toga, promatra ponašanje u stvarnom svijetu tijekom kratkog razdoblja kako bi utvrdila je li opterećenje lagano, umjereno, vrlo paralelno, memorijski intenzivno i tako dalje.

Ova analiza je kodirana u strukturi podataka povezanoj s registrom IA32_THREAD_FEEDBACK_CHAR, gdje su pohranjene tri vrste ključnih informacija o svakoj niti : klasa rada, ocjena performansi i ocjena energetske učinkovitosti, sve u jednostavnom formatu kako bi ih operativni sustav mogao brzo koristiti.

Prvi dio je klasifikacija tipa procesa u četiri različite klase koje pomažu planeru da shvati koja je vrsta jezgre najprikladnija:

• Klasa 0: niti koje se mogu izvršavati bez većih problema i na P-jezgrama i na E-jezgrama.
• Klasa 1: opterećenja koja znatno bolje rade na P-jezgrama, zbog svojih vršnih zahtjeva za performansama ili niske latencije.
• Klasa 2: zadaci koji se preporučuju za premještanje u E-Core, jer su lakši ili imaju koristi od učinkovitijeg izvršenja.
• Klasa 3: procesi s petljama visokih troškova, potencijalno dugim čekanjima ili ponašanjima koja mogu naštetiti drugim nitima ako se nepravilno miješaju te stoga zahtijevaju poseban tretman.

Uz klasu, pohranjuje se i ocjena performansi od 0 do 255 , koja odražava koliko dobro ta nit radi na određenoj jezgri . Slično tome, uključena je i druga ocjena od 0 do 255 koja označava energetsku učinkovitost povezanu s njezinim pokretanjem na toj vrsti jezgre u trenutnim uvjetima.

S tom telemetrijom, operativni sustav može donositi informiranije odluke o tome koje niti poslati P-jezgrama, a koje preusmjeriti E-jezgrama , ne samo gledajući vrstu jezgre, već i trenutno opterećenje, broj aktivnih zadataka i prioritete korisničke sesije.

Važnost bodovanja i raspodjele opterećenja

U modernim CPU-ima s mnogo jezgri, više nije dovoljno samo odlučiti hoće li nešto ići na P-jezgru ili E-jezgru: također je važno na koju određenu jezgru završava svaka nit kako bi se izbjegla uska grla i nedovoljno iskorištene jezgre . Ovdje ključnu ulogu igraju rezultati performansi i učinkovitosti koje pruža Thread Director.

Zahvaljujući ovoj numeričkoj procjeni, raspoređivač operacijskog sustava može uravnotežiti opterećenje između jezgri iste vrste, prvo dodjeljujući najteže niti najmanje opterećenim jezgrama i koristeći svaki preostali raspoloživi prostor. Ideja je izbjeći zasićenje P-jezgri dok su druge gotovo neaktivne ili nedovoljno iskorištene E-jezgre koje obavljaju besmislene zadatke.

Druga prednost je što Thread Director pomaže u brzom otkrivanju kada je radno opterećenje najprikladnije za određenu vrstu jezgre na temelju njenog skupa instrukcija ili karakteristika . Ako se tijekom evaluacije utvrdi da nit koristi instrukcije koje podržavaju samo P-jezgre (na primjer, određeni napredni AVX skupovi instrukcija), operativni sustav zna da ta nit mora biti dodijeljena P-jezgri.

Također je relevantno u scenarijima gdje se jedan proces s vremenom razvija: može započeti kao lagan, prijeći u računalno intenzivnu fazu, a zatim se vratiti u opuštenije stanje . Kontinuirana povratna informacija omogućuje tim nitima migraciju između P i E ovisno o tome što rade u bilo kojem trenutku, bez potrebe da aplikacija bude svjesna hibridne arhitekture.

U praksi, ovaj mehanizam ima za cilj osigurati da korisnik doživljava sustav kao da reagira glatko, bez obzira pokreće li zahtjevnu igru ​​ili otvara više aplikacija, reproducira sadržaj ili ostavlja procese koji se izvode u pozadini . Dinamička dodjela resursa sprječava da jednostavan pozadinski zadatak potroši cijelu P-jezgru dok E-jezgra ostaje neaktivna.

Upravitelj niti ne "zapovijeda": operacijski sustav odlučuje.

Naziv možda zavarava jer "Direktor" zvuči kao da je zadužen, ali stvarnost je da Direktor niti ne donosi konačnu odluku o tome gdje se svaka nit izvršava . Raspoređivač operacijskog sustava i dalje ima zadnju riječ, koristeći ili ignorirajući informacije koje pruža CPU prema vlastitoj logici.

To je vrlo primjetno u svakodnevnim situacijama, primjerice kada šaljete aplikaciju koja intenzivno koristi resurse u pozadinu, na primjer, renderiranje u Blenderu, i nastavite koristiti računalo za druge zadatke . Windows interpretira da ono što je u prvom planu ima prioritet za korisnika, pa smanjuje resurse dodijeljene renderiranju i može preusmjeriti svoje glavno opterećenje na E-jezgre.

Slično tome, aplikacija s niskim zahtjevima koja se izvršava u aktivnom prozoru može na kraju koristiti P-Core jednostavno zato što je u fokusu, čak i ako korištenje CPU-a nije osobito visoko. To pokazuje da kriteriji operativnog sustava (stanje u prvom planu/pozadini, prioritet procesa, politike napajanja) imaju veću težinu od mišljenja direktora niti.

Ukratko, Thread Director pruža svojevrsni "stručni savjetnik" sistemskom raspoređivaču, ali ako operativni sustav nije opremljen da ga razumije ili daje prioritet drugim pravilima, alokacija niti neće biti optimalna . To objašnjava jasne razlike između Windowsa 10, Windowsa 11 i raznih Linux distribucija u načinu na koji koriste hibridne CPU-e.

Iz perspektive programera aplikacija, zanimljivo je da u većini slučajeva nije potrebno prepisivati ​​softver posebno za P-jezgre i E-jezgre . Sve dok operativni sustav podržava Thread Director, velika većina radnog opterećenja se prilično razumno raspoređuje bez promjena koda, osim u nekoliko vrlo specifičnih scenarija.

Ponašanje u igrama i stvarnim opterećenjima: P-jezgre, E-jezgre i sekundarne niti

Jedna od najzbunjujućih tema je što se događa u modernim igrama koje koriste mnogo niti, posebno kada broj zadataka premašuje dostupne P-jezgre, a E-jezgre se koriste za sekundarne niti . Ovdje se teorija susreće sa stvarnom praksom.

Intelova ideja je da, u tipičnom scenariju, kritične niti igre (rendriranje, glavna logika, važna fizika) padaju na P-jezgre , dok se E-jezgre brinu o nitima nižeg prioriteta, sistemskim zadacima i pozadinskim procesima poput kartica za snimanje, chatova, preglednika itd.

Kada igra pokrene, na primjer, devetu ili desetu nit koja samo povremeno koristi između 10% i 30% P-jezgre , direktor niti može predložiti operativnom sustavu da je premjesti na E-jezgru. Raspoređivač, znajući da ta nit nije kritična i uzimajući u obzir ocjenu performansi/učinkovitosti, šalje je na učinkovitu jezgru bez utjecaja na iskustvo igranja.

Važno je razumjeti da je E-Core manje snažna od P-Core, ali ako je opterećenje malo, može koristiti veći postotak resursa E-Core (na primjer, 60%) i dalje pružati potrebne performanse bez stvaranja uskih grla . To oslobađa P-Core za ono što je zaista važno i bolje iskorištava dostupni silicij.

U većini dobro dizajniranih igara s Windowsima 11, kombinacija hibridnog planera i Thread Directora osigurava stabilne performanse u oko 99% slučajeva . Međutim, postoje neki naslovi ili enginei s pomalo neobičnim uzorcima niti gdje distribucija nije savršena, ali to su obično iznimke.

Odnos s Windowsom 11, Windowsom 10 i opća kompatibilnost

Jedna od ključnih točaka je da je Windows 11 razvijen u izravnoj suradnji između Microsofta i Intela kako bi se u potpunosti iskoristila hibridna arhitektura i izvorno koristio Thread Director . To uključuje ažurirani planer, specifične politike napajanja i finiju integraciju s telemetrijskim podacima iz CPU-a.

Međutim, u sustavu Windows 10, planer nije od temelja dizajniran da razumije P-jezgre i E-jezgre ili da ispravno interpretira znakove Thread Directora . Radi, ali dodjela zadataka je više "slijepa" i stoga performanse i učinkovitost mogu biti znatno niže u usporedbi s istim CPU-om u sustavu Windows 11.

U Linuxu je priča krenula drugačijim putem. U početku, kernel nije u potpunosti iskoristio Intelove hibridne jezgre, što je rezultiralo znatno lošijim performansama nego u Windowsu , posebno pod mješovitim opterećenjima i u virtualizaciji. Tijekom vremena, planer kernela i sučelja s Thread Directorom su usavršeni.

Zahvaljujući najnovijim zakrpama za kernel, Intel je dodao naprednu podršku za Thread Director i radio je na virtualizaciji Thread Directora . To omogućuje gostu, poput virtualnog stroja s Windows 11, da koristi logiku raspoređivanja temeljenu na ITD-u čak i kada se izvodi na Linux hostu.

U testovima s Core i9-13900K procesorom s Windowsima 11 unutar Linux VM-a, u 3DMarku je izmjereno poboljšanje performansi do 14% pravilnim iskorištavanjem alokacije između P-jezgri i E-jezgri virtualnog stroja . Ovo poboljšanje je posebno važno za poslužitelje koji hostiraju cloud gaming ili više virtualnih desktopa.

Direktor teme na jezeru Alder, jezeru Raptor, jezeru Meteor i šire

Thread Director službeno je debitirao s 12. generacijom Intel Core procesora (Alder Lake), koji su prvi put uveli hibridnu arhitekturu na stolna računala . Ovi čipovi kombiniraju visokoučinkovite P-jezgre s učinkovitim E-jezgrama i proizvedeni su korištenjem Intel 7 litografije, nasljeđujući mnoge prethodne tehnologije marke.

U Alder Lake-S, dizajniranom za stolna računala i koji koristi LGA1700 socket, nalazimo do 16 jezgri (8 P-jezgri + 8 E-jezgri) i ukupno 24 niti, podršku za DDR5, unatrag kompatibilnu s DDR4 i PCIe 5.0 linije izravno iz CPU-a . To je nadopunjeno klasičnim Intel Smart Cacheom (dijeljena L3 predmemorija) i reorganiziranim L2 predmemorijom kako bi se prilagodile obje vrste jezgri.

P-jezgre imaju 1,25 MB L2 predmemorije po jezgri, dok su E-jezgre grupirane u klastere od četiri koje dijele 2 MB L2 predmemorije . Iznad toga, postoji do 30 MB L3 predmemorije (LLC) zajedničke svim jezgrama, što pomaže u smanjenju latencije i poboljšanju razmjene podataka između niti različitih tipova.

Platforma također dodaje podršku za PCIe 5.0 (do 16 linija iz CPU-a), više PCIe 4.0 linija iz Z690 čipseta, integrirani WiFi 6E i kompatibilnost s Thunderbolt 4. Iako su PCIe 5.0 GPU-i i SSD-ovi bili rijetki prilikom lansiranja, infrastruktura je već bila na mjestu.

S Raptor Lakeom, Intel je usavršio ovaj pristup, ali prava promjena u Thread Directoru dolazi s Meteor Lakeom: logika evaluacije sada se izvodi na E-jezgrama niske snage prisutnim u SoC Tileu, što je blok s izravnim pristupom RAM-u zahvaljujući integriranom kontroleru memorije . Odatle se svaki proces analizira i donosi se odluka o tome može li se riješiti na tim E-jezgrama ili treba proslijediti na Compute Tile, gdje se nalaze snažnije jezgre.

To znači da, počevši od Meteor Lakea, Thread Director više ne mora stalno orkestrirati izravno između "tri vrste jezgri", jer se mnogi zadaci niske potražnje rješavaju prije dolaska do glavnih P-jezgri . Tek kada se otkrije da radno opterećenje treba više procesorske snage, ono se prenosi na visokoučinkoviti računalni blok.

Integracija s hibridnom arhitekturom Alder Lake-S

Unutar ekosustava stolnih računala, procesori Alder Lake-S savršeno pokazuju što Thread Director može donijeti hibridnom procesoru s vrlo jasnim ciljevima: igranje, stvaranje sadržaja i napredno overclockanje . Intel je redizajnirao cijelu platformu kako bi iskoristio ovu mješavinu jezgri.

Hibridna arhitektura napušta stari monolitni pristup i predlaže model vrlo sličan ARM big.LITTLE, s P-jezgrama dizajniranim za velika opterećenja i E-jezgrama usmjerenim na skalabilnost i učinkovitost multitaskinga . Ova kombinacija omogućuje 19% povećanje IPC-a po jezgri u usporedbi s 11. generacijom, prema Intelovim internim mjerenjima.

U svakodnevnoj upotrebi to znači da prilikom pokretanja igre, P-jezgre upravljaju game engineom, dok E-jezgre obavljaju pozadinske zadatke poput streaminga, Discorda, pregledavanja i sistemskih procesa . Intel je pokazao poboljšanja do 19% u igrama i do 84% u scenarijima "igranje + streaming" u usporedbi s Core i9-11900K.

Ovo ponašanje ovisi o sposobnosti Upravitelja niti da otkrije koje su niti ključne za latenciju igre, a koje su pomoćne niti koje se mogu preusmjeriti na E-jezgre bez negativnog utjecaja na iskustvo . To održava brzinu FPS-a i smanjuje rizik od trzanja kada se istovremeno događa mnogo stvari.

Platforma Alder Lake također je uvela nove mehanizme upravljanja napajanjem, usklađujući PL1 i PL2 kako bi se dulje održale frekvencije pojačanja , što je pogodovalo postojanju E-jezgri koje mogu podnijeti lagana opterećenja bez da P-jezgre budu trajno na toplinskom limitu.

Overclocking, memorija i pripadajući alati

Procesore Alder Lake-S pratilo je ažuriranje alata za podešavanje, počevši s Intel Extreme Tuning Utility (XTU) 7.5, koji dodaje specifičnu kontrolu nad frekvencijama E-Core i punu podršku za DDR5 . Ovo je dodatak telemetriji P-Core i novim opcijama internog upravljanja BCLK-om.

Jedna od glavnih novih značajki za memoriju je XMP 3.0, koji proširuje profile overclockinga na pet po modulu (tri od proizvođača i dva koja može prilagoditi korisnik) . Ovi prilagodljivi profili mogu se imenovati s do 16 znakova, što olakšava brzu identifikaciju korištene postavke.

Nadalje, XMP 3.0 omogućuje ručno podešavanje napona kao što su VDD, VDDQ i ​​VPP , dajući entuzijastima znatnu slobodu da izvuku maksimum iz DDR5 memorije. Iako Thread Director ne utječe izravno na memoriju, cijela platforma je dizajnirana imajući na umu širok raspon zahtjevnih opterećenja.

Dodana je i tehnologija Dynamic Memory Boost , vrsta automatskog "Turba" za RAM koji aktivira XMP profil kada se otkrije opterećenje i vraća se u osnovno stanje kada se potražnja smanji . Ova logika je slična načinu na koji Turbo Boost radi u CPU-ima i pomaže uravnotežiti performanse, potrošnju energije i temperature bez stalne intervencije korisnika.

Svemu tome pridonosi i Z690 čipset, koji nudi punu podršku za overclocking CPU-a i memorije, plus PCIe 4.0 linije i modernu povezivost poput USB 3.2 Gen 2x2 i WiFi 6E (Gig+) . Ideja je da je platforma u cjelini spremna iskoristiti prednosti dinamičkog ponašanja koje Thread Director omogućuje pri dodjeljivanju niti.

Linux, serveri i virtualizacija s Thread Directorom

Izvan kućnog računala, Thread Director postaje posebno relevantan u Linux okruženjima koja pokreću više virtualnih strojeva ili usluge streaminga igara u oblaku . Ovdje se učinkovita alokacija jezgre izravno prevodi u uštedu troškova i poboljšanu kvalitetu usluge.

Intel je nedavno objavio skup zakrpa za Linux kernel koje značajno poboljšavaju integraciju Thread Directora i logiku raspoređivanja za hibridne CPU-e . Ove promjene ne samo da prilagođavaju način distribucije zadataka na hostu, već i uvode koncept virtualizacije Thread Directora.

S ovom virtualizacijom, virtualni stroj (na primjer, Windows 11 kao gost) može primati i koristiti informacije iz Thread Directora čak i dok radi na Linux hostu . Rezultat je da gost može bolje raspodijeliti vlastita opterećenja između virtualiziranih P-jezgri i E-jezgri, približavajući se nativnim performansama.

Objavljeni testovi pokazuju da u scenarijima igranja koji se izvode na Windows 11 VM-u na Linux hostu s Core i9-13900K procesorom , poboljšanja performansi mogu doseći i do 14% u testovima poput 3DMarka. Za pružatelje usluga streaminga u oblaku temeljene na Linuxu, ovaj skok je vrlo značajan.

Važno je napomenuti da su ove optimizacije prvenstveno namijenjene profesionalnim i serverskim okruženjima , gdje Linux ima puno veći tržišni udio od Windows Servera. U kućnom okruženju prosječni korisnik neće primijetiti toliku razliku, iako je uvijek dobra vijest kada kernel poboljša rukovanje hibridnim CPU-ima.

Ograničenja, mitovi i što možemo očekivati

Unatoč svim prednostima, važno je ne previše mitologizirati Thread Director. Prvo, ključno je shvatiti da ne može u potpunosti kompenzirati loše optimiziran operativni sustav ili engine za igre s manjkavim upravljanjem nitima . Ako softver loše raspoređuje opterećenje, CPU može podnijeti samo određenu količinu.

Niti je to magična tehnologija koja jamči da nikada neće biti rijetkih slučajeva u kojima važna nit završi u E-jezgri ili lagani zadatak ostane u P-jezgri dulje nego što je potrebno . Povratna informacija je vrlo brza, ali ne trenutna, i uvijek postoje neobični obrasci opterećenja koji mogu zbuniti planer.

Još jedan uobičajeni mit je da s Thread Directorom, programeri igara i aplikacija mogu potpuno zaboraviti na hibridnu arhitekturu . Iako u većini slučajeva operativni sustav sve rješava prilično dobro, kako bi se iz toga izvuklo maksimum, ipak je dobra ideja dizajnirati mehanizme koji bolje klasificiraju vlastite niti, postavljaju odgovarajuće prioritete i izbjegavaju nekontrolirano preopterećenje.

Gledajući unaprijed na buduće generacije poput Arrow Lakea, sve naznake upućuju na to da će osnovna filozofija Thread Directora ostati, uz poboljšanja telemetrije i integracije operativnog sustava . Iskustvo stečeno s Alderom, Raptorom i Meteor Lakeom pomoći će u daljnjem smanjenju graničnih slučajeva gdje alokacija nije u potpunosti optimalna.

U svakodnevnoj upotrebi, za korisnike koji igraju igre, uređuju videozapise, streamaju ili pokreću virtualne strojeve, najvažnije je razumjeti da su Windows 11 i moderne Linux distribucije s najnovijim zakrpama praktički obavezne ako želite doista izvući maksimum iz Intelovog hibridnog CPU-a . S pravim sustavom, Thread Director postaje tihi saveznik koji pomaže da sve teče glatko i s boljom energetskom učinkovitošću.

Konačno, Intel Thread Director se etablirao kao ključna komponenta u prijelazu na PC procesore s heterogenim jezgrama, omogućujući operativnom sustavu da donosi pametnije odluke o tome gdje će se pokretati svaka nit . Iako sam ne upravlja ničim, njegova kontinuirana analiza performansi i učinkovitosti čini razliku u igranju igara, multitaskingu, stvaranju sadržaja i virtualizaciji, pod uvjetom da je temeljni softver spreman to razumjeti.