Intel Thread Director: Kako funkcionira hibridna jezgrena inteligencija

Informatec Digital » Sredstva » Intel Thread Director: Kako funkcionira hibridna jezgrena inteligencija

Ako ste čuli za Intelove nove hibridne procesore i to vam zvuči poznato... Direktor teme, ali ne znaš baš što zapravo radiNa pravom ste mjestu. Ova je tehnologija ključna za razumijevanje zašto Alder Lake, Raptor Lake, Meteor Lake i sljedeće generacije rade onako kako rade, posebno u igrama, multitaskingu i virtualnim strojevima.

Hajdemo mirno razložiti kako to funkcionira Intel Thread Director unutra: koji problem rješava i koja ograničenja imaVidjet ćete da to nije magija, niti skriveni turbo gumb, već samo još jedan dio u stroju gdje operativni sustav, P jezgre i E jezgre igraju značajnu ulogu.

Što je Intel Thread Director i zašto postoji?

Dolazak 12. generacije Core procesora značio je da se Intel kladio na... hibridna arhitektura jezgre s visokoučinkovitim P-jezgrama i visokoučinkovitim E-jezgramaDo tada su u svijetu stolnih računala procesori sa svim istim jezgrama bili norma, dok je ovaj pristup "veliko.MALO" bio tipičan za mobilne SoC-ove temeljene na ARM arhitektura.

Ova promjena predstavljala je ozbiljan problem: operativni sustavi za stolna računala nisu bili pripremljeni za razlikovati jezgre različite snage i učinkovitosti prilikom dodjeljivanja niti i procesaRaspoređivač je jednostavno vidio "X jezgri" i distribuirao posao bez razmatranja koja je vrsta jezgre najbolja za svaki zadatak.

Kako bi riješio ovaj problem, Intel je stvorio ono što je komercijalno nazvao Intel Thread Director, tehnologija integrirana u CPU koja analizira ponašanje procesa i savjetuje operativni sustav u vezi s time gdje ih smjestiti. Važno je naglasiti da to nije zamjena za planer operacijskog sustava, već vrlo fin i specijalizirani alat za podršku.

Suprotno onome što mnogi misle, Thread Director nije zaseban čip ili "čarobna jedinica" unutar procesora.To uključuje logiku i mikrokod koji se izvršavaju na samom CPU-u, prikupljajući vrlo detaljne telemetrijske informacije i izlažući ih operativnom sustavu putem specifičnih sučelja.

Kako Thread Director interno funkcionira

Rad Thread Directora konceptualno je sličan Kontrolirano spekulativno izvršavanje koje procjenjuje ponašanje niti prije odlučivanja o idealnoj jezgriDa bi to učinio, koristi jednu od izvršnih niti P-jezgre u Alder Lakeu i Raptor Lakeu, dok se u Meteor Lakeu i kasnije oslanja na E-jezgre niske snage unutar Tile SoC-a.

Ono što ova logika radi je pratiti instrukcije, obrasce pristupa i računalne troškove algoritama koji se izvodeNe gleda samo na statički popis instrukcija, već promatra stvarno ponašanje tijekom kratkog vremenskog razdoblja kako bi razumio je li opterećenje lagano, umjereno, vrlo paralelno, memorijski intenzivno itd.

Ta je analiza kodirana u strukturi podataka povezanoj sa zapisom IA32_THREAD_FEEDBACK_CHAR, gdje su pohranjene tri vrste ključnih informacija o svakoj niti.vrsta posla, a rezultat izvedbe i ocjenu energetske učinkovitosti, sve u jednostavnom formatu kako bi je operativni sustav mogao brzo koristiti.

Prvi dio je klasifikacija tipova procesa u četiri različite klase koji pomažu planeru da shvati koja je vrsta jezgre najprikladnija:

• Klasa 0: niti koje se mogu izvršavati bez većih problema i na P-jezgrama i na E-jezgrama.
• Klasa 1: opterećenja koja znatno bolje rade na P-jezgrama, zbog svojih vršnih zahtjeva za performansama ili niske latencije.
• Klasa 2: zadaci koji se preporučuju za premještanje u E-Core, jer su lakši ili imaju koristi od učinkovitijeg izvršenja.
• Klasa 3: procesi s petljama visokih troškova, potencijalno dugim čekanjima ili ponašanjima koja mogu naštetiti drugim nitima ako se nepravilno miješaju te stoga zahtijevaju poseban tretman.

Osim razreda, a Rezultat performansi od 0 do 255 koji odražava koliko dobro ta nit radi na određenoj jezgriSlično tome, uključen je još jedan rezultat od 0 do 255 koji označava energetsku učinkovitost povezanu s radom na toj vrsti jezgre u trenutnim uvjetima.

Pomoću te telemetrije, operativni sustav može donositi informiranije odluke o tome koje niti poslati P-jezgrama, a koje usmjeriti E-jezgramane gledajući samo vrstu kernela, već i trenutno opterećenje, broj aktivnih zadataka i prioritete korisničkih sesija.

Važnost bodovanja i raspodjele opterećenja

U modernim višejezgrenim CPU-ima više nije dovoljno odlučiti hoće li nešto ići na P-jezgru ili E-jezgru: Također je važno kojoj specifičnoj jezgri pripada svaka nit kako bi se izbjegla uska grla i nedovoljno iskorištene jezgre.Ovdje ključnu ulogu igra ocjena performansi i učinkovitosti koju pruža Thread Director.

Zahvaljujući toj numeričkoj evaluaciji, planer operacijskog sustava može Uravnotežite opterećenje između jezgri iste vrste, prvo dodijelivši najteže niti najmanje opterećenim jezgrama. i maksimalno iskorištavanje svakog dostupnog prostora. Ideja je izbjeći zasićenje P-jezgri dok su druge gotovo neaktivne ili nedovoljno iskorištene E-jezgre koje obavljaju besmislene zadatke.

Još jedna prednost je što Thread Director Pomaže u brzom otkrivanju kada je radno opterećenje najprikladnije za određenu vrstu jezgre na temelju njenog skupa instrukcija ili karakteristika.Ako se tijekom evaluacije vidi da nit koristi instrukcije koje podržavaju samo P-jezgre (na primjer, određeni napredni AVX skupovi), operativni sustav jasno razumije da ta nit mora ići na P-jezgru.

Također je relevantno u scenarijima gdje isti proces S vremenom se razvija: može započeti lagano, prijeći u fazu intenzivnog računanja, a zatim se vratiti u opuštenije stanje.Kontinuirana povratna informacija omogućuje tim nitima migraciju između P i E ovisno o tome što rade u bilo kojem trenutku, bez potrebe da aplikacija bude svjesna hibridne arhitekture.

U praksi, ovaj mehanizam ima za cilj navesti korisnika da percipira da sustav Reagira glatko bez obzira pokrećete li zahtjevnu igru, otvarate li više aplikacija, reproducirate li sadržaj ili ostavljate procese koji se izvode u pozadini.Dinamička distribucija sprječava da jednostavan pozadinski zadatak potroši cijelu P-jezgru dok E-jezgra miruje.

Upravitelj niti ne "zapovijeda": operacijski sustav odlučuje.

Naziv tvrtke može zavarati jer "Direktor" zvuči kao da je on glavni, ali stvarnost je takva Direktor niti ne donosi konačnu odluku o tome gdje se svaka nit izvodi.Raspoređivač operacijskog sustava i dalje ima zadnju riječ, koristeći ili ignorirajući informacije koje pruža CPU prema vlastitoj logici.

To je vrlo primjetno u svakodnevnim situacijama, kao što je npr. Šaljete aplikaciju koja intenzivno koristi resurse u pozadinu, na primjer renderiranje u Blenderu, i nastavljate koristiti računalo za druge zadatke.Windows interpretira da ono što je u prvom planu ima prioritet za korisnika, pa smanjuje resurse dodijeljene za renderiranje i može premjestiti svoje glavno opterećenje na E-jezgre.

Slično tome, aplikacija s niskim zahtjevima koja se izvršava u aktivnom prozoru može na kraju koristiti P-jezgru jednostavno time što je u fokusu, čak i ako korištenje CPU-a nije osobito visoko. To ilustrira da... Kriteriji operativnog sustava (stanje u prvom planu/pozadini, prioritet procesa, politike napajanja) imaju veću težinu od mišljenja direktora niti..

Ukratko, Thread Director pruža svojevrsni "stručni savjetnik" sistemskom raspoređivaču, ali Ako operativni sustav nije spreman to razumjeti ili odluči dati prioritet drugim pravilima, alokacija niti neće biti optimalna.Zato postoje jasne razlike između Windowsa 10, Windowsa 11 i raznih verzija Linuxa kada je u pitanju korištenje hibridnih CPU-a.

Iz perspektive programera aplikacije, zanimljivo je to što Nema potrebe za prepisivanjem softvera posebno za P-Core i E-Core U većini slučajeva, sve dok operativni sustav podržava Thread Director, većina radnog opterećenja se raspoređuje prilično razumno bez promjena koda, osim u nekoliko vrlo specifičnih scenarija.

Ponašanje u igrama i stvarnim opterećenjima: P-jezgre, E-jezgre i sekundarne niti

Jedno od najzbunjujućih pitanja je što se događa u modernim igrama koje koriste mnogo niti, posebno kada Broj zadataka premašuje dostupne P-jezgre, a E-jezgre se počinju koristiti za sekundarne niti.Ovdje se teorija susreće s praksom u stvarnom svijetu.

Intelova ideja je da, u tipičnom scenariju, kritične niti igre (renderiranje, glavna logika, važna fizika) padaju na P-jezgredok E-Coreovi obrađuju niti nižeg prioriteta, sistemske zadatke i pozadinske procese poput kartica za snimanje, chatova, preglednika itd.

Kada se igra pokrene, na primjer, deveta ili deseta nit koja koristi samo između 10% i 30% P-jezgre povremenoDirektor niti može predložiti operativnom sustavu da premjesti nit u E-jezgru. Raspoređivač, znajući da ta nit nije kritična i uzimajući u obzir ocjenu performansi/učinkovitosti, šalje je učinkovitoj jezgri bez utjecaja na iskustvo igranja.

Treba napomenuti da je E-Core skromniji od P-Corea, ali ako je radno opterećenje malo, Može zauzeti veći postotak E-Corea (na primjer, 60%) i dalje pružati potrebne performanse bez stvaranja uskih grla.Na taj način se P-jezgre oslobađaju za ono što je zaista važno, a dostupni silicij se bolje "iskorišten".

U većini dobro osmišljenih igara koje se pokreću na Windowsima 11, kombinacija Hibridni planer plus Thread Director nudi stabilno ponašanje u oko 99% slučajeva.Međutim, postoje neki naslovi ili enginei s pomalo neobičnim uzorcima niti gdje distribucija nije tako savršena, ali oni su obično iznimka.

Odnos s Windowsom 11, Windowsom 10 i opća kompatibilnost

Jedna od ključnih točaka je da Windows 11 razvijen je u izravnoj suradnji Microsofta i Intela kako bi se u potpunosti iskoristila hibridna arhitektura i izvorno koristio Thread Director.To uključuje ažurirani planer, specifične politike napajanja i finiju integraciju s telemetrijom koja dolazi iz CPU-a.

Međutim, u sustavu Windows 10, planer Nije dizajniran od nule da razumije P-jezgre i E-jezgre ili da ispravno interpretira znakove Thread Directora.Radi, ali dodjela zadataka je više "slijepa" i stoga performanse i učinkovitost mogu biti znatno niže u usporedbi s istim CPU-om u Windowsima 11.

U Linuxu je priča krenula drugačijim putem. U početku, Jezgra nije u potpunosti iskoristila Intelove hibridne jezgre, što je rezultiralo znatno lošijim performansama nego u Windowsima.posebno pod mješovitim opterećenjima i virtualizacijom. Tijekom vremena, planer kernela i sučelja s Thread Directorom su usavršeni.

Zahvaljujući najnovijim zakrpama za kernel, Intel je dodao napredna podrška za Thread Director i, osim toga, radio je na virtualizaciji ove tehnologije za virtualne strojeve (Thread Director Virtualization)To omogućuje gostu, poput virtualnog stroja s Windows 11, da koristi prednosti programske logike temeljene na ITD-u čak i kada se izvodi na Linux hostu.

U testovima s Core i9-13900K procesorom na kojem je pokrenut Windows 11 unutar Linux virtualnog stroja, izmjereno je Poboljšanje performansi do 14% u 3DMarku pravilnim iskorištavanjem alokacije između P-jezgri i E-jezgri iz virtualnog strojaOva prednost je posebno zanimljiva za poslužitelje koji nude igranje u oblaku ili više virtualnih radnih površina.

Direktor teme na jezeru Alder, jezeru Raptor, jezeru Meteor i šire

Thread Director je službeno debitirao s 12. generacija Intel Core procesora (Alder Lake), koji su prvi predstavili hibridnu arhitekturu stolnih računalaOvi čipovi kombiniraju visokoučinkovite P-jezgre s učinkovitim E-jezgrama i proizvedeni su korištenjem Intel 7 litografije, nasljeđujući mnoge prethodne tehnologije marke.

U Alder Lake-S, dizajniranom za stolna računala i LGA1700 socket, nalazimo Do 16 jezgri (8 P-jezgri + 8 E-jezgri) i ukupno 24 niti, podrška za DDR5, unatrag kompatibilna s DDR4 i PCIe 5.0 linije izravno iz CPU-aOsim ovoga, tu je i klasični Intel pametna predmemorija (dijeljena L3) i reorganizirana L2 predmemorija za smještaj dviju vrsta jezgri.

Značajka P-jezgri 1,25 MB L2 predmemorije po jezgri, dok su E-jezgre grupirane u klastere od četiri koje dijele 2 MB L2Iznad toga, postoji do 30 MB L3 predmemorije (LLC) zajedničke svim jezgrama, što pomaže u smanjenju latencije i poboljšanju razmjene podataka između niti različitih tipova.

Platforma također dodaje Podrška za PCIe 5.0 (do 16 linija iz CPU-a), plus PCIe 4.0 linije iz Z690 čipseta, integrirani WiFi 6E i kompatibilnost s Thunderbolt 4Iako u vrijeme lansiranja gotovo da nije bilo PCIe 5.0 GPU-a i SSD-ova, infrastruktura je već bila na mjestu.

S Raptor Lakeom, Intel je usavršio ovaj pristup, ali prava promjena u Thread Directoru dolazi s Meteor Lakeom: Logika evaluacije se zatim izvršava na E-jezgrama niske snage prisutnim u Tile SoC-u, što je blok s izravnim pristupom RAM-u zahvaljujući integriranom kontroleru memorije.Nakon toga se svaki proces analizira i donosi se odluka o tome može li se riješiti u tim E-jezgrama ili ga treba uputiti na Compute Tile, gdje se nalaze najmoćnije jezgre.

To znači da, počevši od Meteorskog jezera, Direktor niti više ne mora stalno orkestrirati izravno između „tri vrste jezgri“, jer se mnogi zadaci niske potražnje rješavaju prije nego što dođu do glavnih P-jezgri.Tek kada se otkrije da opterećenju treba više procesorske snage, ono se premješta u blok za visokoučinkovito računanje.

Integracija s hibridnom arhitekturom Alder Lake-S

Unutar ekosustava stolnih računala, Alder Lake-S predstavlja savršen primjer onoga što Thread Director može doprinijeti hibridnom procesoru s vrlo jasnim ciljevima: igranje, stvaranje sadržaja i napredno overclockanje.Intel je redizajnirao cijelu platformu kako bi iskoristio ovu mješavinu jezgri.

Hibridna arhitektura napušta stari monolitni pristup i predlaže model vrlo sličan ARM big.LITTLE, s P-jezgrama dizajniranim za velika opterećenja i E-jezgrama usmjerenim na skalabilnost i učinkovitost multitaskingaOva kombinacija omogućuje povećanje IPC-a po jezgri od 19% u usporedbi s 11. generacijom, prema Intelovim internim mjerenjima.

U svakodnevnom smislu, to znači da prilikom pokretanja igre, P-jezgre upravljaju engineom igre, dok se E-jezgre brinu o pozadinskim zadacima poput streaminga, Discorda, pregledavanja ili sistemskih procesa.Intel je pokazao poboljšanja do 19% u igrama i do 84% u scenarijima "igranje + streaming" u usporedbi s Core i9-11900K.

Ovo ponašanje ovisi o sposobnosti Upravitelja niti da Otkrijte koje su niti ključne za latenciju igre, a koje su dodaci koji se mogu preusmjeriti na E-jezgre bez narušavanja iskustva.To održava brzinu FPS-a i smanjuje rizik od trzanja kada se više stvari događa odjednom.

Također je predstavljena platforma Alder Lake Novi mehanizmi upravljanja napajanjem, usklađivanjem PL1 i PL2 za dulje održavanje pojačanih frekvencijaTo je omogućeno postojanjem E-jezgri koje mogu podnijeti lagana opterećenja bez da P-jezgre budu trajno na svojoj toplinskoj granici.

Overclocking, memorija i pripadajući alati

Modeli Alder Lake-S došli su s obnovljenim alatima za podešavanje, počevši s Intel Extreme Tuning Utility (XTU) 7.5, koji dodaje specifičnu kontrolu nad frekvencijama E-Core i punu podršku za DDR5Ovo je dodatak telemetriji P-Cores i novim internim opcijama upravljanja BCLK-om.

Jedan od glavnih novih dostignuća u području pamćenja je XMP 3.0, koji proširuje profile overklokiranja na do pet po modulu (tri od proizvođača i dva koja korisnik može prilagoditi)Ovi prilagodljivi profili mogu se imenovati s do 16 znakova, što olakšava brzo prepoznavanje korištene postavke.

Osim toga, XMP 3.0 omogućuje Ručno podesite napone kao što su VDD, VDDQ i ​​VPPdajući entuzijastima puno prostora za manevriranje i maksimalno iskorištavanje DDR5. Iako Thread Director ne utječe izravno na memoriju, cijela platforma je dizajnirana imajući na umu širok raspon zahtjevnih opterećenja.

Također je dodano Tehnologija dinamičkog pojačanja memorije, vrsta automatskog "Turba" za RAM koji aktivira XMP profil kada se otkrije opterećenje i vraća se u osnovno stanje kada se potražnja smanjiOva logika podsjeća na način na koji Turbo Boost radi u CPU-ima i pomaže uravnotežiti performanse, potrošnju energije i temperature bez stalne intervencije korisnika.

Svemu tome dodaje se Z690 čipset, koji Nudi punu podršku za overclocking CPU-a i memorije, plus PCIe 4.0 linije i modernu povezivost poput USB 3.2 Gen 2x2 i WiFi 6E (Gig+)Ideja je da je platforma u cjelini spremna iskoristiti dinamičko ponašanje koje Thread Director omogućuje pri dodjeljivanju niti.

Linux, serveri i virtualizacija s Thread Directorom

Izvan kućne radne površine, Thread Director počinje postajati posebno relevantan u Linux okruženja u kojima se izvodi više virtualnih strojeva ili usluga streaminga igara u oblakuOvdje se učinkovitost u alokaciji jezgre izravno prevodi u troškove i kvalitetu usluge.

Intel je nedavno lansirao Skup zakrpa za Linux kernel koje značajno poboljšavaju integraciju Thread Directora i logiku raspoređivanja za hibridne CPU-ove.Ove promjene ne samo da prilagođavaju način distribucije zadataka na hostu, već i uvode koncept virtualizacije direktora niti.

S ovom virtualizacijom, virtualni stroj (na primjer, Windows 11 kao gost) može Primajte i koristite informacije iz Thread Directora čak i kada radite na Linux hostu.Rezultat je da gost može bolje raspodijeliti vlastita opterećenja između virtualiziranih P-jezgri i E-jezgri, približavajući se nativnim performansama.

Objavljeni dokazi pokazuju da, u scenarijima Igre koje se izvode na Windows 11 VM-u na Linux hostu s Core i9-13900K procesoromPoboljšanje performansi može doseći 14% u testovima poput 3DMarka. Za pružatelje usluga streaminga u oblaku temeljene na Linuxu, ovaj skok je vrlo značajan.

Važno je napomenuti da Ove optimizacije su prvenstveno namijenjene profesionalnim i serverskim okruženjima.Linux ima vrlo visok tržišni udio u usporedbi s Windows Serverom. U kućnom okruženju prosječni korisnik neće primijetiti veliku razliku, iako je uvijek dobra vijest kada kernel poboljša rukovanje hibridnim CPU-ima.

Ograničenja, mitovi i što možemo očekivati

Unatoč svim prednostima, najbolje je ne previše mitologizirati Thread Director. Prvo što treba shvatiti jest da Ne može u potpunosti kompenzirati loše optimiziran operativni sustav ili game engine s lošim upravljanjem nitima.Ako je opterećenje loše raspoređeno iz softvera, CPU može učiniti samo toliko.

Niti je to magična tehnologija koja jamči da Nikada neće biti rijetkih slučajeva u kojima važna nit završi u E-Coreu ili lagani zadatak ostane u P-Coreu dulje nego što je potrebno.Povratne informacije su vrlo brze, ali ne i trenutne, i uvijek postoje neobični obrasci učitavanja koji mogu zbuniti planera.

Još jedan uobičajeni mit je da s Thread Directorom, Razvojni programeri igara i aplikacija mogu potpuno zaboraviti na hibridnu arhitekturuIako u većini slučajeva operativni sustav sve rješava razumno dobro, kako bi se iz toga izvuklo maksimum, ipak je dobra ideja dizajnirati mehanizme koji bolje klasificiraju vlastite niti, postavljaju odgovarajuće prioritete i izbjegavaju nekontrolirano zasićenje.

Gledajući unaprijed na buduće generacije poput Arrow Lakea, sve ukazuje na to Osnovna filozofija Thread Directora ostat će ista, uz poboljšanja telemetrije i integracije s operativnim sustavima.Iskustvo stečeno u projektima Alder, Raptor i Meteor Lake pomoći će u daljnjem smanjenju graničnih slučajeva gdje raspodjela nije u potpunosti optimalna.

U svakodnevnoj upotrebi, za korisnika koji igra igre, uređuje video, streama ili pokreće virtualne strojeve, najvažnije je da bude jasno da Windows 11 i moderne verzije Linuxa s najnovijim zakrpama gotovo su obavezne ako zaista želite maksimalno iskoristiti Intelov hibridni CPU.S pravim sustavom, Thread Director postaje tihi saveznik koji pomaže da sve teče glatko i s boljom energetskom učinkovitošću.

Na kraju se Intel Thread Director etablirao kao ključni dio u prijelazu na PC procesore s heterogenim jezgrama, omogućujući operativnom sustavu da donosi pametnije odluke o tome gdje će se pokretati svaka nitIako ne pokreće ništa samostalno, njegova kontinuirana analiza performansi i učinkovitosti čini razliku u igranju igara, multitaskingu, stvaranju sadržaja i virtualizaciji, pod uvjetom da je temeljni softver spreman to razumjeti.