Intel Thread Director: come funziona l'intelligenza dei core ibridi

Informatec Digital » Risorse » Intel Thread Director: come funziona l'intelligenza dei core ibridi

Se avete sentito parlare dei nuovi processori ibridi Intel e il termine Thread Director vi suona familiare, ma non siete del tutto sicuri di cosa faccia esattamente , siete nel posto giusto. Questa tecnologia è fondamentale per capire perché Alder Lake, Raptor Lake, Meteor Lake e le generazioni successive offrono prestazioni del genere, soprattutto in ambito gaming, multitasking e macchine virtuali.

Analizziamo più da vicino il funzionamento interno di Intel Thread Director, i problemi che risolve e i suoi limiti . Scoprirete che non si tratta di magia, né di un pulsante turbo nascosto, ma piuttosto di un altro elemento in un sistema complesso in cui il sistema operativo, i core P e i core E svolgono tutti un ruolo significativo.

Cos'è Intel Thread Director e perché esiste?

Con l'arrivo dei processori Core di dodicesima generazione, Intel ha optato per un'architettura ibrida con core P ad alte prestazioni ed E ad alta efficienza . Fino ad allora, nel mondo dei PC desktop, la norma erano i processori con tutti i core dello stesso tipo, mentre questo approccio "big.LITTLE" era tipico dei SoC per dispositivi mobili basati su architettura ARM.

Questo cambiamento ha posto un serio problema: i sistemi operativi desktop non erano in grado di distinguere tra core con potenza ed efficienza diverse nell'allocazione di thread e processi . Lo scheduler vedeva semplicemente "X core" e distribuiva il carico di lavoro senza considerare quale tipo di core fosse più adatto a ciascuna attività.

Per ovviare a questo problema, Intel ha creato quella che commercialmente chiama Intel Thread Director, una tecnologia integrata nella CPU che analizza il comportamento dei processi e suggerisce al sistema operativo dove collocarli. È importante sottolineare che non sostituisce lo scheduler del sistema operativo, bensì è uno strumento altamente specializzato e raffinato.

Contrariamente a quanto molti pensano, Thread Director non è un chip separato o un'unità "magica" all'interno del processore . Si tratta di una logica e di un microcodice che vengono eseguiti sulla CPU stessa, raccogliendo informazioni di telemetria molto dettagliate e rendendole disponibili al sistema operativo tramite interfacce specifiche.

Come funziona Thread Director internamente

Il Thread Director funziona concettualmente come un sistema di esecuzione speculativa controllata che valuta il comportamento dei thread prima di decidere il core ideale . Per fare ciò, utilizza uno dei thread di esecuzione di un P-Core in Alder Lake e Raptor Lake, mentre in Meteor Lake e nelle architetture successive si affida agli E-Core a basso consumo presenti nel Tile SoC.

Questa logica monitora le istruzioni, i modelli di accesso e il costo computazionale dell'esecuzione degli algoritmi . Non si limita a esaminare l'elenco statico delle istruzioni; osserva invece il comportamento reale in un breve periodo per determinare se un carico è leggero, moderato, altamente parallelo, intensivo in termini di memoria e così via.

Questa analisi è codificata in una struttura dati associata al registro IA32_THREAD_FEEDBACK_CHAR, dove sono memorizzate tre tipologie di informazioni chiave relative a ciascun thread : la classe di lavoro, un punteggio di prestazione e un punteggio di efficienza energetica, il tutto in un formato semplice che il sistema operativo può utilizzare rapidamente.

La prima parte consiste in una classificazione del tipo di processo in quattro classi distinte che aiutano il progettista a capire quale tipo di nucleo sia più adatto:

• Classi 0: thread che possono essere eseguiti senza grossi problemi sia su P-Core che su E-Core.
• Classi 1: carichi di lavoro che offrono prestazioni significativamente migliori sui P-Core, grazie alle loro esigenze di prestazioni di picco o alla bassa latenza.
• Classi 2: attività che si consiglia di spostare sugli E-Core perché sono più leggere o beneficiano di un'esecuzione efficiente.
• Classi 3: processi con cicli ad alto costo, attese potenzialmente lunghe o comportamenti che possono danneggiare altri thread se combinati in modo errato, e che pertanto richiedono un trattamento speciale.

Oltre alla classe, viene memorizzato un punteggio di prestazione da 0 a 255 , che riflette le prestazioni di quel thread su uno specifico core . Analogamente, viene incluso un altro punteggio da 0 a 255 per indicare l'efficienza energetica associata all'esecuzione su quel tipo di core nelle condizioni attuali.

Grazie a questi dati di telemetria, il sistema operativo può prendere decisioni più consapevoli su quali thread inviare ai core P e quali deviare ai core E , non solo considerando il tipo di core, ma anche il carico attuale, il numero di attività attive e le priorità della sessione utente.

L'importanza del punteggio e della ripartizione del carico

Nelle moderne CPU multi-core, non è più sufficiente decidere se un'operazione debba essere eseguita su un core P o su un core E: è fondamentale anche determinare su quale core specifico venga eseguito ciascun thread, al fine di evitare colli di bottiglia e sottoutilizzo dei core . È qui che il punteggio di prestazioni ed efficienza fornito da Thread Director assume un ruolo chiave.

Grazie a questa valutazione numerica, lo scheduler del sistema operativo può bilanciare il carico tra i core dello stesso tipo, assegnando prima i thread più impegnativi ai core meno caricati e sfruttando ogni singolo spazio disponibile. L'obiettivo è evitare che i core P siano saturi mentre gli altri sono quasi inattivi, o che i core E siano sottoutilizzati e impegnati in attività inutili.

Un altro vantaggio è che Thread Director aiuta a rilevare rapidamente quando un carico di lavoro è più adatto a uno specifico tipo di core in base al suo set di istruzioni o alle sue caratteristiche . Se, durante la valutazione, si scopre che un thread utilizza istruzioni supportate solo dai core P (ad esempio, alcuni set di istruzioni AVX avanzate), il sistema operativo sa che a questo thread deve essere assegnato un core P.

È rilevante anche in scenari in cui un singolo processo si evolve nel tempo: potrebbe iniziare in modo leggero, passare a una fase computazionalmente intensiva e poi tornare a uno stato più rilassato . Il feedback continuo consente a questi thread di migrare tra P ed E a seconda di ciò che stanno facendo in un dato momento, senza che l'applicazione debba essere a conoscenza dell'architettura ibrida.

In pratica, questo meccanismo mira a garantire che l'utente percepisca un sistema reattivo e fluido, sia che stia eseguendo un gioco impegnativo, aprendo più applicazioni, riproducendo contenuti o lasciando processi in esecuzione in background . L'allocazione dinamica delle risorse impedisce che una semplice attività in background consumi un intero P-Core mentre un E-Core rimane inattivo.

Thread Director non "comanda": è il sistema operativo a decidere.

Il nome potrebbe essere fuorviante, perché "Director" fa pensare che sia responsabile, ma in realtà il Thread Director non prende la decisione finale su dove viene eseguito ciascun thread . La decisione finale spetta ancora allo scheduler del sistema operativo, che utilizza o ignora le informazioni fornite dalla CPU secondo la propria logica.

Questo è particolarmente evidente nelle situazioni quotidiane, ad esempio quando si invia in background un'applicazione che richiede molte risorse, come ad esempio un rendering in Blender, e si continua a utilizzare il computer per altre attività . Windows interpreta questa situazione come una priorità per l'utente, riducendo quindi le risorse allocate al rendering e spostando il carico di lavoro principale sui processori E-Core.

Analogamente, un'applicazione a basso carico in esecuzione nella finestra attiva può finire per utilizzare un P-Core semplicemente per il fatto di essere in primo piano, anche se il suo utilizzo della CPU non è particolarmente elevato. Ciò dimostra che i criteri del sistema operativo (stato in primo piano/in background, priorità del processo, politiche di risparmio energetico) hanno un peso maggiore rispetto al parere del Thread Director.

In breve, Thread Director funge da una sorta di "consulente esperto" per lo scheduler di sistema, ma se il sistema operativo non è in grado di comprenderlo o dà priorità ad altre regole, l'allocazione dei thread non sarà ottimale . Questo spiega le evidenti differenze tra Windows 10, Windows 11 e le varie distribuzioni Linux nel modo in cui sfruttano le CPU ibride.

Dal punto di vista dello sviluppatore di applicazioni, l'aspetto interessante è che nella maggior parte dei casi non è necessario riscrivere il software specificamente per i P-Core e gli E-Core . Finché il sistema operativo supporta Thread Director, la stragrande maggioranza del carico di lavoro viene distribuita in modo abbastanza efficiente senza modifiche al codice, salvo in alcuni scenari molto specifici.

Comportamento nei giochi e nei carichi di lavoro reali: P-Core, E-Core e thread secondari

Uno degli argomenti più complessi riguarda ciò che accade nei giochi moderni che utilizzano molti thread, soprattutto quando il numero di attività supera i P-Core disponibili e gli E-Core vengono utilizzati per i thread secondari . È qui che la teoria incontra la pratica.

L'idea di Intel è che, in uno scenario tipico, i thread di gioco critici (rendering, logica principale, fisica importante) siano gestiti dai P-Core , mentre gli E-Core si occupino dei thread a priorità inferiore, delle attività di sistema e dei processi in background come schede di acquisizione, chat, browser, ecc.

Quando un gioco avvia, ad esempio, un nono o un decimo thread che utilizza solo in modo intermittente tra il 10% e il 30% di un P-Core , il Thread Director può suggerire al sistema operativo di spostarlo su un E-Core. Lo scheduler, sapendo che questo thread non è critico e considerando il punteggio di prestazioni/efficienza, lo invia al core più efficiente senza compromettere l'esperienza di gioco.

È importante capire che un E-Core è meno potente di un P-Core, ma se il carico di lavoro è ridotto, può utilizzare una percentuale maggiore delle risorse dell'E-Core (ad esempio, il 60%) e fornire comunque le prestazioni necessarie senza creare colli di bottiglia . Questo libera i P-Core per ciò che conta davvero e sfrutta al meglio il silicio disponibile.

Nella maggior parte dei giochi ben progettati che girano su Windows 11, la combinazione di uno scheduler compatibile con architetture ibride e di Thread Director garantisce prestazioni stabili in circa il 99% dei casi . Esistono tuttavia alcuni titoli o motori grafici con schemi di thread alquanto insoliti in cui la distribuzione non è perfetta, ma questi rappresentano solitamente un'eccezione.

Relazione con Windows 11, Windows 10 e compatibilità generale

Uno dei punti chiave è che Windows 11 è stato sviluppato in stretta collaborazione tra Microsoft e Intel per sfruttare appieno l'architettura ibrida e utilizzare Thread Director in modo nativo . Ciò include uno scheduler aggiornato, criteri di risparmio energetico specifici e una migliore integrazione con i dati di telemetria della CPU.

In Windows 10, tuttavia, lo scheduler non è stato progettato fin dall'inizio per comprendere i core P e i core E o per interpretare correttamente i segnali del Thread Director . Funziona, ma l'assegnazione dei task è più "cieca" e, di conseguenza, le prestazioni e l'efficienza possono essere significativamente inferiori rispetto alla stessa CPU in Windows 11.

In Linux, la storia ha preso una piega diversa. Inizialmente, il kernel non sfruttava appieno i core ibridi di Intel, con conseguenti prestazioni nettamente inferiori rispetto a Windows , soprattutto in presenza di carichi di lavoro misti e in ambienti virtualizzati. Nel tempo, lo scheduler del kernel e le interfacce con Thread Director sono stati perfezionati.

Grazie alle ultime patch del kernel, Intel ha aggiunto un supporto avanzato per Thread Director e ha anche lavorato sulla virtualizzazione di Thread Director . Ciò consente a una macchina virtuale guest, come ad esempio una macchina virtuale Windows 11, di beneficiare della logica di pianificazione basata su ITD anche quando è in esecuzione su un host Linux.

Nei test effettuati con un Core i9-13900K su Windows 11 all'interno di una macchina virtuale Linux, è stato misurato un miglioramento delle prestazioni fino al 14% in 3DMark, sfruttando correttamente l'allocazione tra core P ed E della macchina virtuale . Questo vantaggio è particolarmente rilevante per i server che ospitano servizi di cloud gaming o più desktop virtuali.

Direttore del thread ad Alder Lake, Raptor Lake, Meteor Lake e oltre

Thread Director ha debuttato ufficialmente con i processori Intel Core di dodicesima generazione (Alder Lake), che hanno introdotto per la prima volta l'architettura ibrida nei desktop . Questi chip combinano core P ad alte prestazioni con core E efficienti e sono prodotti utilizzando la litografia Intel 7, ereditando molte delle tecnologie precedenti del marchio.

Nei processori Alder Lake-S, progettati per desktop e basati sul socket LGA1700, troviamo fino a 16 core (8 core P + 8 core E) e 24 thread in totale, supporto per DDR5, retrocompatibilità con DDR4 e linee PCIe 5.0 direttamente dalla CPU . Il tutto è completato dalla classica Intel Smart Cache (cache L3 condivisa) e da una cache L2 riorganizzata per ospitare entrambi i tipi di core.

I core P dispongono di 1,25 MB di cache L2 per core, mentre i core E sono raggruppati in cluster di quattro che condividono 2 MB di cache L2 . Oltre a ciò, sono presenti fino a 30 MB di cache L3 (LLC) comune a tutti i core, che contribuisce a ridurre la latenza e a migliorare lo scambio di dati tra thread di diverso tipo.

La piattaforma aggiunge anche il supporto per PCIe 5.0 (fino a 16 linee dalla CPU), più linee PCIe 4.0 dal chipset Z690, Wi-Fi 6E integrato e compatibilità con Thunderbolt 4. Sebbene le GPU e gli SSD PCIe 5.0 fossero rari al momento del lancio, l'infrastruttura era già presente.

Con Raptor Lake, Intel ha perfezionato questo approccio, ma il vero cambiamento in Thread Director arriva con Meteor Lake: la logica di valutazione ora viene eseguita sugli E-Core a basso consumo presenti nel SoC Tile, ovvero il blocco con accesso diretto alla RAM grazie al controller di memoria integrato . Da lì, ogni processo viene analizzato e si decide se può essere risolto su questi E-Core o se deve essere passato al Compute Tile, dove risiedono i core più potenti.

Questo significa che, a partire da Meteor Lake, Thread Director non deve più orchestrare costantemente e direttamente tra "tre tipi di core", poiché molte attività a basso carico vengono risolte prima di raggiungere i core P principali . Solo quando viene rilevato che un carico di lavoro necessita di maggiore potenza di elaborazione, viene trasferito al blocco di calcolo ad alte prestazioni.

Integrazione con l'architettura ibrida Alder Lake-S

Nell'ecosistema desktop, i processori Alder Lake-S dimostrano perfettamente cosa Thread Director può offrire a un processore ibrido con obiettivi ben precisi: gaming, creazione di contenuti e overclocking avanzato . Intel ha riprogettato l'intera piattaforma per sfruttare al meglio questa combinazione di core.

L'architettura ibrida abbandona il vecchio approccio monolitico e propone un modello molto simile ad ARM big.LITTLE, con i P-Core progettati per carichi di lavoro pesanti ed E-Core focalizzati sulla scalabilità e sull'efficienza del multitasking . Questa combinazione consente un aumento del 19% dell'IPC per core rispetto all'undicesima generazione, secondo le misurazioni interne di Intel.

Nell'uso quotidiano, questo significa che durante l'esecuzione di un gioco, i P-Core gestiscono il motore di gioco, mentre gli E-Core si occupano delle attività in background come lo streaming, Discord, la navigazione e i processi di sistema . Intel ha dimostrato miglioramenti fino al 19% nei giochi e fino all'84% negli scenari "gaming + streaming" rispetto a un Core i9-11900K.

Questo comportamento si basa sulla capacità di Thread Director di rilevare quali thread sono critici per la latenza del gioco e quali sono thread ausiliari che possono essere reindirizzati agli E-Core senza influire negativamente sull'esperienza . Ciò mantiene costante il frame rate e riduce il rischio di scatti quando molte operazioni si svolgono simultaneamente.

La piattaforma Alder Lake ha inoltre introdotto nuovi meccanismi di gestione dell'alimentazione, abbinando PL1 e PL2 per mantenere le frequenze di boost più a lungo , un aspetto favorito dalla presenza di E-Core in grado di gestire carichi leggeri senza che i P-Core raggiungano permanentemente il limite termico.

Overclocking, memoria e strumenti correlati

I processori Alder Lake-S sono stati accompagnati da un aggiornamento degli strumenti di ottimizzazione, a partire da Intel Extreme Tuning Utility (XTU) 7.5, che aggiunge il controllo specifico sulle frequenze degli E-Core e il supporto completo per DDR5 . A ciò si aggiungono la telemetria dei P-Core e nuove opzioni interne per la gestione del BCLK.

Una delle principali novità per la memoria è XMP 3.0, che espande i profili di overclock a cinque per modulo (tre predefiniti dal produttore e due personalizzabili dall'utente) . Questi profili personalizzabili possono essere denominati con un massimo di 16 caratteri, facilitando l'identificazione rapida dell'impostazione in uso.

Inoltre, XMP 3.0 consente la regolazione manuale di tensioni come VDD, VDDQ e VPP , offrendo agli appassionati un notevole margine di manovra per ottenere il massimo dalla memoria DDR5. Sebbene Thread Director non influisca direttamente sulla memoria, l'intera piattaforma è progettata pensando a un'ampia varietà di carichi di lavoro impegnativi.

È stata inoltre aggiunta la tecnologia Dynamic Memory Boost , una sorta di "Turbo" automatico per la RAM che attiva il profilo XMP quando viene rilevato un carico e ritorna allo stato base quando la richiesta diminuisce . Questa logica è simile al funzionamento del Turbo Boost nelle CPU e contribuisce a bilanciare prestazioni, consumo energetico e temperature senza un costante intervento da parte dell'utente.

Il tutto è completato dal chipset Z690, che offre il pieno supporto per l'overclocking di CPU e memoria, oltre a linee PCIe 4.0 e connettività moderna come USB 3.2 Gen 2x2 e Wi-Fi 6E (Gig+) . L'idea è che l'intera piattaforma sia pronta a sfruttare il comportamento dinamico facilitato da Thread Director nell'allocazione dei thread.

Linux, server e virtualizzazione con Thread Director

Al di fuori dell'ambiente desktop domestico, Thread Director sta diventando particolarmente rilevante negli ambienti Linux che eseguono più macchine virtuali o servizi di streaming di giochi basati su cloud . In questi contesti, un'allocazione efficiente dei core si traduce direttamente in risparmi sui costi e in una migliore qualità del servizio.

Intel ha recentemente rilasciato una serie di patch per il kernel Linux che migliorano significativamente l'integrazione di Thread Director e la logica di pianificazione per le CPU ibride . Queste modifiche non solo regolano la distribuzione dei task sull'host, ma introducono anche il concetto di virtualizzazione di Thread Director.

Grazie a questa virtualizzazione, una macchina virtuale (ad esempio, Windows 11 come sistema operativo guest) può ricevere e utilizzare informazioni da Thread Director anche mentre è in esecuzione su un host Linux . Il risultato è che il sistema guest può distribuire meglio i propri carichi di lavoro tra i core P e E virtualizzati, avvicinandosi maggiormente alle prestazioni native.

I test pubblicati dimostrano che, negli scenari di gioco eseguiti su una macchina virtuale Windows 11 su un host Linux con un processore Core i9-13900K , i miglioramenti delle prestazioni possono raggiungere fino al 14% in benchmark come 3DMark. Per i fornitori di servizi di cloud streaming basati su Linux, questo incremento è molto significativo.

È importante notare che queste ottimizzazioni sono destinate principalmente ad ambienti professionali e server , dove Linux ha una quota di mercato molto maggiore rispetto a Windows Server. In ambito domestico, l'utente medio non noterà una grande differenza, sebbene sia sempre una buona notizia quando il kernel migliora la gestione delle CPU ibride.

Limiti, miti e cosa possiamo aspettarci

Nonostante tutti i suoi vantaggi, è importante non idealizzare eccessivamente Thread Director. Innanzitutto, è fondamentale comprendere che non può compensare completamente un sistema operativo mal ottimizzato o un motore di gioco con una gestione dei thread carente . Se il carico di lavoro è distribuito male dal software, la CPU può gestirne solo una quantità limitata.

Non si tratta nemmeno di una tecnologia magica che garantisce che non si verificheranno mai rari casi in cui un thread importante finisca su un E-Core o un'attività leggera rimanga su un P-Core più a lungo del necessario . Il feedback è molto rapido, ma non istantaneo, e ci sono sempre schemi di carico insoliti che possono confondere lo scheduler.

Un altro mito diffuso è che, con Thread Director, gli sviluppatori di giochi e applicazioni possano dimenticarsi completamente dell'architettura ibrida . Sebbene nella maggior parte dei casi il sistema operativo gestisca tutto in modo abbastanza efficiente, per sfruttarlo al meglio è comunque consigliabile progettare motori che classifichino meglio i propri thread, impostino priorità appropriate ed evitino sovraccarichi incontrollati.

Guardando alle generazioni future come Arrow Lake, tutto lascia intendere che la filosofia di base di Thread Director rimarrà invariata, con miglioramenti alla telemetria e all'integrazione con il sistema operativo . L'esperienza acquisita con Alder, Raptor e Meteor Lake contribuirà a ridurre ulteriormente i casi limite in cui l'allocazione non è del tutto ottimale.

Nell'uso quotidiano, per gli utenti che giocano, modificano video, trasmettono in streaming o utilizzano macchine virtuali, la cosa più importante da capire è che Windows 11 e le distribuzioni Linux moderne con le patch più recenti sono praticamente obbligatorie se si vuole davvero ottenere il massimo da una CPU ibrida Intel . Con il sistema giusto, Thread Director diventa un alleato silenzioso che contribuisce a far funzionare tutto in modo più fluido ed efficiente dal punto di vista energetico.

In definitiva, Intel Thread Director si è affermato come componente chiave nella transizione ai processori per PC con core eterogenei, consentendo al sistema operativo di prendere decisioni più intelligenti su dove eseguire ciascun thread . Sebbene non gestisca nulla autonomamente, la sua analisi continua di prestazioni ed efficienza fa la differenza in ambito gaming, multitasking, creazione di contenuti e virtualizzazione, a condizione che il software sottostante sia predisposto per interpretarla.