Optimizacija i performanse predmemorije procesora u sustavu Windows

Informatec Digital » Sredstva » Optimizacija i performanse predmemorije procesora u sustavu Windows

La Optimizacija predmemorije procesora To je jedna od onih tema koja razlikuje kod koji "radi" od koda koji "leti". Kada razumijemo kako je memorija organizirana, koja vremena pristupa svaka razina obrađuje i kako se hardver ponaša, možemo postići ogromna poboljšanja performansi bez promjene strojeva.

U međuvremenu, značajan broj korisnika Windowsa pati od prozaičnijeg problema: njihova računala su spora. I često korijen problema leži upravo tamo, u neučinkovitom korištenju memorije, predmemorije i samog CPU-a. Kombinacijom dobar dizajn niske razine (strukture podataka, obrasci pristupa memoriji) i praktične postavke u sustavu Windows (čišćenje, ažuriranje, načini rada napajanja itd.), mogu se postići vrlo uočljiva poboljšanja, od malih povećanja od 5% do skokova od 30-40% u određenim scenarijima.

Hijerarhija memorije i latencije: zašto predmemorija ima pravila

Prije nego što počnemo podešavati kod ili konfigurirati Windows, moramo jasno razumjeti jednu stvar: nije sva memorija jednaka. Razlika između pristupa L1, L2, L3 predmemoriji, RAM-u ili disku je ogromna i mnoge optimizacije predmemorije doslovno se temelje na tome. izbjegavajte usporavanje razina sve moguće.

U modernom procesoru, tipična vremena pristupa (reda veličine) su otprilike sljedeća: pristup do L1 predmemorija To je oko pola nanosekunde, neuspjeh u predviđanju skoka traje nekoliko nanosekundi, L2 To je oko 7 ns, dok dosezanje glavne memorije može premašiti 100 ns. Ako se pomaknemo izvan uređaja (mreža, SSD, mehanički tvrdi disk), brojke naglo rastu do stotine tisuća ili milijuna nanosekundi.

Ova velika razlika čini pravilnu organizaciju podataka, smanjenje propusta predmemorije i dizajniranje sekvencijalnih obrazaca pristupa toliko važnima. Petlja koja se nalazi u L1 predmemoriji bit će znatno brža od one koja stalno pristupa RAM-u ili SSD-u, čak i ako logički obavljaju istu funkciju.

Nadalje, predmemorija CPU-a organizirana je u nekoliko razina: L1, vrlo mala i izuzetno brza; L2, veća i nešto sporija; i L3, još veća, često dijeljena između jezgri. Ideja je držati "vruće" podatke (podatke koji se često koriste) pri ruci, a ostatak premjestiti na sporije razine. Kao programeri, možemo pomoći da se to dogodi prirodno dobrim dizajnom strukture podataka i s predvidljiv pristup.

Što je predmemorija i zašto utječe na performanse?

Predmemorija, u bilo kojem kontekstu (CPU, disk, web...), je brzo pohranjivanje nedavno korištenih podatakaUmjesto da uvijek pristupamo najsporijem izvoru, čuvamo kopiju onoga što će najvjerojatnije biti ponovno korišteno. To skraćuje vrijeme odziva i smanjuje opterećenje primarnih resursa.

Općenito, predmemoriranje se koristi za ubrzavanje pristupa i poboljšanje korisničkog iskustva. U praksi, ono također omogućuje sustavu da obavlja više posla s istim hardverom: manje čekanja, manje blokova i manje redova čekanja. Zato se koristi u CPU-ima, diskovima, preglednicima, distribuiranim sustavima i gotovo svakom softveru koji intenzivno obrađuje podatke.

Tipično računalo sadrži nekoliko vrsta predmemorije: predmemorija diska (RAM koji pohranjuje podatke s tvrdog diska), web predmemorija (statički resursi preglednika) i Predmemorija procesora (L1, L2, L3). Svi rade s istom osnovnom idejom: pohraniti ono što će vjerojatno biti potrebno kasnije, izbjegavajući ponavljanje sporih operacija.

Vrste predmemorije: diskovna, web i predmemorija procesora

Unutar stvarnog sustava, nekoliko mehanizama predmemoriranja konvergira, svaki na svojoj razini. Njihovo razumijevanje pomaže i u boljem programiranju i u dijagnosticiranju zašto računalo radi lošije od očekivanog.

Predmemorija diska

Predmemorija diska je područje memorije (obično RAM) gdje se nalazi operativni sustav pohranjuje podatke nedavno pročitane ili zapisane na diskKada aplikacija ponovno zatraži te podatke, sustav prvo provjerava predmemoriju: ako je tamo, pristup je puno brži nego odlazak na disk, posebno ako govorimo o mehaničkim diskovima.

Ovaj mehanizam drastično smanjuje vrijeme učitavanja, smanjuje broj fizičkih operacija čitanja i pisanja i, zauzvrat, produžava vijek trajanja diskaU scenarijima s ponovljenim pristupom istim datotekama (baze podataka, poslužitelji, zahtjevne aplikacije), predmemoriranje diska čini veliku razliku.

Web predmemorija

U pregledniku, web predmemorija privremeno pohranjuje slike, stilske listove, JavaScript i druge resurse. Zahvaljujući tome, kada ponovno posjetite stranicu ili se krećete između odjeljaka unutar iste web-lokacije, preglednik može... crpite iz onoga što već imate pohranjeno umjesto da ga ponovno naručite putem interneta.

Rezultat je dvostruk: kraće vrijeme učitavanja za korisnika i manja potrošnja propusnosti, i na vašoj vezi i na poslužitelju koji poslužuje sadržaj. Međutim, ako se predmemorija ne upravlja pravilno, mogu se pojaviti zastarjeli resursi, zbog čega ju je ponekad preporučljivo očistiti.

Predmemorija procesora: razine L1, L2 i L3

Krunski dragulj u smislu performansi je predmemorija CPU-a. Moderni procesori uključuju nekoliko hijerarhijskih razina dizajniranih za minimiziranje latencije pristupa podacima i instrukcijama. Općenito govoreći, L1 je najmanja i najbrža, L2 je srednja, a L3 je najveća i najsporija, često dijeljena.

La L1 predmemorija Obično je podijeljen na instrukcije i podatke, s tipičnim veličinama od nekoliko desetaka KB po jezgri. Iznimno je brz i koristi se za najneposrednije zadatke. L2 predmemorija Ima veći kapacitet (stotine KB do nekoliko MB) i djeluje kao L1 sigurnosna kopija. L3 predmemorija Može doseći nekoliko MB ili desetaka MB, dijeli se između nekoliko jezgri i služi kao posljednja razina prije prelaska na RAM.

Kada je obrazac pristupa memoriji razumno sekvencijalan ili predvidljiv, hardver ga može predvidjeti i dovesti podatke na te razine predmemorije. Kada je kaotičan, pun nasumičnih skokova i raspršenih struktura, procesor troši previše vremena čekanje sjećanja i CPU se "dosađuje". Tu dolazi do izražaja optimizacija na razini koda.

Optimizirajte strukture podataka za predmemoriju CPU-a

Velik dio performansi ovisi o tome kako dizajniramo naše strukture podataka. Nije isto imati golemi objekt s vrućim i hladnim poljima pomiješanim zajedno kao odvojiti ono što se često koristi od onoga što se rijetko koristi. Svaka linija predmemorije dovedena do procesora ima cijenu; ako te linije popunimo beskorisnim podacima, trošimo propusnost.

Grupirajte vruće podatke i odvojite hladne podatke

Ključna strategija je identificirati koja se polja u strukturi pristupaju u gotovo svakoj operaciji („vrući“ podaci), a koja se koriste samo povremeno („hladni“ podaci). Prva bi trebala biti zajedno u sjećanju i, ako je moguće, stanu u jednu ili nekoliko linija predmemorije. Potonje mogu biti u zasebnoj strukturi, na koju se referencira pokazivač ili indeks.

Na primjer, umjesto da imate objekt korisnika s dugim nizovima znakova (ime, biografija, e-pošta) pomiješanim sa zastavicama ili oznakama koje se stalno provjeravaju, bolje je grupirati "vruće" podatke (id, zadnja prijava, aktivni status) u kompaktnu strukturu, a ostatak informacija ostaviti u zasebnoj strukturi "detalji". Na taj način, kada kod iterira kroz popis korisnika kako bi provjerio status ili oznaku, retki predmemorije gotovo su u potpunosti ispunjeni relevantnim podacima.

Smanjite količinu materijala za popunjavanje i bolje iskoristite svaku liniju

Još jedno bojno polje leži u fizičkom dizajnu struktura: redoslijed polja i njihove vrste. Zbog poravnanja, miješanje tipova različitih veličina na neuređen način može uvesti bajtove za popunjavanje koji samo troše memoriju i, još gore, linije predmemorije.

Ako preuredimo strukturu podataka tako da prvo grupiramo velike tipove (npr. doubles ili int64_t), zatim srednje tipove i na kraju najmanje tipove (bool, char), obično smanjujemo ili eliminiramo velik dio popunjavanja. To omogućuje da više elemenata stane po liniji predmemorije, smanjujući opterećenje hijerarhije memorije i vjerojatnost propusta u memoriji.

Odaberite susjedne spremnike

Kontejneri u kojima se pohranjuju predmeti kontinuirana memorijaVektori, kao vrsta niza, općenito su puno povoljniji za predmemoriju od struktura temeljenih na rijetkim čvorovima povezanim pokazivačima (stabla, klasične povezane liste itd.). Prilikom prolaska kroz vektor, hardver može savršeno predvidjeti sljedeći pristup i unaprijed učitati sljedeće linije predmemorije.

Nasuprot tome, strukture poput mapa temeljenih na stablu ili povezanih popisa distribuiraju svoje čvorove po hrpi, prisiljavajući CPU da izvodi kontinuirano praćenje pokazivača. Svaki skok može rezultirati promašajem predmemorije i skupim povratkom u glavnu memoriju. Zato mnoge moderne biblioteke nude guste hash mapeotvorene tablice i drugi spremnici koji pokušavaju podatke održati što kompaktnijim.

Online pohrana za male kolekcije

Mnogi algoritmi uključuju vrlo male kolekcije (nekoliko cijelih brojeva, nekoliko struktura) koje se stalno stvaraju i uništavaju. Ako svaka od njih uzrokuje alokaciju hrpe, ne samo da snosimo troškove upravljanja memorijom, već imamo i podatke raspršene po RAM-u. Rješenje je korištenje kontejnera s online pohrana za male veličine.

Ova vrsta kontejnera rezervira prostor za 8 ili 16 elemenata izravno unutar samog objekta. Sve dok se ovo ograničenje ne prekorači, nema potrebe za pristupom hrpi (heapu), a podaci ostaju vezani uz ostatak funkcije ili stanja klase, što je vrlo korisno za keširanje.

Obrasci pristupa: od AoS-a do SoA-e i korištenje bitsetova

Čak i s dobro strukturiranim predmemorijama, obrazac pristupa podacima uvelike određuje performanse. Nije isto sekvencijalno pregledavati niz i skakati s jedne adrese na drugu na temelju popisa pokazivača. Postoje neke ponavljajuće tehnike za maksimiziranje iskorištenja predmemorije.

Niz struktura (AoS) u odnosu na strukturu nizova (SoA)

Klasičan obrazac je prelazak s dizajna "niza struktura" (AoS) na "strukturu niza" (SoA). U AoS-u, svaki element je objekt s mnogo polja (na primjer, položaj i masa čestice), a ti se elementi pohranjuju sekvencijalno. Kada trebate pročitati samo dio tih polja (na primjer, položaj), prisiljeni ste učitati retke predmemorije koji također nose nekorištene podatke.

S druge strane, u SoA-i, različiti atributi su odvojeni u paralelne nizove: jedan za x, drugi za y, treći za z, treći za masu itd. Dakle, ako algoritam ažurira samo položaje, on dodiruje samo koordinatne nizove i predmemorija nije kontaminirana nebitnim informacijamaNadalje, ovaj dizajn pogoduje vektorizaciji i korištenju SIMD instrukcija.

Bitsetovi i reference po indeksu

Za male domene (npr. zastavice u rasponu od 0 do 255), korištenje skupa bitova je puno učinkovitije od strukture skupa temeljene na hash tablici. Skup bitova od 256 pozicija zauzima samo nekoliko desetaka bajtova i omogućuje vrlo brze, potpuno susjedne i predmemorijski prilagođene operacije, umjesto rješavanja kolizija u hash tablici.

Slično tome, zamijenite pokazivače s indeksi u susjednim nizovima Može smanjiti veličinu struktura (32-bitni indeksi umjesto 64-bitnih pokazivača) i poboljšati koherentnost predmemorije. Umjesto čvorova raspoređenih po hrpi, pohranjuje se vektor čvorova na koje se pokazuje prema njihovoj poziciji, što olakšava sekvencijalno prolaženje.

Prethodno dohvaćanje: kada treba ubrzati posao

Uz hardversko preddohvaćanje, koje pokušava predvidjeti sekvencijalne obrasce pristupa, imamo i softverske upute za preddohvaćanje unaprijed učitavanje podataka u određenim slučajevima. To ima smisla kada je uzorak predvidljiv, ali ne i strogo linearan, kao što se događa u hash tablicama ili povezanim popisima.

Opća ideja je jednostavna: tijekom obrade elementa i, dajete upute hardveru da u predmemoriju dovede element i+1 (ili neki budući blok). Kada dođete do tog elementa, vjerojatnost da je već u L1 ili L2 je velika, a vrijeme čekanja se smanjuje. To se može implementirati primitivima za prethodno dohvaćanje kompajlera ili specifičnim bibliotekama.

Međutim, nema smisla koristiti eksplicitno prethodno preuzimanje u potpuno sekvencijalnim pristupima, jer hardver to već automatski obrađuje. Zapravo, dodavanje nepotrebnog prethodnog preuzimanja može zaprljati predmemoriju i pogoršati performanse. Kao što je gotovo uvijek slučaj s performansama, najbolje je mjeriti prije i poslije.

Pravila predmemorirane lokacije, zamjene i prethodnog dohvaćanja

Na teoretskoj razini, sustavi predmemorije temelje se na pravilima o tome gdje pohranjivati ​​podatke, kada ih dohvaćati i koje podatke izbaciti kada nema dovoljno prostora. Iako tim detaljima upravlja hardver ili operativni sustav, njihovo razumijevanje pomaže u tumačenju određenih neobičnih ponašanja.

Što se tiče lokacije, mogu se koristiti sheme segmentacija memorije ili asocijacijsko-skupna alokacija, gdje se svaka adresa glavne memorije može mapirati samo na podskup predmemorije. To utječe na broj sukoba i vjerojatnost preklapanja dviju adresa unutar predmemorije.

Što se tiče ispiranja predmemorije (što se događa kada dođe do promašaja predmemorije), u igru ​​dolaze politike zamjene: LRU (najmanje nedavno korišteno), FIFO ili čak slučajna zamjena. LRU pokušava zadržati najnovije korištene podatke u predmemoriji, pretpostavljajući da će ponovno biti potrebni, dok FIFO jednostavno odbacuje najstarije podatke. Svaka politika ima svoje prednosti ovisno o stvarnom obrascu pristupa.

U odjeljku za prethodno dohvaćanje postoje mehanizmi temeljeni na povijesnim obrascima: ako hardver otkrije da je svaki pristup pomaknut, na primjer, uvijek za 64 bajta, težit će predvidjeti susjedne blokoveU drugim slučajevima, preddohvaćanje prostora (donošenje cijelog bloka čak i ako ste zatražili samo dio) koristi se za minimiziranje broja posjeta glavnoj memoriji.

Mjerenje i profiliranje ponašanja predmemorije

Optimizacija bez mjerenja je kao ići naslijepo. Postoje alati za analizu performansi koji vam omogućuju da vidite specifične metrike predmemorije: reference, promašaje L1, promašaje predmemorije posljednje razine (LLC), postotak promašaja itd. Ove metrike pokazuju poboljšavaju li vaše promjene zapravo situaciju.

Ako je, na primjer, postotak promašaja u L1 oko 2-3%, to se obično smatra razumnim, dok vrlo visoke stope promašaja u predmemoriji posljednje razine mogu ukazivati ​​na probleme s prostorna ili vremenska lokacijaKombiniranjem ovih brojki s profilima CPU-a i memorije pomaže se u otkrivanju koji dijelovi koda vrše najveći pritisak na hijerarhiju memorije.

Optimizacija predmemorije i performansi u sustavu Windows

Osim samog koda, mnogi se korisnici pitaju zašto njihovo Windows računalo radi tako sporo ako, "u teoriji", ima dobar CPU i RAM. Dio odgovora leži u samom sustavu, rezidentnim aplikacijama i nakupljanju digitalnih neželjenih datoteka. Oni troše CPU, memoriju i predmemoriju. stalno, ostavljajući manje resursa za važne zadatke. Primjenom nekoliko specifičnih optimizacija u sustavima Windows 10 i Windows 11 moguće je osloboditi resurse procesora i RAM-a (Na primjer, konfiguriranjem virtualne memorije), smanjenje pozadinskih procesa i poboljšanje sposobnosti sustava da predmemorira relevantne podatke. Ovisno o početnoj situaciji, ta poboljšanja mogu se kretati od manjih prilagodbi do vrlo primjetnih promjena u ukupnim performansama.

Ažurirajte Windows i upravljačke programe

Vrlo osnovni korak koji mnogi ljudi zanemaruju je ažuriranje operativnog sustava i upravljačkih programa. Ažuriranja za Windows ne donose samo sigurnosne zakrpe: često uključuju poboljšanja u upravljanju resursima, ispravci curenja memorije i optimizacija kernela.

Na ploči postavki sustava Windows (Start > Postavke > Ažuriranje i sigurnost > Windows Update) možete pretraživati ​​i opća ažuriranja i dodatne pakete, uključujući nekritične upravljačke programe koji mogu optimizirati performanse vašeg CPU-a, GPU-a ili čipseta. Instaliranje ovih komponenti može riješiti uska grla ili probleme sa stabilnošću koji izravno utječu na način korištenja predmemorije i memorije.

Onemogući P2P distribuciju ažuriranja

Od Windowsa 10, sustav može preuzimati i dijeliti ažuriranja pomoću P2P mehanizma s drugim računalima. Iako genijalan, ovaj sustav znači da računalo... koristi CPU, mrežu i disk kako bi se pomoglo u distribuciji ažuriranja, što nije uvijek poželjno.

Onemogućavanje "Optimizacije isporuke" u servisu Windows Update sprječava vaše računalo da poslužuje ili preuzima fragmente ažuriranja na druga računala. To oslobađa resurse, smanjuje aktivnost u pozadini i može poboljšati ukupne performanse, posebno na manje snažnim sustavima.

Oslobodite prostor na disku i uklonite neželjene datoteke

Kada je disk pun ili gotovo pun, Windows ima manje prostora za straničenje i stvaranje privremenih datoteka, što u konačnici utječe na performanse. Koristite ugrađeni alat za Čišćenje diska Omogućuje vam brisanje privremenih datoteka, ostataka ažuriranja, stavki iz smeća i ostalih podataka koji više nisu potrebni.

Uz ovaj alat za čišćenje, preporučljivo je redovito prazniti koš za smeće i koristiti opcije pohrane sustava Windows za brisanje nakupljenih privremenih datoteka. Što je manje prostora na sistemskom disku, to će učinkovitije raditi memorijski podsustav i učinkovitije će funkcionirati predmemorija diska.

Optimizirajte programe koji se pokreću i pozadinske programe

Jedan od najvećih neprijatelja CPU-a i predmemorije na računalu koje se svakodnevno koristi su programi koji se automatski pokreću i rade u pozadini: sinkronizatori, ažuriranja, mali uslužni programi koje jedva koristimo itd. Iako se mogu činiti laganima, svaki od njih dodaje niti, memoriju, pristupe disku i potrošnju predmemorije.

Iz Upravitelja zadataka ili pomoću Sysinternals za kontrolu procesaNa kartici Početna moguće je onemogućite nepotrebne aplikacije kako biste spriječili njihovo automatsko učitavanje. Također, u postavkama privatnosti možete kontrolirati koje aplikacije smiju raditi u pozadini. Smanjenje ovog popisa ne samo da poboljšava vrijeme pokretanja već i smanjuje kontinuirano opterećenje CPU-a i RAM-a.

Smanjite grafičke efekte i obavijesti

Animacije prozora, prozirnosti i ostali vizualni ukrasi troše resurse. Na starijim ili manje snažnim računalima može biti korisno prilagoditi postavke sustava Windows kako bi se performanse dale prioritet izgledu. To se postiže putem naprednih opcija sustava, u odjeljku performansi, odabirom konfiguracije koja daje prednost brzini.

Slično tome, višak obavijesti može zasititi korisnika i timOnemogućavanje nepotrebnih upozorenja ne samo da poboljšava korisničko iskustvo, već i sprječava prečesto pokretanje pozadinskih procesa ili provjera.

Načini napajanja, hibernacija i vršne performanse

Windows uključuje nekoliko planova napajanja koji izravno utječu na način upravljanja CPU-om: je li prioritet vijek trajanja baterije ili čiste performanse. Na stolnim i prijenosnim računalima koja su uključena u struju obično je dobra ideja pregledati te postavke.

El brzi početak Brzo pokretanje kombinira značajke gašenja i hibernacije kako bi ubrzalo vrijeme pokretanja sustava predučitavanjem dijela kernela i upravljačkih programa prije gašenja. Omogućavanje može značajno smanjiti vrijeme pokretanja, iako je preporučljivo privremeno ga onemogućiti ako uzrokuje probleme s ažuriranjima ili pristupom BIOS-u.

S druge strane, postoji a skriveni plan "maksimalne učinkovitosti" Zbog toga CPU i ostale komponente rade manje učinkovito, dajući prioritet uštedi energije. Omogućavanje ove opcije može pružiti malo više prostora za zahtjevne zadatke, ali uz cijenu povećanog zagrijavanja, buke ventilatora i potrošnje energije.

Učinkovito upravljanje prostorom i memorijom u sustavu

Osim redovitog čišćenja i kontrole rezidentnih programa, postoje i drugi načini za bolje korištenje fizičkih resursa računala, a time i predmemorije procesora i diska.

Radna površina pretrpana ikonama, prečacima, mapama i datotekama nije samo vizualni nered: Windows mora upravljati svime time, što dodaje dodatno opterećenje. relativno čist radni stol Organiziranje datoteka u mape unutar pogona jednostavna je praksa koja doprinosi lakšem okruženju.

Također pomaže oslanjanje na rješenja za pohranu u oblaku za određene datoteke, što smanjuje količinu korištene lokalne pohrane. Pod uvjetom da se to radi razumno (bez potpunog oslanjanja na internetsku vezu), lokalni sustav može biti manje opterećen i imati veću fleksibilnost.

Specifične tehnologije: ReadyBoost, overclocking i hardver

Na sustavima s mehaničkim tvrdim diskom i ograničenom RAM memorijom, Windows uključuje tehnologije poput ReadyBoosta, koja vam omogućuje korištenje brzog USB pogona kao vrste dodatne predmemorije. Iako nije čarobni štapić, u određenim konfiguracijama može pružiti poboljšanje performansi. ublažiti dio pritiska na disk.

S druge strane spektra, napredni korisnici mogu overclockati svoje CPU-e pomoću alata poput Intel Extreme Tuning Utility (za otključane procesore). Povećanje brzine takta poboljšava performanse, ali također povećava temperaturu i potrošnju energije, uz stvarni rizik od nestabilnosti i oštećenja ako se napon i hlađenje ne kontroliraju pažljivo.

Kada sve optimizacije softvera ne uspiju, vrijeme je da razmislite o nadogradnjama hardvera: zamjeni tvrdog diska SSD-om, proširenju RAM-a ili čak procesor promjena ili cijeli sustav. SSD, posebno, transformira percipirane performanse sustava jer drastično smanjuje vrijeme pristupa disku, što zauzvrat omogućuje puno glatkiji rad predmemorije diska i virtualne memorije.

Zajedno, kombinirajte dobar dizajn struktura podataka i obrazaca pristupa memoriji Iskorištavanje predmemorije procesora pažljivom konfiguracijom sustava Windows (ažuriranom, laganom, bez nepotrebnih procesa, s odgovarajućim planom napajanja i, ako je potrebno, s malim pomagalima poput ReadyBoosta ili poboljšanja hardvera) omogućuje vam da iz istog računala izvučete puno više, postižući aplikacije koje reagiraju agilno i sustav koji se čini primjetno bržim bez potrebe za "magijom" ili ezoteričnim trikovima.