Оптимизација и перформансе кеш меморије процесора у оперативном систему Windows

Информатек Дигитал » Средства » Оптимизација и перформансе кеш меморије процесора у оперативном систему Windows

La Оптимизација кеш меморије процесора То је једна од оних тема која раздваја код који „ради“ од кода који „лети“. Када разумемо како је меморија организована, која времена приступа сваки ниво обрађује и како се хардвер понаша, можемо постићи огромна побољшања перформанси без промене машина.

У међувремену, значајан број корисника Windows-а пати од једног просечнијег проблема: њихови рачунари су спори. И често корен проблема лежи управо тамо, у неефикасном коришћењу меморије, кеш меморије и самог процесора. Комбинацијом... добар дизајн ниског нивоа (структуре података, обрасци приступа меморији) и практична подешавања у оперативном систему Windows (чишћење, ажурирање, режими напајања итд.), могу се постићи веома приметна побољшања, од малих повећања од 5% до скокова од 30-40% у одређеним сценаријима.

Хијерархија меморије и латенције: зашто кеш влада

Пре него што почнемо са подешавањем кода или конфигурисањем Windows-а, морамо јасно да разумемо једну ствар: није сва меморија једнака. Разлика између приступа L1, L2, L3 кеш меморији, RAM меморији или диску је огромна и многе оптимизације кеша су буквално засноване на томе. избегавајте прелазак на споре нивое све могуће.

У модерном процесору, типична времена приступа (реда величине) су отприлике следећа: приступ до L1 кеш То је око пола наносекунде, неуспех у предвиђању скока траје неколико наносекунди, L2 То је око 7 ns, док достизање главне меморије може прећи 100 ns. Ако се удаљимо изван уређаја (мрежа, SSD, механички чврсти диск), бројке нагло расту до стотине хиљада или милионе наносекунди.

Ова огромна разлика је оно што чини правилно организовање података, смањење промашаја кеша и дизајнирање секвенцијалних образаца приступа толико важним. Петља која се налази у L1 кешу биће знатно бржа од оне која стално приступа RAM-у или SSD-у, чак и ако логички обављају исту функцију.

Штавише, кеш меморија процесора је организована у неколико нивоа: L1, веома мали и изузетно брз; L2, већи и нешто спорији; и L3, још већи, често дељен између језгара. Идеја је да се „врући“ подаци (подаци који се често користе) држе при руци, а остатак пребаци на спорије нивое. Као програмери, можемо помоћи да се ово деси природним путем уз добар дизајн структуре података и уз помоћ... предвидљив приступ.

Шта је кеш меморија и зашто утиче на перформансе?

Кеш меморија, у било ком контексту (процесор, диск, веб...), је брзо складиштење недавно коришћених податакаУместо да увек приступамо најспоријем извору, чувамо копију онога што ће највероватније бити поново употребљено. Ово скраћује време одзива и смањује оптерећење примарних ресурса.

Генерално, кеширање се користи за убрзавање приступа и побољшање корисничког искуства. У пракси, оно такође омогућава систему да обавља више посла са истим хардвером: мање чекања, мање блокова и мање редова чекања. Зато се користи у процесорима, дисковима, прегледачима, дистрибуираним системима и практично сваком софтверу који интензивно обрађује податке.

Типичан рачунар садржи неколико врста кеш меморије: кеш диска (RAM меморија која чува податке са чврстог диска), веб кеш (статични ресурси прегледача) и Кеш процесора (L1, L2, L3). Сви они раде са истом основном идејом: да сачувају оно што ће вероватно бити потребно касније, избегавајући понављање спорих операција.

Врсте кеша: кеш меморије на диску, веб кеш меморије и кеш меморије процесора

Унутар система из стварног света, неколико механизама кеширања се конвергирају, сваки на свом нивоу. Њихово разумевање помаже и у бољем програмирању и у дијагностиковању разлога зашто рачунар ради лошије него што се очекивало.

Кеш диска

Кеш меморија диска је област меморије (обично RAM) где се налази оперативни систем чува податке који су недавно прочитани или записани на дискКада апликација поново затражи те податке, систем прво проверава кеш меморију: ако је тамо, приступ је много бржи него одлазак на диск, посебно ако говоримо о механичким дисковима.

Овај механизам драстично смањује време учитавања, смањује број физичких операција читања и писања и, заузврат, продужава век трајања дискаУ сценаријима са поновљеним приступом истим датотекама (базе података, сервери, захтевне апликације), кеширање диска прави велику разлику.

Веб кеш

У прегледачу, веб кеш привремено чува слике, стилске листове, Јаваскрипт и друге ресурсе. Захваљујући томе, када поново посетите страницу или се крећете између одељака унутар истог сајта, прегледач може... црпите из онога што већ имате сачувано уместо да га поново наручите онлајн.

Резултат је двострук: краће време учитавања за корисника и мања потрошња пропусног опсега, како на вашој вези, тако и на серверу који приказује садржај. Међутим, ако се кеш меморијом не управља правилно, могу се појавити застарели ресурси, због чега је понекад препоручљиво да је обришете.

Кеш меморија процесора: нивои L1, L2 и L3

Крунски драгуљ када су у питању перформансе је кеш меморија процесора. Модерни процесори укључују неколико хијерархијских нивоа дизајнираних да минимизирају кашњење приступа подацима и инструкцијама. Генерално говорећи, L1 је најмањи и најбржи, L2 је средњи, а L3 је највећи и најспорији, често дељени.

La L1 кеш Обично је подељен на инструкције и податке, са типичним величинама од неколико десетина KB по језгру. Изузетно је брз и користи се за најнепосредније задатке. L2 кеш Има већи капацитет (стотине KB до неколико MB) и делује као L1 резервна копија. L3 кеш Може достићи неколико МБ или десетина МБ, дељен између неколико језгара, и служи као последњи ниво пре него што пређе на РАМ меморију.

Када је образац приступа меморији разумно секвенцијалан или предвидљив, хардвер је у стању да га предвиди и доведе податке до ових нивоа кеша. Када је хаотичан, пун случајних скокова и расутих структура, процесор троши превише времена чекање на сећање и процесор се „досађује“. Ту долази до изражаја оптимизација на нивоу кода.

Оптимизујте структуре података за кеширање процесора

Велики део перформанси зависи од тога како дизајнирамо наше структуре података. Није исто имати џиновски објекат са топлим и хладним пољима помешаним заједно као што је исто одвојити оно што се често користи од онога што се ретко користи. Свака кеш линија доведена до процесора има своју цену; ако те линије попунимо бескорисним подацима, трошимо пропусни опсег.

Групишите вруће податке и одвојите хладне податке

Кључна стратегија је идентификовање којим пољима у структури се приступа у скоро свакој операцији („врући“ подаци) и која се користе само повремено („хладни“ подаци). Први би требало бити заједно у сећању и, ако је могуће, стати у једну или неколико линија кеша. Потоње могу бити у посебној структури, на коју се позива показивач или индекс.

На пример, уместо да имате објекат корисника са дугим стринговима (име, биографија, имејл) помешан са заставицама или маркерима који се стално проверавају, боље је груписати „вруће“ податке (ИД, последња пријава, активни статус) у компактну структуру, а остатак информација оставити у посебној структури „детаљи“. На овај начин, када код итерира кроз листу корисника да би проверио статус или маркер, линије кеша су скоро у потпуности попуњене релевантним подацима.

Смањите попуњавање и боље искористите сваку линију

Још једно фронтално поље лежи у физичком дизајну структура: редослед поља и њихове типове. Због поравнања, мешање типова различитих величина на неуређен начин може увести бајтове за попуњавање који само троше меморију и, још горе, линије кеша.

Ако преуредимо структуру података тако да прво групишемо велике типове (нпр. doubles или int64_t), затим средње типове и на крају најмање типове (bool, char), обично смањујемо или елиминишемо велики део попуњавања. Ово омогућава да више елемената стане по линији кеша, смањујући оптерећење хијерархије меморије и вероватноћу промашаја меморије.

Изаберите суседне контејнере

Контејнери у којима се чувају предмети непрекидна меморијаВектори, као врста низа, су генерално много погоднији за кеширање него структуре засноване на ретким чворовима повезаним показивачима (стабла, класичне повезане листе итд.). Приликом обиласка вектора, хардвер може савршено предвидети следећи приступ и унапред учитати следеће линије кеша.

Насупрот томе, структуре попут мапа заснованих на стаблу или повезаних листа дистрибуирају своје чворове по хипу, приморавајући процесор да континуирано прати показиваче. Сваки скок може резултирати промашајем кеша и скупим повратком у главну меморију. Зато многе модерне библиотеке нуде густе хеш мапеотворене табеле и други контејнери који покушавају да податке одрже што је могуће компактнијим.

Онлајн складиштење за мале колекције

Многи алгоритми укључују веома мале колекције (неколико целих бројева, неколико структура) које се стално креирају и уништавају. Ако свака од њих узрокује алокацију хипа, не само да сносимо трошкове управљања меморијом, већ имамо и податке расуте по РАМ меморији. Решење је коришћење контејнера са онлајн складиштење за мале величине.

Ова врста контејнера резервише простор за 8 или 16 елемената директно унутар самог објекта. Све док се ово ограничење не прекорачи, нема потребе за приступом хипу, а подаци остају везани за остатак функције или стања класе, што је веома корисно за кеширање.

Шаблони приступа: од AoS до SoA и употреба битова

Чак и са добро структурираним кеш меморијама, образац приступа подацима у великој мери одређује перформансе. Није исто секвенцијално прелазити кроз низ и скакати са једне адресе на другу на основу листе показивача. Постоје неке понављајуће технике за максимизирање искоришћења кеша.

Низ структура (AoS) у односу на структуру низова (SoA)

Класичан образац је прелазак са дизајна „низ структура“ (AoS) на „структуру низа“ (SoA). У AoS-у, сваки елемент је објекат са много поља (на пример, положај и маса честице), а ови елементи се чувају секвенцијално. Када треба да прочитате само део ових поља (на пример, положај), приморани сте да учитате кеш линије које такође носе некоришћене податке.

С друге стране, у SoA, различити атрибути су раздвојени у паралелне низове: један за x, други за y, трећи за z, трећи за масу итд. Дакле, ако алгоритам ажурира само позиције, он додирује само координатне низове, и кеш није загађен небитним информацијамаШтавише, овај дизајн фаворизује векторизацију и употребу SIMD инструкција.

Скупови битова и референце по индексу

За мале домене (нпр., заставице у распону од 0 до 255), коришћење скупа битова је много ефикасније од структуре скупа засноване на хешу. Скуп битова од 256 позиција заузима само неколико десетина бајтова и омогућава веома брзе, потпуно суседне и кеш-пријатељске операције, уместо да се колизије решавају у хеш табели.

Слично томе, замените показиваче са индекси у суседним низовима Може смањити величину структура (32-битни индекси уместо 64-битних показивача) и побољшати кохерентност кеша. Уместо чворова распоређених по хипу, чува се вектор чворова и на њих се указује по њиховој позицији, што олакшава секвенцијалне проласке.

Претходно учитавање: када треба претећи посао

Поред хардверског претходног учитавања, које покушава да предвиди секвенцијалне обрасце приступа, имамо инструкције за софтверско претходно учитавање за унапред учитавање података у специфичним случајевима. Ово има смисла када је образац предвидљив, али не и строго линеаран, као што се дешава у хеш табелама или повезаним листама.

Општа идеја је једноставна: током обраде елемента i, налажете хардверу да унесе елемент i+1 (или неки будући блок) у кеш меморију. Када дођете до тог елемента, вероватноћа да је већ у L1 или L2 је велика, а време чекања је смањено. Ово се може имплементирати помоћу примитива за претходно учитавање компајлера или специфичних библиотека.

Међутим, нема смисла користити експлицитно претходно учитавање код потпуно секвенцијалних приступа, јер хардвер то већ аутоматски обрађује. У ствари, додавање непотребног претходног учитавања може запрљати кеш и погоршавају перформансе. Као што је скоро увек случај са перформансама, најбоље је мерити пре и после.

Политике кеширане локације, замене и претходног учитавања

На теоретскијем нивоу, системи кеш меморије се заснивају на политикама о томе где се чувају подаци, када се преузимају и које податке избацује када нема довољно простора. Иако овим детаљима управља хардвер или оперативни систем, њихово разумевање помаже у тумачењу одређених необичних понашања.

Што се тиче локације, могу се користити шеме од сегментација меморије или асоцијативно алокирање скупова, где свака адреса главне меморије може да се мапира само на подскуп кеша. Ово утиче на број сукоба и вероватноћу преклапања две адресе унутар кеша.

Што се тиче пражњења кеша (шта се дешава када дође до промашаја кеша), долазе до изражаја политике замене: LRU (Least Recently Used - најмање коришћени), FIFO или чак насумична замена. LRU покушава да задржи најскорије коришћене податке у кешу, претпостављајући да ће поново бити потребни, док FIFO једноставно одбацује најстарије податке. Свака политика има своје предности у зависности од стварног обрасца приступа.

У одељку за претходно учитавање постоје механизми засновани на историјским обрасцима: ако хардвер детектује да је сваки приступ померен, на пример, увек за 64 бајта, тежиће да предвидети суседне блоковеУ другим случајевима, претходно учитавање простора (уношење целог блока чак и ако сте захтевали само његов део) се користи да би се минимизирао број посета главној меморији.

Мерење и профилисање понашања кеша

Оптимизација без мерења је као рад на слепо. Постоје алати за анализу учинка који вам омогућавају да видите одређене метрике кеша: референце, промашаје L1, промашаје кеша последњег нивоа (LLC), проценат промашаја итд. Ове метрике показују да ли ваше промене заиста побољшавају ситуацију.

Ако је, на пример, проценат промашаја у L1 око 2-3%, то се обично сматра разумним, док веома високе стопе промашаја у кешу последњег нивоа могу указивати на проблеме са просторна или временска локацијаКомбиновање ових бројки са профилима процесора и меморије помаже у откривању који делови кода врше највећи притисак на хијерархију меморије.

Оптимизација кеша и перформанси у оперативном систему Windows

Поред самог кода, многи корисници се питају зашто њихов Windows рачунар ради тако споро ако, „у теорији“, има добар процесор и RAM меморију. Део одговора лежи у самом систему, резидентним апликацијама и акумулацији дигиталних непотребних датотека. Они троше процесор, меморију и кеш меморију. стално, остављајући мање ресурса за важне задатке. Применом неколико специфичних оптимизација у Windows 10 и Windows 11, могуће је ослободити ресурсе CPU-а и RAM-а (На пример, конфигурисањем виртуелне меморије), смањење позадинских процеса и побољшање способности система да кешира релевантне податке. У зависности од почетне ситуације, ова побољшања могу варирати од мањих подешавања до веома приметних промена у укупним перформансама.

Ажурирајте Windows и драјвере

Веома основни корак који многи људи занемарују јесте ажурирање оперативног система и драјвера. Ажурирања за Windows не доносе само безбедносне закрпе: она често укључују побољшања у управљању ресурсима, исправке цурења меморије и оптимизација језгра.

Из панела са подешавањима система Windows (Старт > Подешавања > Ажурирање и безбедност > Windows Update), можете да тражите и општа ажурирања и опционе пакете, укључујући некритичне драјвере који могу да оптимизују перформансе вашег процесора, графичке картице или чипсета. Инсталирање ових компоненти може да реши уска грла или проблеме са стабилношћу који директно утичу на начин коришћења кеш меморије и меморије.

Онемогућите P2P дистрибуцију ажурирања

Од Windows-а 10, систем може да преузима и дели ажурирања користећи P2P механизам са другим рачунарима. Иако генијалан, овај систем значи да рачунар... користи процесор, мрежу и диск да би се помогло у дистрибуцији ажурирања, нешто што није увек пожељно.

Онемогућавање „Оптимизације испоруке“ у Windows Update-у спречава ваш рачунар да послужује или преузима фрагменте ажурирања на друге рачунаре. Ово ослобађа ресурсе, смањује активност у позадини и може побољшати укупне перформансе, посебно на мање моћним системима.

Ослободите простор на диску и уклоните нежељене датотеке

Када је диск пун или скоро пун, Windows има мање простора за страничење и креирање привремених датотека, што на крају утиче на перформансе. Користите уграђени алат за Чишћење диска Омогућава вам да обришете привремене датотеке, остатке ажурирања, ставке из смећа и друге податке који више нису потребни.

Поред овог алата за чишћење, препоручљиво је редовно празнити корпу за отпатке и користити опције складиштења система Windows за брисање акумулираних привремених датотека. Што је мање простора на системском диску, то ће меморијски подсистем ефикасније радити и ефикасније ће функционисати кеш меморија диска.

Оптимизујте програме који се покрећу и оне који се покрећу у позадини

Један од највећих непријатеља процесора и кеш меморије на рачунару који се користи свакодневно су програми који се аутоматски покрећу и раде у позадини: синхронизатори, ажурирачи, мали услужни програми које једва користимо итд. Иако могу деловати лагано, сваки од њих додаје нити, меморију, приступе диску и потрошњу кеш меморије.

Из Менаџера задатака или помоћу Sysinternals за контролу процесаНа картици Почетна је могуће онемогућите непотребне апликације да бисте спречили њихово аутоматско учитавање. Такође, у подешавањима приватности можете контролисати које апликације могу да раде у позадини. Смањење ове листе не само да побољшава време покретања већ и смањује континуирано оптерећење процесора и РАМ меморије.

Смањите графичке ефекте и обавештења

Анимације прозора, транспарентности и други визуелни украси троше ресурсе. На старијим или мање моћним рачунарима може бити корисно подесити подешавања система Windows тако да се перформансе дају предност изгледу. То се ради путем напредних опција система, у одељку за перформансе, избором конфигурације која фаворизује брзину.

Слично томе, вишак обавештења може заситити корисника и тимОнемогућавање непотребних упозорења не само да побољшава корисничко искуство, већ и спречава пречесто покретање позадинских процеса или провера.

Режими напајања, хибернација и вршне перформансе

Windows укључује неколико планова напајања који директно утичу на начин управљања процесором: да ли се приоритет даје трајању батерије или чистим перформансама. На десктоп и лаптоп рачунарима који су укључени у струју, обично је добра идеја прегледати ова подешавања.

El брзи старт Брзо покретање комбинује функције искључивања и хибернације како би убрзало време покретања система унапред учитавањем дела језгра и драјвера пре искључивања. Омогућавање ове опције може значајно смањити време покретања, мада је препоручљиво да је привремено онемогућите ако изазива проблеме са ажурирањима или приступом BIOS-у.

С друге стране, постоји а скривени план „максималних перформанси“ Ово приморава процесор и остале компоненте да раде мање ефикасно, дајући приоритет уштеди енергије. Омогућавање ове опције може пружити мало више простора за захтевне задатке, али по цену повећаног загревања, буке вентилатора и потрошње енергије.

Ефикасно управљање простором и меморијом у систему

Поред редовног чишћења и контроле резидентних програма, постоје и други начини за боље коришћење физичких ресурса рачунара, а самим тим и кеш меморије процесора и диска.

Имати радну површину претрпану иконама, пречицама, фасциклама и датотекама није само визуелни неред: Windows мора да управља свим тим, што додаје додатно оптерећење. релативно чист сто Организовање датотека у фасцикле унутар дискова је једноставна пракса која доприноси лакшем окружењу.

Такође помаже ослањање на решења за складиштење у облаку за одређене датотеке, што смањује количину коришћене локалне меморије. Под условом да се то уради разумно (без потпуног ослањања на интернет везу), локални систем може бити мање оптерећен и имати већу флексибилност.

Специфичне технологије: ReadyBoost, оверклоковање и хардвер

На системима са механичким чврстим диском и ограниченом РАМ меморијом, Windows укључује технологије попут ReadyBoost-а, која вам омогућава да користите брзи USB диск као неку врсту додатне кеш меморије. Иако није чаробни штапић, у одређеним конфигурацијама може да пружи побољшање перформанси. ослободити део притиска на диск.

На другом крају спектра, напредни корисници могу оверклоковати своје процесоре користећи алате попут Intel Extreme Tuning Utility (за откључане процесоре). Повећање брзине такта побољшава перформансе, али такође повећава температуру и потрошњу енергије, са реалним ризиком од нестабилности и оштећења ако се напон и хлађење не контролишу пажљиво.

Када све оптимизације софтвера не успеју, време је да размислите о надоградњи хардвера: замени чврстог диска SSD-ом, проширењу RAM меморије или чак процесор за промену или цео систем. SSD, посебно, трансформише перципиране перформансе система, јер драстично смањује време приступа диску, што заузврат омогућава кеш меморији диска и виртуелној меморији да раде много глатко.

Заједно, комбинујте добар дизајн структура података и образаца приступа меморији Искоришћавање кеш меморије процесора пажљивом конфигурацијом Windows-а (ажурираном, лаганом, без непотребних процеса, са одговарајућим планом напајања и, ако је потребно, са малим помагалима као што су ReadyBoost или побољшања хардвера) омогућава вам да извучете много више из истог рачунара, постижући апликације које реагују агилно и систем који се осећа приметно бржим без потребе за „магијом“ или езотеричним триковима.