- 記憶體層次結構和資料結構的設計在很大程度上決定了 CPU 快取的使用率。
- 將熱點資料分組、使用連續容器和 SoA 模式可以減少快取未命中並改善延遲。
- 在 Windows 系統中，更新系統和驅動程式並限制後台程序可以釋放 CPU、RAM 和快取。
- 透過軟體優化、電源調整以及必要時的硬體改進，可以最大限度地提高整體性能。
La CPU快取最佳化 這是區分「能用」程式碼和「運行流暢」程式碼的關鍵所在。當我們理解記憶體的組織方式、每一層記憶體的存取時間以及硬體的運作機制時，即使不更換機器，也能大幅提升效能。
與此同時，相當一部分 Windows 用戶正面臨著一個更為常見的問題：他們的電腦運作緩慢。而問題的根源往往就在於此，即記憶體、快取和 CPU 本身的利用效率低。透過以下方式： 好的底層設計 （資料結構、記憶體存取模式） Windows 中的實用設定 （清理、更新、電源模式等），可以實現非常明顯的改進，從 5% 的小幅提升到某些情況下 30-40% 的飛躍。
記憶體層次結構與延遲：快取規則的重要性
在開始修改程式碼或配置 Windows 之前，我們需要清楚地理解一點：並非所有記憶體都是一樣的。存取 L1、L2、L3 快取、RAM 或磁碟之間的差異巨大，許多快取優化正是基於這一點。 避免進入慢速模式 一切皆有可能。
在現代處理器中，典型的訪問時間（數量級）大致如下：一次訪問 L1緩存 大約需要半納秒，而跳躍預測失敗則需要幾納秒。 L2 大約需要 7 奈秒，而到達主記憶體可能超過 100 奈秒。如果我們將資料傳輸到設備外部（網路、固態硬碟、機械硬碟），這些數字會急劇上升。 數十萬或數百萬納秒.
這種顯著差異正是資料組織、減少快取未命中和設計順序存取模式如此重要的原因。即使在邏輯上執行相同的功能，駐留在 L1 快取中的循環也比不斷存取 RAM 或 SSD 的循環快得多。
此外，CPU快取分為多個等級：L1快取容量很小，速度極快；L2快取容量較大，速度稍慢；L3快取容量更大，通常由多個核心共享。其理念是將「熱」資料（頻繁使用的資料）放在觸手可及的位置，而將其他資料放到速度較慢的層級。作為開發者，我們可以透過良好的資料結構設計和…來幫助實現這一點。 可預測的訪問.
什麼是緩存？為什麼它會影響性能？
緩存，無論在何種環境下（CPU、磁碟、Web…），都是一個 快速儲存最近使用的數據我們不會總是存取速度最慢的資源，而是保留一份最有可能被重複使用的資源副本。這可以縮短反應時間，並減輕主資源的壓力。
一般來說，快取用於加快存取速度並改善用戶體驗。實際上，它還能讓系統在相同的硬體條件下執行更多工作：減少等待時間、減少阻塞、減少佇列。因此，它被廣泛應用於 CPU、磁碟、瀏覽器、分散式系統以及幾乎所有資料密集型軟體中。
一台典型的PC包含幾種類型的快取： 磁碟快取 （用於儲存硬碟資料的記憶體） 網路快取 （靜態瀏覽器資源） CPU快取 （L1、L2、L3）。它們的基本想法都一樣：儲存以後可能需要的數據，避免重複執行緩慢的操作。
快取類型：磁碟快取、Web快取和CPU緩存
在實際系統中，多種快取機制相互交匯，各自發揮不同的功能。理解這些機制有助於更好地進行編程，也有助於診斷電腦效能低於預期的原因。
磁盤緩存
磁碟快取是作業系統用於儲存資料的記憶體區域（通常是 RAM）。 儲存最近讀取或寫入磁碟的數據當應用程式再次請求該數據時，系統首先檢查快取：如果快取中有數據，則存取速度比存取磁碟快得多，尤其是在使用機械磁碟的情況下。
這種機制大幅縮短了載入時間，減少了物理讀寫操作的次數，進而， 延長光碟壽命在需要重複存取相同檔案的場景（資料庫、伺服器、大型應用程式）中，磁碟快取可以發揮很大的作用。
Web 快取
在瀏覽器中，網頁快取會暫時儲存圖片、樣式表、JavaScript 和其他資源。因此，當您再次造訪某個頁面或在同一網站的不同版塊之間導航時，瀏覽器可以… 從你已有的儲備中汲取力量 而不是再次在線訂購。
這樣做有兩個好處：一是用戶載入時間更短，二是用戶網路連線和伺服器頻寬消耗都更低。但是，如果快取管理不當，可能會出現過時的資源，因此有時建議清除快取。
CPU快取：L1、L2和L3級
就效能而言，CPU快取是至關重要的組成部分。現代處理器包含多個層級的緩存，旨在最大限度地減少資料和指令存取延遲。一般來說，L1快取最小且速度最快，L2快取速度居中，L3快取最大且速度最慢，通常與其他快取共享。
La L1緩存 它通常分為指令和資料兩部分，每個核心的典型大小為數十KB。它的速度極快，用於處理最緊急的任務。 L2緩存 它的容量更大（數百 KB 到幾 MB），可用作 L1 備份。 L3緩存 它可以達到幾兆位元組甚至幾十兆位元組，由多個核心共享，並且是進入 RAM 之前的最後一級。
當記憶體存取模式相對有序或可預測時，硬體能夠預先判斷並將資料載入到對應的快取層級。而當記憶體存取模式混亂無序，充滿隨機跳躍和分散結構時，處理器就會花費過多時間。 等待記憶體 然後CPU就會「無聊」。這時就需要進行程式碼級優化了。
優化資料結構以進行 CPU 緩存
效能很大程度取決於我們如何設計資料結構。將一個包含冷熱字段的大型物件與將常用字段和不常用字段分開是截然不同的。每個被送至處理器的快取行都會產生開銷；如果我們用無用資料填充這些快取行，就會浪費頻寬。
分組熱數據並分離冷數據
關鍵策略是識別結構中哪些欄位幾乎每次操作都會存取（「熱」資料），哪些欄位僅偶爾使用（「冷」資料）。前者應該 在記憶中永遠相伴 如果可能，盡量將其放入一到幾行快取中。後者可以放在單獨的結構體中，並透過指標或索引進行引用。
例如，與其建立一個包含冗長字串（姓名、簡介、郵箱）並混雜著需要不斷檢查的標誌或標記的使用者對象，不如將「熱門」資料（ID、上次登入時間、活躍狀態）分組到一個緊湊的結構中，並將其餘資訊放在一個單獨的「詳細資料」結構中。這樣，當程式碼遍歷使用者清單以檢查狀態或標記時，快取行幾乎完全被相關資料填充。
減少冗餘，更好地利用每條線
另一個戰場在於建築物的物理設計： 欄位順序 以及它們的類型。由於對齊方式的限制，無序地混合不同大小的類型會導致引入填充字節，這些填充字節只會浪費內存，更糟的是，還會浪費快取行。
如果我們重新排列資料結構，先放置大類型資料（例如 double 或 int64_t），再放置中等類型數據，最後放置最小類型資料（例如 bool、char），通常可以減少或消除大部分填充資料。這樣，每個快取行可以容納更多元素，從而減輕記憶體層次結構的壓力，並降低記憶體未命中的可能性。
選擇相鄰的容器
存放物品的容器 連續記憶體作為一種數組，向量通常比基於稀疏節點並透過指標連結的結構（例如樹、經典鍊錶等）更利於快取利用。在遍歷向量時，硬體可以完美地預測下一次訪問，並預先載入後續的快取行。
相較之下，像基於樹的映射或鍊錶這樣的結構會將它們的節點分佈在堆上，迫使 CPU 執行持續的指標追蹤。每次跳轉都可能導致快取未命中，並需要代價高昂地返回主記憶體。這就是為什麼許多現代庫都提供快取存取控制（或稱為「快取存取控制」）的原因。 密集哈希映射開放表格和其他容器，力求使資料盡可能緊湊。
小型收藏品的線上存儲
許多演算法涉及非常小的集合（幾個整數，幾個結構體），這些集合會不斷地被創建和銷毀。如果每次都進行堆記憶體分配，不僅會增加記憶體管理成本，還會導致資料分散在記憶體中。解決方案是使用容器。 小尺寸在線存儲.
這種類型的容器會在物件內部直接預留 8 或 16 個元素的空間。只要不超過這個限制，就不需要存取堆內存，資料會一直與函數或類別的其他狀態關聯，這對於快取非常有利。
存取模式：從 AoS 到 SoA 以及位元集的使用
即使快取結構良好，資料存取模式也很大程度上決定了效能。順序遍歷數組和基於指標列表從一個位址跳到另一個位址是截然不同的。有一些常用的技巧可以最大限度地利用快取。
結構數組 (AoS) 與數組結構 (SoA)
一個經典的模式是從「結構體數組」（AoS）設計到「結構體數組」（SoA）設計的轉變。在AoS中，每個元素都是一個包含多個欄位的物件（例如，粒子的位置和品質），這些元素按順序儲存。當您只需要讀取其中的一部分欄位（例如，位置）時，您就必須載入包含未使用資料的快取行。
另一方面，在SoA中，不同的屬性被分離到並行數組中：一個用於x，一個用於y，一個用於z，一個用於質量，等等。因此，如果一個演算法只更新位置，它只會操作座標數組，而不會影響其他屬性。 快取中未包含無關訊息此外，這種設計有利於向量化和使用 SIMD 指令。
位元集和按索引引用
對於小型域（例如，標誌位元範圍為 0 到 255），使用位元集比基於雜湊的集合結構效率更高。一個 256 位元的位元集僅佔用幾十字節，並且允許進行非常快速、完全連續且快取友好的操作，而無需在雜湊表中解決衝突。
同樣地，將指針替換為 連續數組中的索引 它可以減少結構體的大小（使用 32 位元索引代替 64 位元指標），並提高快取一致性。節點不再分散在堆上，而是儲存一個節點向量，並透過位置指向這些節點，從而簡化了順序遍歷。
預取：何時提前完成工作
除了硬體預取（它試圖預測順序存取模式）之外，我們還有軟體預取指令。 預先載入數據 在特定情況下，這種做法是合理的。當模式可預測但並非嚴格線性時，例如哈希表或鍊錶的情況，這種做法就很有意義。
基本想法很簡單：在處理元素 i 時，指示硬體將元素 i+1（或某個未來的資料區塊）載入到快取中。當處理到該元素時，它已在 L1 或 L2 快取中的機率很高，從而減少了等待時間。這可以透過編譯器預取原語或特定函式庫來實現。
然而，在完全順序的存取中，明確預取是沒有意義的，因為硬體已經自動處理了。事實上，加入不必要的預取反而會適得其反。 弄髒緩存 並導致性能下降。性能方面的情況幾乎總是如此，最好在操作前後進行測量。
快取位置、替換和預取策略
從更理論的層面來說，快取系統是基於一系列策略，這些策略決定了資料儲存的位置、何時檢索數據，以及在空間不足時需要清除哪些資料。雖然這些細節由硬體或作業系統管理，但理解它們有助於解釋某些異常行為。
關於位置，可以使用以下方案： 記憶分割 或採用群組相聯分配，其中每個主存位址只能對應到快取的子集。這會影響衝突的數量以及兩個位址在快取中重疊的機率。
關於快取刷新（快取未命中時的處理方式），替換策略就派上了用場：LRU（最近最少使用）、FIFO（先進先出）甚至隨機替換。 LRU 策略會嘗試將最近使用的資料保留在快取中，假設這些資料之後還會再次使用；而 FIFO 策略則會直接丟棄最舊的資料。每種策略都有其自身的優勢，取決於實際的存取模式。
在預取部分，存在基於歷史模式的機制：例如，如果硬體偵測到每次存取都會發生偏移，總是偏移 64 位元組，它就會傾向於… 預計相鄰塊在其他情況下，空間預取（即使你只要求了其中的一部分，也引入整個區塊）用於最大限度地減少存取主記憶體的次數。
測量和分析快取行為
不進行測量就進行優化，就像盲人摸象。有一些效能分析工具可以讓你查看特定的快取指標：引用次數、L1 快取未命中次數、末級快取 (LLC) 未命中次數、未命中率等等。這些指標可以顯示你的更改是否真的改善了效能。
例如，如果 L1 快取的未命中率在 2-3% 左右，通常被認為是合理的；而最後一級快取的未命中率過高則可能表示有問題。 空間或時間位置將這些資料與 CPU 和記憶體設定檔結合起來，有助於偵測程式碼的哪些部分對記憶體層次結構造成了最大的壓力。
Windows 中的快取和效能最佳化
除了程式碼本身之外，許多用戶都疑惑，為什麼他們的 Windows 電腦運行速度如此緩慢，明明「理論上」配備了不錯的 CPU 和記憶體。部分原因在於系統本身、已安裝的應用程式以及累積的數位垃圾檔案。 它們會消耗 CPU、記憶體和快取。 持續不斷地佔用資源，導致用於重要任務的資源減少。透過在 Windows 10 和 Windows 11 中應用一些特定的最佳化措施，可以釋放 CPU 和 RAM 資源（例如，透過配置虛擬記憶體減少後台進程並提高系統快取相關資料的能力。根據初始情況的不同，這些改進可能從細微調整到整體效能的顯著提升不等。
更新 Windows 和驅動程式
很多人忽略的一個非常基本的步驟是保持作業系統和驅動程式的更新。 Windows 更新不僅帶來安全性修補程式：它們通常還包括其他更新。 資源管理的改進記憶體洩漏修復和 核優化.
在 Windows 設定面板（「開始」>「設定」>「更新與安全性」>「Windows 更新」）中，您可以搜尋常規更新和選用更新包，其中包括可最佳化 CPU、GPU 或晶片組效能的非關鍵驅動程式。安裝這些元件可以解決直接影響快取和記憶體利用率的瓶頸或穩定性問題。
停用 P2P 更新分發
自 Windows 10 起，系統可以透過 P2P 機制與其他電腦下載和共用更新。雖然這種機制很巧妙，但也意味著電腦… 佔用 CPU、網路和磁碟資源 幫助分發更新，但這並非總是可取的。
停用 Windows 更新中的「傳遞最佳化」功能，可以阻止您的電腦提供給其他電腦或下載更新片段。這可以釋放資源、減少後台活動，並提高整體效能，尤其是在配置較低的系統上。
釋放磁碟空間並刪除垃圾文件
當磁碟已滿或接近滿時，Windows 用於分頁和建立臨時檔案的空間就會減少，最終影響效能。使用內建工具… 磁盤清理 它可以刪除臨時檔案、更新殘留檔案、回收站中的項目以及其他不再需要的資料。
除了使用清理工具之外，建議定期清空回收站，並使用 Windows 儲存選項刪除累積的暫存檔案。系統磁碟機上的空間越少，記憶體子系統運作效率越高，磁碟快取功能也越有效。
優化啟動和後台程式
對於日常使用的電腦來說，CPU 和快取的最大敵人之一是那些自動啟動並在背景運行的程式：同步程式、更新程式、我們幾乎不使用的小工具等等。雖然它們看起來很輕量級，但每個程式都會增加執行緒、記憶體、磁碟存取和快取消耗。
從任務管理器或透過 Sysinternals 製程控制在「首頁」標籤上，可以 禁用不必要的應用程式 防止它們自動加載。此外，在隱私設定中，您可以控制哪些應用程式允許在背景運行。減少此清單不僅可以縮短啟動時間，還可以降低 CPU 和記憶體的持續負載。
減少圖形效果和通知
視窗動畫、透明效果和其他視覺美化效果都會消耗系統資源。在老舊或配置較低的電腦上，調整 Windows 設定以優先考慮效能而非外觀可能更有益。這可以透過系統進階選項中的「效能」設定來完成，選擇優先考慮速度的配置即可。
同樣，過多的通知也會導致問題。 讓使用者和團隊都感到飽和停用不必要的警報不僅可以改善使用者體驗，還可以防止後台進程或檢查過於頻繁地觸發。
功率模式、休眠和峰值性能
Windows 內建了多種電源計劃，直接影響 CPU 的管理方式：是優先考慮電池續航時間還是純粹的效能。對於連接電源的桌上型電腦和筆記型電腦，通常最好檢查這些設定。
El 快速入門 快速啟動結合了關機和休眠的功能，透過在關機前預先載入部分核心和驅動程式來加快啟動速度。啟用此功能可以顯著縮短啟動時間，但如果它導致更新或 BIOS 存取出現問題，建議暫時停用它。
另一方面，有一個 隱藏的「最高績效」計劃 這會迫使 CPU 和其他元件降低運作效率，優先考慮節能。啟用此功能可為高強度任務提供更多餘裕，但代價是發熱量、風扇噪音和功耗增加。
系統中空間和記憶體的高效管理
除了定期清理和控制駐留程式外，還有其他方法可以更好地利用電腦的實體資源，進而更好地利用 CPU 和磁碟快取。
桌面上堆滿圖標、快捷方式、資料夾和文件不僅僅是視覺上的混亂：Windows 需要管理所有這些內容，這會增加額外的工作。維護桌面整潔有序至關重要。 桌面比較乾淨。 將文件整理到磁碟機內的資料夾是一種簡單的操作，有助於營造更輕的環境。
使用雲端儲存解決方案來存放某些文件也有助於減少本地儲存空間的使用。如果操作得當（不完全依賴網路連線），就能減輕本地系統的負擔，並使其更有彈性。
具體技術：ReadyBoost、超頻和硬體
對於配備機械硬碟且記憶體有限的系統，Windows 內建了 ReadyBoost 等技術，可讓您使用高速 USB 隨身碟作為額外的快取。雖然它並非萬能靈藥，但在某些配置下可以提升效能。 減輕椎間盤的部分壓力.
另一方面，進階使用者可以使用諸如 Intel Extreme Tuning Utility（適用於未鎖頻處理器）之類的工具對 CPU 進行超頻。提高時脈頻率可以提升效能，但也會增加溫度和功耗，如果電壓和散熱管理不當，則存在系統不穩定甚至損壞的風險。
當所有軟體最佳化都無效時，就該考慮硬體升級了：例如用固態硬碟替換機械硬碟、擴充內存，甚至 變更處理器 或者說，整個系統。特別是固態硬碟 (SSD)，它能顯著提升系統的感知效能，因為它大幅縮短了磁碟存取時間，從而使磁碟快取和虛擬記憶體能夠更流暢地運作。
一起，結合 良好的資料結構和記憶體存取模式設計 透過精心配置 Windows（更新、輕量級、無垃圾或不必要的進程、使用合適的電源計劃，並在必要時藉助 ReadyBoost 等輔助工具或硬體改進），充分利用 CPU 緩存，可以讓你從同一台電腦中獲得更多性能，使應用程式響應更加敏捷，系統運行速度明顯更快，而無需任何「魔法」或深奧的技巧。
