Độ trễ bộ nhớ cache CPU: ảnh hưởng của nó đến hiệu năng

Informatec Digital » Recursos » Độ trễ bộ nhớ cache CPU: ảnh hưởng của nó đến hiệu năng

Khi thảo luận về bộ xử lý, trọng tâm hầu như luôn tập trung vào số lõi, tần số và quy trình sản xuất, nhưng bộ nhớ cache và độ trễ của nó lại thường bị bỏ qua mặc dù đóng vai trò quan trọng đối với hiệu năng thực tế của hệ thống. Hiểu được những gì xảy ra giữa CPU, cache và RAM cho phép chúng ta thấy tại sao hai bộ xử lý có cùng tần số lại có hiệu năng rất khác nhau.

Trong những năm gần đây, các khái niệm như độ trễ bộ nhớ cache, băng thông L1/L2/L3 và các công nghệ như 3D V-Cache của AMD đã trở thành những yếu tố quan trọng trong các bài kiểm tra hiệu năng, trò chơi và C++, nơi việc đo lường sự khác biệt chỉ vài nano giây cũng có thể thay đổi hoàn toàn kết quả. Hãy cùng tìm hiểu mọi thứ về độ trễ bộ nhớ cache của CPU, tại sao nó lại quan trọng và cách đo lường nó trong thực tế.

Từ khoảng cách giữa CPU và RAM đến sự ra đời của bộ nhớ đệm.

Trong những năm 80, tốc độ xử lý của bộ vi xử lý tăng nhanh hơn nhiều so với tốc độ bộ nhớ . CPU bắt đầu thực thi các lệnh với tốc độ chóng mặt, trong khi thời gian truy cập RAM vẫn tương đối dài. Kết quả là một nút thắt cổ chai liên tục: bộ xử lý phải dành một lượng thời gian đáng kể để chờ dữ liệu đến.

Để giải quyết khoảng cách hiệu năng này, các kỹ sư đã giới thiệu bộ nhớ cache như một lớp trung gian giữa CPU và RAM. Ý tưởng rất đơn giản nhưng mạnh mẽ: lưu trữ dữ liệu và các lệnh mà CPU có nhiều khả năng cần trong thời gian ngắn nhất tại vị trí rất gần bộ xử lý và trong bộ nhớ cực nhanh. Điều này giúp giảm độ trễ hiệu quả và che giấu sự chậm chạp tương đối của RAM.

Trong một máy tính cá nhân hiện đại, chúng ta có thể phân biệt rõ ràng ba cấp độ lưu trữ: bộ nhớ trong (HDD, SSD), dung lượng lớn nhưng tốc độ chậm; RAM , nhanh hơn nhiều nhưng vẫn có độ trễ đáng kể; và bộ nhớ đệm tích hợp trong CPU , dung lượng nhỏ nhưng tốc độ nhanh nhất.

Bộ nhớ đệm không chỉ có ở bộ xử lý: ổ cứng, SSD, GPU, máy in và các thiết bị khác cũng có bộ nhớ đệm nội bộ riêng để tăng tốc độ truy cập dữ liệu. Tuy nhiên, bộ nhớ đệm của CPU có tác động trực tiếp nhất đến trải nghiệm người dùng hàng ngày.

Bộ nhớ cache của CPU là gì và nó hoạt động như thế nào?

Bộ nhớ đệm CPU là một loại bộ nhớ SRAM được tích hợp vào chip xử lý , có khả năng hoạt động ở tốc độ cực cao và độ trễ chỉ bằng một phần nhỏ của nano giây. Không giống như RAM (DRAM), nó không cần làm mới liên tục, chi phí sản xuất cao hơn và dung lượng nhỏ hơn nhiều; do đó, nó chỉ được dành riêng cho dữ liệu quan trọng, có thời gian truy cập rất ngắn.

Chức năng chính của bộ nhớ cache là hoạt động như một bộ đệm cực nhanh giữa các lõi CPU và RAM . Khi một chương trình được khởi chạy, mã và dữ liệu của nó trước tiên được tải từ bộ nhớ lưu trữ vào không gian địa chỉ của RAM. Từ đó, bộ điều khiển bộ nhớ tích hợp của CPU sẽ đưa các khối có khả năng được sử dụng nhất vào bộ nhớ cache, dựa trên các mẫu truy cập và thuật toán dự đoán.

Quy trình điển hình như sau: CPU yêu cầu một địa chỉ bộ nhớ, trước tiên kiểm tra bộ nhớ đệm L1 , sau đó là L2, và cuối cùng là L3. Nếu dữ liệu được tìm thấy ở bất kỳ cấp độ nào trong số này, thì xảy ra hiện tượng "truy cập thành công" vào bộ nhớ đệm, yêu cầu được xử lý nhanh chóng và tiết kiệm được nhiều chu kỳ xung nhịp. Nếu không tìm thấy ở bất kỳ cấp độ nào trong số này, thì xảy ra hiện tượng "truy cập thất bại" vào bộ nhớ đệm, và dữ liệu phải được truy xuất từ ​​RAM, nơi có độ trễ cao hơn và băng thông hiệu quả thấp hơn đối với các thao tác nhỏ.

Thiết kế hệ thống phân cấp bộ nhớ này hướng đến sự cân bằng: các bộ nhớ đệm nhỏ, cực nhanh nằm gần lõi xử lý , và các lớp bộ nhớ đệm lớn hơn nhưng chậm hơn khi chúng càng cách xa các đơn vị thực thi. Toàn bộ hiệu năng kỳ diệu của một CPU hiện đại đều phụ thuộc vào việc tối đa hóa số lần truy cập thành công và giảm thiểu chi phí truy cập thất bại.

Các cấp độ bộ nhớ đệm: L1, L2, L3 và thậm chí cả L4

Các bộ vi xử lý hiện đại thường có ba cấp bộ nhớ đệm tích hợp trong chính chip: L1, L2 và L3 . Một số mẫu cụ thể cũng bao gồm cấp L4, thường được triển khai dưới dạng một chip riêng biệt tương tự như eDRAM cho các tác vụ rất cụ thể, chẳng hạn như cung cấp thêm tài nguyên cho GPU tích hợp.

Mỗi cấp độ bộ nhớ đệm được đặc trưng bởi một tam giác các yếu tố: khoảng cách vật lý đến lõi, độ trễ và dung lượng. Càng gần các đơn vị thực thi, độ trễ càng thấp, nhưng dung lượng cũng càng nhỏ, vì chi phí về bóng bán dẫn tăng lên đáng kể.

Kho chứa L1: tuyến phòng thủ đầu tiên.

Bộ nhớ cache L1 nằm gần nhân hệ điều hành nhất và là bộ nhớ cache nhanh nhất . Nó thường được chia thành hai khối riêng biệt: bộ nhớ cache dữ liệu L1 (L1D) và bộ nhớ cache lệnh L1 (L1I). Khối đầu tiên lưu trữ các toán hạng cần được xử lý, trong khi khối thứ hai lưu trữ các lệnh đã được giải mã mà nhân hệ điều hành sẽ thực thi.

Mỗi lõi xử lý có bộ nhớ đệm L1 riêng, không dùng chung với các lõi khác, nghĩa là không có sự đồng bộ trực tiếp giữa bộ nhớ đệm L1 giữa các lõi khác nhau. Thông thường, trong nhiều kiến ​​trúc hiện đại, mỗi lõi có khoảng 32 KB bộ nhớ đệm L1D và 32 KB bộ nhớ đệm L1I , mặc dù một số thiết kế tăng các giá trị này. Một số bộ xử lý hoặc máy chủ cao cấp có thể có dung lượng lớn hơn một chút.

Về hiệu năng, L1 cung cấp độ trễ dưới nano giây và tốc độ đọc tối đa lên đến hàng nghìn GB/giây trong các công cụ đo hiệu năng như AIDA64. Ví dụ, một bộ xử lý Ryzen hiện đại có thể đạt được độ trễ L1 khoảng 0,7 ns với băng thông vượt quá 2.700 GB/giây, với chi phí là dung lượng nhỏ, chẳng hạn như tổng bộ nhớ cache L1 là 512 KB trên tất cả các lõi.

Bộ nhớ đệm L2: sự cân bằng giữa kích thước và tốc độ

Bộ nhớ đệm L2 nằm ngay sau L1, đóng vai trò là lớp sao lưu thứ hai . Độ trễ của nó cao hơn một chút, nhưng vẫn rất thấp so với RAM. Chức năng của nó là lưu trữ dữ liệu không vừa với L1 nhưng vẫn được sử dụng khá thường xuyên.

Trong hầu hết các kiến ​​trúc dành cho người tiêu dùng, mỗi lõi xử lý đều có bộ nhớ đệm Layer 2 riêng , không được phân chia thành dữ liệu và lệnh, và thường có kích thước từ 256 KB đến 1 MB mỗi lõi, mặc dù trong thế hệ máy chủ mới nhất, kích thước 1 MB mỗi lõi trở lên là khá phổ biến. Về hiệu năng, băng thông thường đạt trên 1.300 GB/giây với độ trễ khoảng 2,7 ns.

Do có dung lượng lớn hơn, lớp L2 giúp giảm thiểu các lỗi có thể truyền đến lớp L3 hoặc RAM nếu chỉ có lớp L1, duy trì sự cân bằng tốt giữa dung lượng và độ trễ . Trong một số cấu trúc liên kết, nhiều lõi được nhóm thành các cụm chia sẻ một lớp L2 chung, tạo ra các tính năng nhất quán bổ sung và các bus nội bộ.

L3 hoặc LLC (Bộ nhớ đệm cấp cuối)

Bộ nhớ đệm L3 thường được gọi là LLC (Last Level Cache) vì trong hầu hết các bộ xử lý máy tính để bàn, nó là bộ nhớ đệm cấp cuối cùng trước RAM. Đây là bộ nhớ đệm lớn nhất và cũng chậm nhất trong gói chính của CPU.

Không giống như bộ nhớ đệm L1 và L2, bộ nhớ đệm L3 thường được chia sẻ giữa tất cả các lõi hoặc các nhóm lõi lớn (ví dụ: các khối tám lõi trong một số thiết kế của AMD). Điều này cho phép bất kỳ lõi nào cũng có thể tái sử dụng dữ liệu do lõi khác cung cấp, làm tăng tỷ lệ truy cập thành công tổng thể, mặc dù nó làm phức tạp đáng kể logic về tính nhất quán.

Ở bộ xử lý máy tính để bàn tầm trung, không hiếm khi thấy bộ nhớ đệm L3 có dung lượng từ 4 MB đến 32 MB, trong khi các CPU máy chủ, chẳng hạn như một số dòng AMD EPYC, dễ dàng đạt đến hàng trăm MB . Cái giá phải trả là độ trễ cao hơn, có thể lên đến khoảng 10 ns, và băng thông thấp hơn so với bộ nhớ đệm L1 và L2, mặc dù vẫn khá đáng kể: khoảng 900 GB/s trong các hệ thống mạnh mẽ.

Bộ nhớ đệm L4: các trường hợp đặc biệt

Bộ nhớ đệm L4 là một trường hợp đặc biệt, không xuất hiện trong hầu hết các CPU dành cho người tiêu dùng . Nó thường được triển khai dưới dạng eDRAM bên ngoài gói CPU chính, nhưng nằm rất gần trên bo mạch chủ, và được sử dụng trong các bộ xử lý có GPU tích hợp để tăng thêm băng thông đồ họa.

Một ví dụ điển hình là bộ xử lý Intel Core i5-5775C, kết hợp 6 MB bộ nhớ đệm L3 với 128 MB eDRAM được sử dụng làm bộ nhớ đệm L4 cho GPU tích hợp Iris Pro 6200. Bộ nhớ này hoạt động như một bộ đệm cho dữ liệu đồ họa, giảm tải cho RAM hệ thống và cải thiện hiệu năng chơi game so với các iGPU khác không có hỗ trợ này.

Độ trễ bộ nhớ cache và tác động của nó đến hiệu năng

Từ khóa quan trọng khi nói về bộ nhớ đệm CPU là độ trễ: thời gian CPU cần để truy cập dữ liệu được lưu trữ ở một cấp độ bộ nhớ cụ thể. Độ trễ này được đo bằng nanogiây (ns), và mặc dù những khoảng thời gian này có vẻ nhỏ đến mức khó tin, nhưng khi cộng lại thành hàng triệu lần truy cập mỗi giây, chúng tạo ra sự khác biệt đáng kể.

Trong một cấu trúc bộ nhớ đệm điển hình, độ trễ L1 là thấp nhất (dưới 1 ns), độ trễ L2 được nhân lên nhiều lần (ví dụ: 2,7 ns), và độ trễ L3 lại tăng lên (có thể đạt 10 ns hoặc hơn, đặc biệt nếu nó nằm trên một chip riêng biệt). Khi không tìm thấy dữ liệu phù hợp trong bất kỳ bộ nhớ đệm nào, bộ xử lý phải truy cập RAM, nơi độ trễ có thể tăng vọt lên đến vài chục nano giây, ngay cả với bộ nhớ DDR5 tốc độ cao.

Một ví dụ thực tế: với bộ xử lý Ryzen 7 7700X và bộ nhớ DDR5 ở tốc độ 6.000 MT/s và CL30, ta có thể thấy độ trễ RAM trung bình khoảng 70 ns, so với 0,7 ns ở L1, 2,7 ns ở L2 và khoảng 10 ns ở L3. Sự khác biệt này giải thích tại sao việc CPU tìm thấy dữ liệu trong bộ nhớ cache lại quan trọng đến vậy: mỗi lần truy cập không thành công vào bộ nhớ cache sẽ buộc CPU phải chờ đợi lâu hơn đáng kể.

Độ trễ không chỉ phụ thuộc vào công nghệ bộ nhớ được sử dụng mà còn phụ thuộc vào khoảng cách vật lý và cấu trúc mạng . Trong các thiết kế cũ hơn, nơi bộ nhớ đệm L2 và L3 được gắn trên bo mạch chủ, cách xa CPU hơn, độ trễ cao hơn nhiều và hiệu năng bị ảnh hưởng. Việc tích hợp tất cả bộ nhớ đệm vào gói CPU đã giảm đáng kể những độ trễ này.

Ngoài độ trễ, băng thông bộ nhớ đệm hiệu quả (đo bằng GB/s) cho biết lượng dữ liệu có thể được truyền tải trên mỗi đơn vị thời gian. Ở đây, L1 lại một lần nữa chiếm ưu thế với tốc độ đọc vượt quá 2.000 GB/s trong các bài kiểm tra hiệu năng tổng hợp, tiếp theo là L2 và L3 với các giá trị khiêm tốn hơn, nhưng vẫn cao hơn nhiều so với RAM.

Lượt truy cập, lỗi bộ nhớ cache và tính nhất quán giữa các lõi

Khi CPU tìm kiếm dữ liệu và tìm thấy nó trong một trong các cấp bộ nhớ cache, ta gọi đó là một lần truy cập thành công vào bộ nhớ cache (cache hit) . Nếu không tìm thấy, sẽ xảy ra một lần truy cập thất bại vào bộ nhớ cache (cache miss ), và CPU phải chuyển sang cấp bộ nhớ cache tiếp theo hoặc, trong trường hợp xấu nhất, truy cập vào bộ nhớ chính. Càng nhiều lần truy cập thành công vào bộ nhớ cache ở các cấp cao hơn, hiệu suất tổng thể của hệ thống càng tốt.

Lỗi truy cập bộ nhớ cache không chỉ làm tăng độ trễ mà còn có thể khiến CPU phải lặp lại các chu kỳ làm việc hoặc sắp xếp lại các lệnh vì dữ liệu chưa có sẵn, điều này làm "phá vỡ" đường ống xử lý nội bộ của bộ xử lý và làm giảm hiệu suất sử dụng các đơn vị chức năng của nó.

Trong các bộ xử lý đa lõi, tính nhất quán bộ nhớ cache cũng đóng vai trò quan trọng ; tức là duy trì một cái nhìn nhất quán về dữ liệu được chia sẻ giữa các lõi có bộ nhớ cache L1 và L2 riêng. Các giao thức nhất quán phức tạp xử lý việc vô hiệu hóa và cập nhật các dòng bộ nhớ cache khi một lõi khác sửa đổi dữ liệu, điều này làm tăng lưu lượng nội bộ và có thể ảnh hưởng đến độ trễ thực tế.

Kiến trúc bên trong cũng đóng vai trò quan trọng. Trong các thiết kế nguyên khối như nhiều bộ xử lý Intel Core, tất cả các lõi đều truy cập vào một bộ nhớ đệm L3 duy nhất với độ trễ khá đồng đều. Trong các kiến ​​trúc chiplet hoặc MCM, chẳng hạn như các thế hệ đầu tiên của AMD Ryzen, bộ nhớ đệm L3 được tổ chức thành các khối (CCX, CCD), và một số lõi chỉ có thể truy cập trực tiếp vào một phần của bộ nhớ đệm L3, gây ra độ trễ bổ sung khi di chuyển từ khối này sang khối khác.

Độ trễ bộ nhớ cache so với RAM: tần số, thời gian và bus

Khi thông tin không có sẵn trong bộ nhớ cache, RAM sẽ được sử dụng . Ở đây, hai khái niệm thường bị nhầm lẫn: độ trễ và tần số. Tần số (thường được biểu thị bằng MT/s hoặc MHz) cho biết lượng dữ liệu có thể được truyền mỗi giây, trong khi độ trễ (tính bằng ns hoặc thông qua các thông số đo thời gian như CL16, CL30, v.v.) cho biết thời gian cần thiết để dữ liệu đầu tiên được truyền đến.

RAM có tần số cao nhưng độ trễ rất cao có thể cung cấp băng thông tốt nhưng thời gian phản hồi kém hơn, điều này gây bất lợi cho các quy trình nhạy cảm với độ trễ như chơi game hoặc một số tác vụ có truy cập không tuần tự. Ngược lại, các mô-đun có độ trễ thấp hơn cải thiện tốc độ truy cập lần đầu, ngay cả khi băng thông thô của chúng không ấn tượng bằng.

Độ rộng bus giữa CPU và RAM cũng rất quan trọng. Trên hầu hết các nền tảng máy tính để bàn, mỗi kênh bộ nhớ có bus 64 bit, và với cấu hình kênh đôi, con số này tăng lên 128 bit hiệu dụng, gấp đôi lượng dữ liệu có thể truyền đồng thời giữa bộ xử lý và RAM.

Sự kết hợp càng hiệu quả giữa tần số, độ trễ và băng thông bus thì việc truy cập không thành công vào bộ nhớ cache càng ít gây ảnh hưởng. Tuy nhiên, hiện nay chưa có RAM nào có thể đạt được độ trễ và băng thông như bộ nhớ cache L1, L2 hoặc L3, vì vậy ưu tiên vẫn là tối đa hóa số lần truy cập thành công vào bộ nhớ cache.

RAM bộ nhớ tạm so với bộ nhớ đệm tự động

Bên trong bộ xử lý, chúng ta không chỉ tìm thấy bộ nhớ đệm tự động được quản lý bằng phần cứng. Một số thiết kế còn bao gồm RAM Scratchpad , một loại bộ nhớ trong rất nhanh, khác với bộ nhớ đệm, không tự quản lý.

Sự khác biệt rất rõ ràng: bộ nhớ cache sao chép một cách minh bạch các dòng dữ liệu gần với các địa chỉ đang được sử dụng, tuân theo các thuật toán nội bộ, và lập trình viên không có quyền kiểm soát trực tiếp đối với nó. Ngược lại, bộ nhớ RAM tạm thời (Scratchpad RAM) hoạt động như một bộ nhớ RAM cục bộ nhỏ, nơi phần mềm tự quyết định dữ liệu nào cần lưu trữ, cách sắp xếp chúng và khi nào cần xóa chúng.

Cách tiếp cận này phổ biến hơn trong các bộ xử lý nhúng, DSP và một số GPU, nơi cần có các mẫu truy cập có tính dự đoán cao và cần tránh sự không chắc chắn của bộ nhớ đệm tự động. Trên máy tính để bàn và máy chủ, người dùng cuối hiếm khi tương tác trực tiếp với RAM Scratchpad.

Độ trễ bộ nhớ cache, kiểm tra hiệu năng và những hiệu ứng thú vị

Trong thế giới đo hiệu năng, người ta thường đo độ trễ bộ nhớ cache bằng nano giây và băng thông bằng GB/s cho từng cấp độ (L1, L2, L3) bằng các công cụ như AIDA64, hoặc bằng cách tự phát triển các bài kiểm tra bằng C++ thực hiện các quét cụ thể trên các mảng lớn.

Những bài kiểm tra này có thể tiết lộ những hành vi kỳ lạ. Ví dụ, khi đo băng thông đọc L2 và L3 trên một hệ thống dường như đang ở trạng thái rảnh rỗi, người ta có thể quan sát thấy rằng các giá trị L2 đôi khi giảm từ khoảng 80 GB/s xuống khoảng 60 GB/s , và các giá trị L3 có thể giảm từ khoảng 45 GB/s xuống chỉ còn hơn 35 GB/s mà không rõ lý do.

Một lời giải thích phổ biến là do hiện tượng giảm hiệu năng đột ngột, hay những thay đổi động về tần số và trạng thái nguồn bên trong của CPU . Tuy nhiên, có những trường hợp khi mở một công cụ giám sát như HWINFO, điểm số lại tự động trở về mức "tốt". Khi đóng công cụ, điểm số lại giảm xuống.

Thông thường, các chương trình như HWINFO sẽ giữ CPU ở trạng thái hiệu năng cao hơn , buộc nó hoạt động ở tần số ổn định hơn và ngăn các phần của vòng trong hoặc bộ nhớ cache chuyển sang chế độ ngủ sâu. Nếu bài kiểm tra hiệu năng được chạy khi không có chương trình nào khác đang hoạt động, bộ xử lý có xu hướng tiết kiệm năng lượng, điều này có thể làm giảm băng thông hiệu quả đo được một cách không liên tục, ngay cả khi độ trễ trung bình không thay đổi đáng kể.

Trong những trường hợp như vậy, các giải pháp đã được đề xuất, chẳng hạn như duy trì một luồng "giữ kết nối" thực hiện các tác vụ nhẹ để ngăn CPU chuyển sang chế độ ngủ, nhưng không phải lúc nào cũng dễ dàng tái tạo hiệu quả của một công cụ giám sát, bởi vì mỗi kiến ​​trúc vi xử lý có tập hợp các trạng thái ngủ và chính sách nội bộ riêng.

Bộ nhớ đệm và hiệu năng chơi game

Trong trò chơi điện tử, bộ nhớ đệm L3 đóng vai trò cực kỳ quan trọng. Nhiều tác vụ chơi game được hưởng lợi rất nhiều từ khả năng lưu trữ nhiều dữ liệu và lệnh hơn ở gần CPU , từ cấu trúc cảnh đến dữ liệu vật lý và logic trò chơi. Càng ít truy cập RAM, FPS càng ổn định và càng ít biến động tốc độ khung hình.

Bộ xử lý với bộ nhớ đệm L3 lớn và được sử dụng hiệu quả có thể mang lại những cải thiện đáng kể về độ ổn định tốc độ khung hình, đặc biệt là trong các trò chơi hiện đại xử lý số lượng lớn đối tượng và thực hiện nhiều truy vấn lặp đi lặp lại đến các cấu trúc dữ liệu. Thay vì liên tục truy cập RAM (vốn chậm hơn nhiều và có độ trễ cao hơn), CPU có thể xử lý hầu hết các yêu cầu trực tiếp từ bộ nhớ đệm L3 của nó.

Tuy nhiên, bộ nhớ đệm không phải là phép màu. Một CPU có ít lõi, IPC thấp và tần số khiêm tốn vẫn sẽ bị hạn chế, ngay cả với dung lượng bộ nhớ đệm L3 khổng lồ. Sự kết hợp tối ưu cho chơi game thường là IPC cao, tần số tốt, bộ nhớ đệm dồi dào và RAM tốc độ cao với độ trễ thấp , để toàn bộ hệ thống giảm thiểu các điểm nghẽn.

Khi khởi chạy một trò chơi đòi hỏi cấu hình cao, nếu đo song song với một công cụ chấm điểm hiệu năng như AIDA64, bạn có thể thấy số lần truy cập bộ nhớ cache tăng đột biến . Nhiều hiện tượng giật hình nhỏ dễ nhận thấy trong một số tựa game là do lỗi truy cập bộ nhớ cache buộc hệ thống phải truy cập RAM, hoặc do thay đổi luồng làm phá vỡ tính cục bộ dữ liệu đã thiết lập.

Bộ nhớ đệm V-Cache 3D của AMD và cuộc đua giành thêm bộ nhớ L3

Để vượt qua giới hạn vật lý về những gì có thể tích hợp vào bộ nhớ cache L3 trên một mảnh silicon phẳng duy nhất, AMD đã giới thiệu công nghệ 3D V-Cache , bao gồm việc xếp chồng theo chiều dọc một chip cache L3 bổ sung lên trên CCD (chiplet) của bộ xử lý. Điều này giúp mở rộng đáng kể dung lượng bộ nhớ cache L3 mà không làm tăng kích thước đế của chip.

Các bộ vi xử lý Ryzen có hậu tố X3D, chẳng hạn như Ryzen 7 7800X3D hoặc 7950X3D, đã đưa ý tưởng này lên mức tối đa. Ví dụ, 7800X3D kết hợp 32 MB bộ nhớ đệm L3 trong CCD cơ bản với 64 MB được xếp chồng lên nhau, tổng cộng 96 MB bộ nhớ đệm L3 có thể truy cập được bởi tập hợp các lõi đó. 7950X3D thậm chí còn tiến xa hơn với 128 MB bộ nhớ đệm L3, ngoài ra còn có 1 MB bộ nhớ đệm L1 và 16 MB bộ nhớ đệm L2 được phân bổ cho tất cả các lõi của nó.

Tác động đến chơi game là rất lớn vì tỷ lệ truy cập bộ nhớ cache tăng vọt , giảm nhu cầu truy cập RAM cho nhiều cấu trúc trước đây không thể nằm gọn hoàn toàn trong bộ nhớ cache L3. Điều này giải thích tại sao các mô hình X3D này đã trở thành chuẩn mực cho hiệu năng chơi game thuần túy, ngay cả khi so sánh với các CPU có nhiều lõi hơn hoặc tốc độ xung nhịp cao hơn một chút.

Hiện tại, đối thủ cạnh tranh chính của nó, Intel, vẫn chưa đưa ra được giải pháp tương tự. Công ty này cho biết, hiện tại, họ ưu tiên tập trung vào hiệu năng tổng thể cân bằng hơn là phương pháp hướng đến chơi game như sử dụng các khối bộ nhớ cache L3 xếp chồng lớn. Điều này không loại trừ khả năng họ sẽ dần tăng kích thước bộ nhớ cache của mình trong các thế hệ tương lai, nhưng dường như họ không có ý định áp dụng chính xác sơ đồ V-Cache tương tự trong thời gian ngắn.

Cách kiểm tra dung lượng bộ nhớ cache của bộ xử lý

Nếu bạn muốn biết CPU của mình có những bộ nhớ cache L1, L2 và L3 nào mà không cần phải mất công tìm kiếm tài liệu kỹ thuật, một trong những cách nhanh nhất là sử dụng các công cụ như CPU-Z trên Windows. Chương trình miễn phí này hiển thị, trong các tab riêng biệt, kích thước của từng cấp độ bộ nhớ cache, cũng như số lõi, luồng và các dữ liệu liên quan khác.

Một lựa chọn khác là truy cập trang web chính thức của nhà sản xuất (Intel ARK, bảng thông tin sản phẩm AMD, v.v.), mặc dù thường chỉ có bộ nhớ cache L3 được mô tả rõ ràng, và bạn phải tìm hiểu kỹ các tài liệu kỹ thuật để tìm thấy thông tin về bộ nhớ cache L1 và L2. Các bài đánh giá và phân tích từ các phương tiện truyền thông chuyên ngành cũng thường phân tích chi tiết thông tin này, cùng với các điểm chuẩn về độ trễ và băng thông.

Lựa chọn và sử dụng hiệu quả bộ nhớ RAM và bộ nhớ đệm.

Bộ nhớ đệm có thể che giấu nhiều nhược điểm của RAM, nhưng không phải tất cả. Khi lắp ráp máy tính, điều quan trọng là phải chọn RAM có tần số, độ trễ và dung lượng phù hợp với mục đích sử dụng. Một máy tính dùng cho công việc văn phòng hoặc duyệt web nhẹ có thể hoạt động tốt với 8-16 GB và các mô-đun tầm trung, trong khi đối với chơi game và chỉnh sửa video, 16 GB hoặc 32 GB thường được khuyến nghị.

Luôn nên kiểm tra khả năng tương thích của RAM với bo mạch chủ và CPU (loại DDR3, DDR4, DDR5, tốc độ tối đa được hỗ trợ, cấu hình XMP/EXPO, v.v.). Cũng nên tìm sự cân bằng giữa tần số cao và độ trễ hợp lý, thay vì chỉ tập trung vào con số MHz hào nhoáng.

Để tận dụng tối đa bộ nhớ và bộ nhớ đệm, bạn nên giữ cho hệ thống không có các chương trình chạy ngầm không cần thiết , cập nhật BIOS và trình điều khiển, và đối với các máy tính sử dụng nhiều tài nguyên, hãy xóa các tập tin tạm thời và bộ nhớ đệm trình duyệt không còn hữu ích. Bất cứ điều gì làm giảm tải cho RAM và CPU đều giúp giải phóng các tài nguyên tốc độ cao đó cho những việc thực sự quan trọng.

Ở cấp độ BIOS, việc bật các cấu hình bộ nhớ tự động (XMP, DOCP, EXPO) thường là một cách đơn giản để đảm bảo RAM hoạt động ở tốc độ mà nhà sản xuất đã cam kết, tránh bị kẹt ở các giá trị bảo thủ làm hạn chế băng thông.

Hiểu cách hoạt động của độ trễ bộ nhớ cache, cấu trúc phân cấp L1/L2/L3, mối quan hệ với RAM và các công nghệ như 3D V-Cache cho phép bạn đọc các thông số kỹ thuật CPU và kết quả benchmark dưới một góc nhìn mới: ngoài tốc độ GHz và số lõi, phần lớn sự mượt mà của hệ thống được quyết định trong vài nano giây mà bộ xử lý cần để tìm hoặc không tìm thấy dữ liệu trong bộ nhớ gần nhất.