ความหน่วงของแคช CPU: ส่งผลต่อประสิทธิภาพอย่างไร

Informatec Digital » แหล่งข้อมูล » ความหน่วงของแคช CPU: ผลกระทบต่อประสิทธิภาพ

เมื่อพูดถึงโปรเซสเซอร์ จุดสนใจมักจะอยู่ที่จำนวนคอร์ ความถี่ และกระบวนการผลิต แต่หน่วยความจำแคชและเวลาแฝงของมันกลับถูกมองข้ามไปอย่างมาก ทั้งๆ ที่เป็นกุญแจสำคัญต่อประสิทธิภาพการทำงานของระบบ การทำความเข้าใจสิ่งที่เกิดขึ้นระหว่าง CPU แคช และ RAM จะช่วยให้เราเข้าใจว่าทำไมโปรเซสเซอร์สองตัวที่มีความถี่เท่ากันจึงทำงานได้แตกต่างกันมาก

ในช่วงไม่กี่ปีที่ผ่านมา แนวคิดต่างๆ เช่นความหน่วงของแคช แบนด์วิดท์ L1/L2/L3และเทคโนโลยีต่างๆ เช่น 3D V-Cache ของ AMD ได้กลายเป็นปัจจัยสำคัญในการทดสอบประสิทธิภาพ เกม และการทดสอบประสิทธิภาพของ C++ ซึ่งแม้เพียงความแตกต่างไม่กี่นาโนวินาทีก็สามารถเปลี่ยนแปลงผลลัพธ์ได้อย่างสิ้นเชิง มาดูกันว่าเบื้องหลังความหน่วงของแคช CPU คืออะไร ทำไมมันถึงสำคัญ และวิธีการวัดในทางปฏิบัติเป็นอย่างไร

จากช่องว่างระหว่าง CPU กับ RAM สู่การกำเนิดของหน่วยความจำแคช

ในช่วงทศวรรษ 80 ความเร็วของโปรเซสเซอร์เติบโตเร็วกว่าความเร็วของหน่วยความจำมากซีพียูเริ่มประมวลผลคำสั่งด้วยความเร็วสูง ในขณะที่เวลาในการเข้าถึงแรมยังคงค่อนข้างนาน ผลที่ตามมาคือปัญหาคอขวดอย่างต่อเนื่อง: โปรเซสเซอร์ใช้เวลาจำนวนมากในการรอข้อมูลเข้ามา

เพื่อแก้ไขช่องว่างด้านประสิทธิภาพนี้ วิศวกรได้นำหน่วยความจำแคชมาใช้เป็นชั้นกลางระหว่าง CPU และ RAM แนวคิดนี้เรียบง่ายแต่ทรงพลัง: คือการจัดเก็บข้อมูลและคำสั่งที่ CPU มีแนวโน้มที่จะต้องการใช้ในระยะสั้นไว้ใกล้กับโปรเซสเซอร์มากที่สุดและในหน่วยความจำที่เร็วมาก ซึ่งจะช่วยลดความหน่วงแฝงและปกปิดความช้าของ RAM ได้

ในพีซีสมัยใหม่ เราสามารถแยกแยะระดับการจัดเก็บข้อมูลได้อย่างชัดเจน 3 ระดับ ได้แก่หน่วยความจำหลัก (HDD, SSD) ซึ่งมีขนาดใหญ่แต่ช้า หน่วยความจำ RAMซึ่งเร็วกว่ามากแต่ก็ยังมีความหน่วงอยู่พอสมควร และหน่วยความจำแคชที่รวมอยู่ในซีพียูซึ่งมีขนาดเล็กมาก แต่เร็วที่สุด

แคชไม่ได้มีอยู่เฉพาะในโปรเซสเซอร์เท่านั้นฮาร์ดไดรฟ์, SSD, GPU, เครื่องพิมพ์ และอุปกรณ์อื่นๆก็มีแคชภายในของตัวเองเพื่อเพิ่มความเร็วในการเข้าถึงข้อมูลเช่นกัน อย่างไรก็ตาม แคชของ CPU มีผลกระทบโดยตรงมากที่สุดต่อประสบการณ์การใช้งานในชีวิตประจำวันของผู้ใช้

หน่วยความจำแคชของ CPU คืออะไร และทำงานอย่างไร?

แคชของซีพียูเป็นหน่วยความจำ SRAM ที่รวมอยู่ในชิปประมวลผลสามารถทำงานได้ด้วยความเร็วสูงมากและมีความหน่วงเพียงเศษเสี้ยวของนาโนวินาที แตกต่างจาก RAM (DRAM) ตรงที่ไม่ต้องมีการรีเฟรชอย่างต่อเนื่อง มีต้นทุนการผลิตสูงกว่า และมีความจุที่น้อยกว่ามาก ดังนั้นจึงสงวนไว้สำหรับข้อมูลสำคัญที่ต้องการใช้งานในระยะสั้นเท่านั้น

หน้าที่หลักของแคชคือการทำหน้าที่เป็นบัฟเฟอร์ความเร็วสูงระหว่างคอร์ของซีพียูและแรมเมื่อโปรแกรมเริ่มทำงาน โค้ดและข้อมูลของโปรแกรมจะถูกโหลดจากหน่วยเก็บข้อมูลไปยังพื้นที่แอดเดรสของแรมก่อน จากนั้น ตัวควบคุมหน่วยความจำในตัวของซีพียูจะนำบล็อกที่น่าจะถูกใช้งานมากที่สุดเข้ามาในแคช โดยพิจารณาจากรูปแบบการเข้าถึงและอัลกอริธึมการคาดการณ์

กระบวนการโดยทั่วไปมีดังนี้: CPU ร้องขอที่อยู่หน่วยความจำ โดยตรวจสอบแคช L1 ก่อน จากนั้น L2 และสุดท้าย L3 หากพบข้อมูลในระดับใดระดับหนึ่ง จะเกิด "แคชฮิต" การร้องขอจะได้รับการตอบสนองอย่างรวดเร็ว และประหยัดรอบการทำงานของนาฬิกาได้มาก หากไม่พบข้อมูลในระดับใดระดับหนึ่ง จะเกิด "แคชมิส" และต้องดึงข้อมูลจากRAM ซึ่งมีความหน่วงสูงกว่าและมีแบนด์วิดท์ที่มีประสิทธิภาพน้อยกว่าสำหรับการดำเนินการขนาดเล็ก

การออกแบบลำดับชั้นของหน่วยความจำนี้มีเป้าหมายเพื่อความสมดุล: แคชขนาดเล็กที่เร็วมากอยู่ใกล้กับแกนประมวลผลและแคชขนาดใหญ่ขึ้นเรื่อยๆ แต่ทำงานช้าลงเมื่ออยู่ห่างจากหน่วยประมวลผล ประสิทธิภาพอันน่าทึ่งของซีพียูสมัยใหม่ทั้งหมดขึ้นอยู่กับการเพิ่มจำนวนการเข้าถึงข้อมูลให้มากที่สุดและลดต้นทุนจากการเข้าถึงข้อมูลผิดพลาดให้น้อยที่สุด

ระดับแคช: L1, L2, L3 และแม้กระทั่ง L4

โดยทั่วไปแล้ว โปรเซสเซอร์สมัยใหม่จะมีแคชสามระดับรวมอยู่ในชิป ได้แก่L1, L2 และ L3บางรุ่นอาจมีแคชระดับ L4 เพิ่มเข้ามาด้วย ซึ่งมักจะถูกสร้างเป็นชิปแยกต่างหากคล้ายกับ eDRAM สำหรับงานเฉพาะเจาะจง เช่น การจัดสรรทรัพยากรเพิ่มเติมให้กับ GPU ในตัว

แคชแต่ละระดับมีลักษณะเฉพาะที่ประกอบด้วยปัจจัยสามประการ ได้แก่ ระยะทางทางกายภาพจากแกนประมวลผล ความหน่วง และความจุ ยิ่งอยู่ใกล้หน่วยประมวลผลมากเท่าใด ความหน่วงก็จะยิ่งต่ำลง แต่ขนาดก็จะเล็กลงด้วย เนื่องจากต้นทุนด้านทรานซิสเตอร์เพิ่มขึ้นอย่างมาก

แคช L1: แนวหน้าของการโจมตี

แคช L1 อยู่ใกล้กับเคอร์เนลมากที่สุดและเร็วที่สุดในบรรดาแคชทั้งหมดโดยปกติแล้วจะแบ่งออกเป็นสองส่วนที่แตกต่างกัน คือ แคชข้อมูล L1 (L1D) และแคชคำสั่ง L1 (L1I) ส่วนแรกจะเก็บตัวถูกดำเนินการที่จะถูกประมวลผล ในขณะที่ส่วนหลังจะเก็บคำสั่งที่ถอดรหัสแล้วซึ่งเคอร์เนลจะนำไปประมวลผล

แต่ละคอร์มีแคช L1 เป็นของตัวเอง ไม่ได้ใช้ร่วมกันกับคอร์อื่น หมายความว่าไม่มีการเชื่อมโยงข้อมูล L1 โดยตรงระหว่างคอร์ต่างๆ โดยทั่วไปแล้ว ในสถาปัตยกรรมสมัยใหม่หลายๆ แบบ จะมีแคชL1D ขนาด 32 KB และแคช L1I ขนาด 32 KB ต่อคอร์แต่บางดีไซน์อาจเพิ่มค่าเหล่านี้ขึ้นได้ อาจพบปริมาณที่มากกว่าเล็กน้อยในโปรเซสเซอร์หรือเซิร์ฟเวอร์ระดับไฮเอนด์บางรุ่น

ในแง่ของประสิทธิภาพ L1 ให้ความหน่วงต่ำกว่านาโนวินาทีและความเร็วในการอ่านสูงสุดหลายพัน GB/วินาทีในเครื่องมือทดสอบประสิทธิภาพ เช่น AIDA64 ตัวอย่างเช่น โปรเซสเซอร์ Ryzen รุ่นใหม่สามารถทำความหน่วงของ L1 ได้ประมาณ 0,7 นาโนวินาที พร้อมแบนด์วิดท์ที่เกิน 2.700 GB/วินาที โดยแลกมาด้วยขนาดที่เล็ก เช่น แคช L1 รวม 512 KB สำหรับทุกคอร์

แคช L2: ความสมดุลระหว่างขนาดและความเร็ว

แคช L2 อยู่ถัดจากแคช L1 ทำหน้าที่เป็นชั้นสำรองข้อมูลชั้นที่สองความหน่วงแฝงของมันสูงกว่าเล็กน้อย แต่ก็ยังต่ำมากเมื่อเทียบกับ RAM หน้าที่ของมันคือการจัดเก็บข้อมูลที่ไม่สามารถจัดเก็บใน L1 ได้ แต่ยังคงถูกใช้งานค่อนข้างบ่อย

ในสถาปัตยกรรมคอมพิวเตอร์สำหรับผู้บริโภคส่วนใหญ่ แต่ละคอร์จะมีแคชเลเยอร์ 2 ส่วนตัว ซึ่งไม่ได้แบ่งออกเป็นข้อมูลและคำสั่ง และโดยทั่วไปจะมีขนาดตั้งแต่ 256 KB ถึง 1 MB ต่อคอร์ แม้ว่าในเซิร์ฟเวอร์รุ่นล่าสุด ขนาด 1 MB ต่อคอร์หรือมากกว่านั้นจะเป็นเรื่องปกติก็ตาม ในแง่ของประสิทธิภาพ แบนด์วิดท์มากกว่า 1.300 GB/s พร้อมความหน่วงประมาณ 2,7 ns ถือเป็นเรื่องปกติ

เนื่องจากมีขนาดใหญ่กว่า เลเยอร์ L2 จึงช่วยลดข้อผิดพลาดที่อาจเกิดขึ้นในเลเยอร์ L3 หรือ RAM หากมีเพียงเลเยอร์ L1 เท่านั้น ซึ่งช่วยรักษาสมดุลที่ดีระหว่างความจุและเวลาแฝงในบางโครงสร้าง ระบบจะจัดกลุ่มคอร์หลายตัวเข้าด้วยกันเป็นคลัสเตอร์ที่ใช้เลเยอร์ L2 ร่วมกัน ซึ่งจะเพิ่มคุณสมบัติการเชื่อมต่อและบัสภายในเพิ่มเติม

L3 หรือ LLC (Last Level Cache)

แคช L3 มักถูกเรียกว่าLLC (Last Level Cache)เพราะในโปรเซสเซอร์เดสก์ท็อปส่วนใหญ่ มันคือแคชระดับสุดท้ายก่อนถึง RAM มันเป็นแคชที่ใหญ่ที่สุดและช้าที่สุดในแพ็กเกจหลักของ CPU

ต่างจากแคช L1 และ L2 แคช L3 มักจะใช้ร่วมกันระหว่างทุกคอร์หรือกลุ่มคอร์ขนาดใหญ่ (เช่น บล็อกแปดคอร์ในดีไซน์ของ AMD บางรุ่น) ซึ่งช่วยให้คอร์ใดๆ ก็สามารถนำข้อมูลที่นำเข้ามาจากคอร์อื่นมาใช้ซ้ำได้ ทำให้เพิ่มอัตราการเข้าถึงข้อมูลโดยรวม แต่ก็ทำให้ตรรกะความสอดคล้องซับซ้อนขึ้นอย่างมาก

ในโปรเซสเซอร์เดสก์ท็อประดับกลางนั้น ไม่ใช่เรื่องแปลกที่จะเห็นแคช L3 ที่มีขนาดตั้งแต่ 4 MB ถึง 32 MB ในขณะที่ CPU สำหรับเซิร์ฟเวอร์ เช่น AMD EPYC บางรุ่น สามารถมีแคช L3 ได้ถึงหลายร้อย MBข้อเสียคือความหน่วงที่สูงขึ้น ซึ่งอาจสูงถึงประมาณ 10 นาโนวินาที และแบนด์วิดท์ที่ต่ำกว่าแคช L1 และ L2 แม้ว่าจะยังถือว่ามากพอสมควร โดยอยู่ที่ประมาณ 900 GB/s ในระบบที่มีประสิทธิภาพสูง

แคช L4: กรณีพิเศษ

แคช L4 เป็นกรณีพิเศษที่ไม่พบในซีพียูสำหรับผู้บริโภคส่วนใหญ่ โดยทั่วไปแล้วจะถูกสร้างขึ้นในรูปแบบ eDRAM ที่อยู่นอกแพ็คเกจซีพียูหลัก แต่ตั้งอยู่ใกล้กับเมนบอร์ดมาก และใช้ในโปรเซสเซอร์ที่มี GPU ในตัว เพื่อเพิ่มแบนด์วิดท์กราฟิกให้มากขึ้น

ตัวอย่างคลาสสิกคือ Intel Core i5-5775C ซึ่งรวมแคช L3 ขนาด 6 MB เข้ากับeDRAM ขนาด 128 MB ที่ใช้เป็นแคช L4สำหรับ GPU ในตัว Iris Pro 6200 หน่วยความจำนี้ทำหน้าที่เป็นบัฟเฟอร์สำหรับข้อมูลกราฟิก ลดภาระของ RAM ของระบบ และปรับปรุงประสิทธิภาพการเล่นเกมเมื่อเทียบกับ iGPU อื่นๆ ที่ไม่มีคุณสมบัตินี้

ความหน่วงของแคชและผลกระทบต่อประสิทธิภาพ

คำสำคัญเมื่อเราพูดถึงแคชของ CPU คือความหน่วง (latency): เวลาที่ CPU ใช้ในการเข้าถึงข้อมูลที่จัดเก็บอยู่ในหน่วยความจำระดับใดระดับหนึ่ง ความหน่วงนี้วัดเป็นนาโนวินาที (ns) และถึงแม้ว่าเวลาเหล่านี้อาจดูเล็กน้อยอย่างเหลือเชื่อ แต่เมื่อรวมกันแล้วเป็นการเข้าถึงหลายล้านครั้งต่อวินาที ก็จะสร้างความแตกต่างอย่างมาก

ในโครงสร้างแคชแบบลำดับชั้นทั่วไปความหน่วงของแคช L1 จะต่ำที่สุด (น้อยกว่า 1 นาโนวินาที) ความหน่วงของแคช L2 จะเพิ่มขึ้นหลายเท่า (เช่น 2,7 นาโนวินาที) และความหน่วงของแคช L3 จะเพิ่มขึ้นอีก (อาจสูงถึง 10 นาโนวินาทีหรือมากกว่านั้น โดยเฉพาะอย่างยิ่งหากอยู่บนชิปแยกต่างหาก) เมื่อไม่มีข้อมูลที่ต้องการในแคชใดๆ โปรเซสเซอร์จะต้องเข้าถึง RAM ซึ่งความหน่วงอาจพุ่งสูงขึ้นถึงหลายสิบนาโนวินาที แม้ว่าจะใช้หน่วยความจำ DDR5 ที่รวดเร็วก็ตาม

ตัวอย่างในโลกแห่งความเป็นจริง: ด้วยโปรเซสเซอร์ Ryzen 7 7700X และหน่วยความจำ DDR5 ที่ความเร็ว 6.000 MT/s และ CL30เราจะเห็นค่าความหน่วงเฉลี่ยของ RAM ประมาณ 70 นาโนวินาที เมื่อเทียบกับ 0,7 นาโนวินาทีใน L1, 2,7 นาโนวินาทีใน L2 และประมาณ 10 นาโนวินาทีใน L3 ความแตกต่างนี้อธิบายได้ว่าทำไมการค้นหาข้อมูลในแคชจึงมีความสำคัญอย่างยิ่งสำหรับ CPU เพราะการค้นหาไม่พบในแคชแต่ละครั้งจะทำให้ต้องรอเวลานานขึ้นอย่างมาก

ความหน่วงไม่ได้ขึ้นอยู่กับเทคโนโลยีหน่วยความจำที่ใช้เท่านั้น แต่ยังขึ้นอยู่กับระยะทางทางกายภาพและโครงสร้างด้วย ในการออกแบบรุ่นเก่าที่แคช L2 และ L3 ติดตั้งอยู่บนเมนบอร์ด ซึ่งอยู่ห่างจาก CPU มาก ความหน่วงจะสูงกว่ามากและประสิทธิภาพก็ลดลง การรวมแคชทั้งหมดไว้ในแพ็คเกจ CPU ช่วยลดความล่าช้าเหล่านี้ได้อย่างมาก

นอกจากค่าความหน่วงแล้วแบนด์วิดท์แคชที่มีประสิทธิภาพ (วัดเป็น GB/s) ยังบ่งบอกถึงปริมาณข้อมูลที่สามารถถ่ายโอนได้ต่อหน่วยเวลา ในส่วนนี้ L1 ยังคงครองตำแหน่งสูงสุดด้วยความเร็วในการอ่านที่เกิน 2.000 GB/s ในการทดสอบประสิทธิภาพแบบจำลอง ตามมาด้วย L2 และ L3 ที่มีค่าต่ำกว่า แต่ก็ยังสูงกว่า RAM มาก

การเข้าถึงแคช การพลาดแคช และความสอดคล้องข้ามคอร์

เมื่อซีพียูค้นหาข้อมูลและพบในแคชระดับใดระดับหนึ่ง เราเรียกว่า " แคชฮิต" (cache hit ) หากไม่พบ จะ เกิด " แคชมิส" (cache miss ) และซีพียูจะต้องค้นหาในระดับถัดไป หรือในกรณีที่แย่ที่สุด อาจต้องใช้หน่วยความจำหลัก ยิ่งมีแคชฮิตในระดับที่สูงขึ้นมากเท่าไหร่ ประสิทธิภาพโดยรวมของระบบก็จะยิ่งดีขึ้นเท่านั้น

การเข้าถึงแคชพลาดไม่เพียงแต่ทำให้เกิดความล่าช้าเท่านั้น แต่ยังอาจทำให้ CPU ต้องทำงานซ้ำหรือจัดลำดับคำสั่งใหม่ เนื่องจากข้อมูลยังไม่พร้อมใช้งาน ซึ่งจะ "ทำลาย" กระบวนการทำงานภายในของโปรเซสเซอร์และลดประสิทธิภาพการใช้งานของหน่วยประมวลผลลง

ในโปรเซสเซอร์แบบมัลติคอร์ ความสอดคล้องของแคชก็มีบทบาทสำคัญเช่นกันกล่าวคือ การรักษาความสอดคล้องของมุมมองข้อมูลที่ใช้ร่วมกันระหว่างคอร์ต่างๆ ที่มีแคช L1 และ L2 ของตนเอง โปรโตคอลความสอดคล้องที่ซับซ้อนจะจัดการกับการทำให้แคชไม่ถูกต้องและการอัปเดตแคชไลน์เมื่อคอร์อื่นแก้ไขข้อมูล ซึ่งจะเพิ่มปริมาณการรับส่งข้อมูลภายในและอาจส่งผลต่อความหน่วงแฝงที่มีประสิทธิภาพ

สถาปัตยกรรมภายในก็มีบทบาทเช่นกัน ในการออกแบบแบบโมโนลิธิก เช่น โปรเซสเซอร์ Intel Core หลายรุ่นคอร์ทั้งหมดจะเข้าถึงแคช L3 เดียวกันด้วยความหน่วงที่ค่อนข้างสม่ำเสมอ ในสถาปัตยกรรมแบบชิปเล็ตหรือ MCM เช่น AMD Ryzen รุ่นแรกๆ แคช L3 จะถูกจัดเรียงเป็นบล็อก (CCX, CCD) และบางคอร์สามารถเข้าถึงแคช L3 ได้โดยตรงเพียงบางส่วนเท่านั้น ทำให้เกิดความหน่วงเพิ่มเติมเมื่อย้ายจากบล็อกหนึ่งไปยังอีกบล็อกหนึ่ง

ความหน่วงของแคชเทียบกับ RAM: ความถี่ จังหวะเวลา และบัส

เมื่อข้อมูลไม่ได้อยู่ในแคช หน่วยความจำ RAM จะเข้ามามีบทบาทในที่นี้ มักมีการสับสนระหว่างสองแนวคิด คือ ความหน่วงและความถี่ ความถี่ (โดยทั่วไปแสดงเป็น MT/s หรือ MHz) บ่งบอกถึงปริมาณข้อมูลที่สามารถถ่ายโอนได้ต่อวินาที ในขณะที่ความหน่วง (ในหน่วยนาโนวินาที หรือผ่านการกำหนดเวลา เช่น CL16, CL30 เป็นต้น) บ่งบอกถึงระยะเวลาที่ใช้ในการส่งข้อมูลชิ้นแรก

แรมที่มีความถี่สูงแต่มีความหน่วงสูงมากอาจให้แบนด์วิธที่ดี แต่เวลาตอบสนองจะแย่ลง ซึ่งส่งผลเสียต่อกระบวนการที่ไวต่อความหน่วง เช่น เกม หรือการทำงานบางประเภทที่มีการเข้าถึงแบบไม่เรียงลำดับ ในทางตรงกันข้าม โมดูลที่มีค่าความหน่วงต่ำกว่าจะช่วยเพิ่มความเร็วในการเข้าถึงครั้งแรก แม้ว่าแบนด์วิธโดยรวมจะไม่สูงมากนักก็ตาม

ความกว้าง ของบัสระหว่าง CPU และ RAMก็มีความสำคัญเช่นกัน ในแพลตฟอร์มเดสก์ท็อปส่วนใหญ่ แต่ละช่องสัญญาณหน่วยความจำจะมีบัสขนาด 64 บิต และด้วยการกำหนดค่าแบบดูอัลแชนเนล ความกว้างนี้จะเพิ่มขึ้นเป็น 128 บิตที่มีประสิทธิภาพ ทำให้ปริมาณข้อมูลที่สามารถส่งผ่านพร้อมกันระหว่างโปรเซสเซอร์และ RAM เพิ่มขึ้นเป็นสองเท่า

ยิ่งการผสมผสานระหว่างความถี่ ความหน่วง และความกว้างของบัส มีประสิทธิภาพมากเท่าไร การพลาดแคชก็จะยิ่งสร้างความเดือดร้อนน้อยลงเท่านั้น ถึงกระนั้นก็ตาม RAM ในปัจจุบันยังไม่สามารถเทียบเท่ากับความหน่วงและแบนด์วิดท์ของแคช L1, L2 หรือ L3 ได้ ดังนั้นลำดับความสำคัญจึงยังคงอยู่ที่การเพิ่มประสิทธิภาพการเข้าถึงแคชให้สูงสุด

RAM แบบ Scratchpad เทียบกับ Auto Cache

ภายในโปรเซสเซอร์ เราไม่ได้พบเพียงแค่แคชอัตโนมัติที่จัดการโดยฮาร์ดแวร์เท่านั้น บางดีไซน์ยังรวมถึงScratchpad RAMซึ่งเป็นหน่วยความจำภายในชนิดหนึ่งที่มีความเร็วสูงมาก และแตกต่างจากแคชตรงที่ไม่สามารถจัดการตัวเองได้

ความแตกต่างนั้นชัดเจน: หน่วยความจำแคชจะจำลองบรรทัดข้อมูลที่อยู่ใกล้กับที่อยู่ใช้งานโดยอัตโนมัติ ตามอัลกอริทึมภายใน และโปรแกรมเมอร์ไม่มีการควบคุมโดยตรง ในทางตรงกันข้าม หน่วยความจำแบบ Scratchpad RAM ทำหน้าที่เป็น RAM ขนาดเล็กในเครื่อง ซึ่งซอฟต์แวร์จะเป็นผู้ตัดสินใจเองว่าจะจัดเก็บข้อมูลใด จัดระเบียบอย่างไร และจะล้างข้อมูลเมื่อใด

วิธีการนี้พบได้บ่อยในโปรเซสเซอร์ฝังตัว, DSP และ GPU บางประเภท ซึ่งต้องการรูปแบบการเข้าถึงที่คาดเดาได้สูง และต้องการหลีกเลี่ยงความไม่แน่นอนของการแคชอัตโนมัติ ในพีซีเดสก์ท็อปและเซิร์ฟเวอร์ ผู้ใช้ปลายทางแทบจะไม่โต้ตอบกับ RAM แบบ Scratchpad โดยตรงเลย

ความหน่วงของแคช การทดสอบประสิทธิภาพ และผลกระทบที่น่าสนใจ

ในโลกของการทดสอบประสิทธิภาพ เป็นเรื่องปกติที่จะวัดค่าความหน่วงของแคชในหน่วยนาโนวินาที และแบนด์วิดท์ในหน่วย GB/sสำหรับแต่ละระดับ (L1, L2, L3) โดยใช้เครื่องมือต่างๆ เช่น AIDA64 หรือโดยการพัฒนาการทดสอบของคุณเองในภาษา C++ ที่ทำการสแกนอาร์เรย์ขนาดใหญ่โดยเฉพาะ

การทดสอบเหล่านี้สามารถเปิดเผยพฤติกรรมที่น่าสนใจได้ ตัวอย่างเช่น เมื่อวัดแบนด์วิดท์การอ่าน L2 และ L3 บนระบบที่ดูเหมือนจะไม่ได้ใช้งาน อาจสังเกตได้ว่าค่า L2 บางครั้งลดลงจากประมาณ 80 GB/s เหลือประมาณ 60 GB/sและค่า L3 อาจลดลงจากประมาณ 45 GB/s เหลือเพียงกว่า 35 GB/s โดยไม่มีเหตุผลที่ชัดเจน

คำอธิบายที่พบบ่อยคือการลดความเร็วการทำงาน หรือการเปลี่ยนแปลงแบบไดนามิกในความถี่ภายในและสถานะพลังงานของ CPUอย่างไรก็ตาม มีบางกรณีที่เมื่อเปิดเครื่องมือตรวจสอบเช่น HWINFO คะแนนจะกลับมาอยู่ในค่า "ดี" อย่างน่าอัศจรรย์ แต่เมื่อปิดเครื่องมือ คะแนนก็จะผันผวนลงอีกครั้ง

โดยปกติแล้ว โปรแกรมอย่าง HWINFO จะทำให้ CPU ทำงานในโหมดประสิทธิภาพสูงอยู่เสมอบังคับให้ความถี่ในการทำงานคงที่มากขึ้น และป้องกันไม่ให้ส่วนต่างๆ ของวงแหวนภายในหรือแคชเข้าสู่โหมดประหยัดพลังงานขั้นสุด หากทำการทดสอบโดยไม่มีโปรแกรมอื่นทำงานอยู่ โปรเซสเซอร์จะพยายามประหยัดพลังงาน ซึ่งอาจลดแบนด์วิดท์ที่มีประสิทธิภาพที่วัดได้เป็นระยะๆ แม้ว่าค่าความหน่วงเฉลี่ยจะไม่เปลี่ยนแปลงอย่างมีนัยสำคัญก็ตาม

ในกรณีเช่นนี้ มีการเสนอแนวทางแก้ไข เช่น การรักษาเธรด "รักษาการทำงาน"ที่ทำงานเบาๆ เพื่อป้องกันไม่ให้ CPU เข้าสู่โหมดพักเครื่อง แต่การจำลองผลลัพธ์ของเครื่องมือตรวจสอบนั้นไม่ใช่เรื่องง่ายเสมอไป เนื่องจากสถาปัตยกรรมไมโครแต่ละแบบมีสถานะการพักเครื่องและนโยบายภายในของตนเอง

หน่วยความจำแคชและประสิทธิภาพการเล่นเกม

ในวิดีโอเกม แคช L3 มีบทบาทสำคัญอย่างยิ่ง งานประมวลผลเกมจำนวนมากได้รับประโยชน์อย่างมากจากการจัดเก็บข้อมูลและคำสั่งต่างๆ ไว้ใกล้กับ CPU มากขึ้นตั้งแต่โครงสร้างฉากไปจนถึงข้อมูลฟิสิกส์และตรรกะของเกม ยิ่งมีการเข้าถึง RAM น้อยลงเท่าไร FPS ก็ยิ่งเสถียรมากขึ้น และความผันผวนของเฟรมเรตก็จะยิ่งน้อยลงเท่านั้น

โปรเซสเซอร์ที่มีแคช L3 ขนาดใหญ่และใช้งานได้อย่างมีประสิทธิภาพสามารถปรับปรุงความเสถียรของอัตราเฟรมได้อย่างมาก โดยเฉพาะในเกมสมัยใหม่ที่จัดการวัตถุจำนวนมากและทำการสืบค้นข้อมูลซ้ำๆ หลายครั้ง แทนที่จะเข้าถึง RAM อย่างต่อเนื่อง (ซึ่งช้ากว่าและมีความหน่วงสูงกว่ามาก) CPU สามารถประมวลผลคำขอส่วนใหญ่ได้โดยตรงจากแคช L3

อย่างไรก็ตาม แคชไม่ได้ช่วยแก้ปัญหาได้ทุกอย่าง ซีพียูที่มีคอร์น้อย ประสิทธิภาพต่อรอบการทำงานต่ำ และความถี่ปานกลาง ก็ยังคงมีข้อจำกัดอยู่ดี แม้จะมีแคช L3 จำนวนมหาศาลก็ตาม ส่วนผสมที่ลงตัวสำหรับการเล่นเกมมักจะเป็น ประสิทธิภาพต่อรอบการทำงานสูง ความถี่ที่ดี แคชที่เพียงพอ และแรมที่เร็วและมีความหน่วงต่ำเพื่อให้องค์ประกอบโดยรวมลดปัญหาคอขวดให้น้อยที่สุด

เมื่อเปิดเกมที่ใช้ทรัพยากรสูง หากวัดผลควบคู่ไปกับโปรแกรมทดสอบประสิทธิภาพอย่าง AIDA64 จะเห็นว่าการเข้าถึงแคชพุ่งสูงขึ้น อย่างมาก อาการกระตุกเล็กน้อยที่สังเกตได้ในบางเกมเกิดจากการที่แคชพลาด ทำให้ระบบต้องเข้าถึง RAM หรือเกิดจากการเปลี่ยนแปลงเธรดที่ทำให้การจัดเรียงข้อมูลตามตำแหน่งที่กำหนดไว้เสียไป

3D V-Cache ของ AMD และการแข่งขันเพื่อเพิ่มจำนวน L3 ให้มากขึ้น

เพื่อก้าวข้ามข้อจำกัดทางกายภาพของสิ่งที่สามารถรวมเข้าไว้ในแคช L3 บนแผ่นซิลิคอนแบนแผ่นเดียวได้ AMD ได้แนะนำ เทคโนโลยี 3D V-Cacheซึ่งเกี่ยวข้องกับการวางซ้อนชิปแคช L3 เพิ่มเติมในแนวตั้งบน CCD (ชิปเล็ต) ของโปรเซสเซอร์ เทคโนโลยีนี้ช่วยเพิ่มความจุของแคช L3 ได้อย่างมากโดยไม่ต้องเพิ่มขนาดฐานของได

โปรเซสเซอร์ Ryzen ที่มีคำต่อท้าย X3D เช่นRyzen 7 7800X3Dหรือ 7950X3D นำแนวคิดนี้ไปสู่จุดสูงสุด ตัวอย่างเช่น 7800X3D รวมแคช L3 ขนาด 32 MB ใน CCD หลัก เข้ากับแคช L3 อีก 64 MB ที่ซ้อนกัน ทำให้มีแคช L3 รวมทั้งหมด 96 MB ที่ชุดคอร์นั้นสามารถเข้าถึงได้ ส่วน 7950X3D นั้นก้าวไปอีกขั้นด้วยแคช L3 ขนาด 128 MB นอกเหนือจากแคช L1 ขนาด 1 MB และแคช L2 ขนาด 16 MB ที่กระจายอยู่ทั่วทุกคอร์

ผลกระทบต่อการเล่นเกมนั้นมหาศาล เพราะอัตราการเข้าถึงแคช (cache hit rate) พุ่งสูงขึ้นอย่างมากลดความจำเป็นในการเข้าถึง RAM สำหรับโครงสร้างข้อมูลจำนวนมากที่ก่อนหน้านี้ไม่สามารถจัดเก็บลงในแคช L3 ได้ทั้งหมด นี่จึงเป็นเหตุผลว่าทำไมซีพียูรุ่น X3D จึงกลายเป็นมาตรฐานสำหรับประสิทธิภาพการเล่นเกมอย่างแท้จริง แม้กระทั่งเมื่อเทียบกับซีพียูที่มีจำนวนคอร์มากกว่าหรือความเร็วสัญญาณนาฬิกาสูงกว่าเล็กน้อยก็ตาม

ในขณะนี้ คู่แข่งหลักอย่าง Intel ยังไม่ได้สร้างโซลูชันที่เหมือนกันทุกประการ บริษัทระบุว่า ในตอนนี้พวกเขาต้องการมุ่งเน้นไปที่ประสิทธิภาพโดยรวมที่สมดุลมากกว่าแนวทางที่เน้นการเล่นเกม เช่น การใช้แคช L3 ขนาดใหญ่เรียงซ้อนกัน นี่ไม่ได้หมายความว่าพวกเขาจะไม่ค่อยๆ เพิ่มขนาดแคชของตนเองในรุ่นต่อๆ ไป แต่ดูเหมือนว่าพวกเขาจะไม่ใช้รูปแบบ V-Cache ที่เหมือนกันทุกประการในระยะสั้น

วิธีดูว่าโปรเซสเซอร์ของคุณมีแคชเท่าไหร่

หากคุณต้องการทราบว่า CPU ของคุณมีแคช L1, L2 และ L3 ขนาดเท่าใด โดยไม่ต้องเสียเวลาค้นหาเอกสารทางเทคนิคให้ยุ่งยาก วิธีที่รวดเร็วที่สุดวิธีหนึ่งคือการใช้เครื่องมืออย่างCPU-Zใน Windows โปรแกรมฟรีนี้จะแสดงขนาดของแต่ละระดับแคช รวมถึงจำนวนคอร์ เธรด และข้อมูลอื่นๆ ที่เกี่ยวข้อง ในแท็บเฉพาะ

อีกทางเลือกหนึ่งคือการเยี่ยมชมเว็บไซต์อย่างเป็นทางการของผู้ผลิต (เช่น Intel ARK, เอกสารข้อมูลผลิตภัณฑ์ของ AMD เป็นต้น) แม้ว่าโดยทั่วไปแล้วจะมีรายละเอียดเฉพาะแคช L3 เท่านั้น และคุณต้องค้นหาข้อมูลเพิ่มเติมในเอกสารทางเทคนิคเพื่อหาข้อมูลเกี่ยวกับแคช L1 และ L2 บทวิจารณ์และการวิเคราะห์จากสื่อเฉพาะทางมักจะให้รายละเอียดข้อมูลเหล่านี้ พร้อมทั้งผลการทดสอบความหน่วงและแบนด์วิดท์ด้วย

การเลือกและการใช้งาน RAM และหน่วยความจำแคชอย่างมีประสิทธิภาพ

แคชสามารถช่วยปกปิดข้อบกพร่องหลายอย่างของ RAM ได้ แต่ก็ไม่ใช่ทั้งหมด เมื่อประกอบคอมพิวเตอร์ สิ่งสำคัญคือต้องเลือกRAM ที่มีความถี่ ความหน่วง และความจุที่เหมาะสมกับการใช้งาน คอมพิวเตอร์สำหรับงานสำนักงานหรือการท่องเว็บเบาๆ สามารถทำงานได้ดีด้วย RAM 8-16 GB และโมดูลระดับกลาง ในขณะที่สำหรับการเล่นเกมและการตัดต่อวิดีโอ มักแนะนำให้ใช้ RAM 16 GB หรือ 32 GB

ควรตรวจสอบความเข้ากันได้ของ RAM กับเมนบอร์ดและ CPU เสมอ (ประเภท DDR3, DDR4, DDR5, ความเร็วสูงสุดที่รองรับ, โปรไฟล์ XMP/EXPO เป็นต้น) นอกจากนี้ ควรหาความสมดุลระหว่างความถี่สูงและค่าไทม์มิ่งที่เหมาะสม มากกว่าที่จะเน้นเฉพาะตัวเลข MHz ที่ดูหวือหวาเพียงอย่างเดียว

เพื่อให้ได้ประโยชน์สูงสุดจากหน่วยความจำและแคช คุณควรหมั่นกำจัดโปรแกรมที่ทำงานอยู่เบื้องหลังโดยไม่จำเป็นอัปเดต BIOS และไดรเวอร์ และสำหรับคอมพิวเตอร์ที่ใช้งานหนัก ควรลบไฟล์ชั่วคราวและแคชของเบราว์เซอร์ที่ไม่จำเป็นอีกต่อไป การกระทำใดๆ ที่ช่วยลดภาระของ RAM และ CPU จะช่วยให้ทรัพยากรความเร็วสูงเหล่านั้นว่างลงเพื่อใช้ในสิ่งที่สำคัญจริงๆ

ในระดับ BIOS การเปิดใช้งานโปรไฟล์หน่วยความจำอัตโนมัติ (XMP, DOCP, EXPO)มักเป็นวิธีง่ายๆ เพื่อให้แน่ใจว่า RAM ทำงานที่ความเร็วตามที่ผู้ผลิตระบุไว้ หลีกเลี่ยงการติดอยู่กับค่าที่จำกัดแบนด์วิดท์

การเข้าใจหลักการทำงานของแคชลาเชนซ์ ลำดับชั้น L1/L2/L3 ความสัมพันธ์กับ RAM และเทคโนโลยีต่างๆ เช่น 3D V-Cacheจะช่วยให้คุณอ่านข้อมูลจำเพาะของ CPU และผลการทดสอบประสิทธิภาพได้ในมุมมองใหม่: นอกเหนือจากความเร็ว (GHz) และจำนวนคอร์แล้ว ความลื่นไหลของระบบส่วนใหญ่ขึ้นอยู่กับเวลาเพียงไม่กี่นาโนวินาทีที่โปรเซสเซอร์ใช้ในการค้นหาหรือไม่พบข้อมูลในหน่วยความจำที่ใกล้ที่สุด