NPU ใน Windows: มันคืออะไร ทำงานอย่างไร และทำไมจึงสำคัญ

อินฟอร์เมเทค ดิจิตอล » Recursos » NPU ใน Windows: มันคืออะไร ทำงานอย่างไร และทำไมจึงสำคัญ

การมาถึงของหน่วยประมวลผลแบบ NPU ใน Windows ได้เปลี่ยนแปลงวิธีการใช้งานปัญญาประดิษฐ์บนพีซีไปอย่างสิ้นเชิง สิ่งที่ก่อนหน้านี้พึ่งพาคลาวด์เกือบทั้งหมด ตอนนี้เริ่มทำงานโดยตรงบนแล็ปท็อป เดสก์ท็อป และมินิพีซีของเราแล้ว ด้วยความเร็ว อายุการใช้งานแบตเตอรี่ และความเป็นส่วนตัวที่ได้รับการปรับปรุงอย่างมาก Windows 11 โดยเฉพาะอย่างยิ่งกับอุปกรณ์ Copilot+ รุ่นใหม่และโปรเซสเซอร์ล่าสุดจาก Intel, AMD และ Qualcomm คือหัวใจสำคัญของการปฏิวัติครั้งนี้

หากคุณกำลังคิดที่จะอัปเกรดคอมพิวเตอร์ในอีกไม่กี่เดือนข้างหน้า คุณจำเป็นต้องเข้าใจว่า NPU คืออะไรทำไม Microsoft จึงต้องการมันสำหรับฟีเจอร์ AI ขั้นสูงหลายอย่างใน Windows 11บทบาทของมันในพีซี Copilot+ รุ่นโปรเซสเซอร์ใดบ้างที่มี NPU และแอปพลิเคชันในโลกแห่งความเป็นจริงใดบ้างที่ใช้ประโยชน์จากชิปใหม่นี้แล้ว มาดูกันอย่างละเอียดโดยไม่พูดอ้อมค้อม เพื่อให้คุณสามารถตัดสินใจได้อย่างถูกต้องว่าการอัปเกรดคุ้มค่าหรือไม่

NPU คืออะไรกันแน่ และทำไมทุกคนถึงพูดถึงมันกันตอนนี้?

เมื่อเราพูดถึง NPU (Neural Processing Unit) ในคอมพิวเตอร์สมัยใหม่ เราหมายถึงหน่วยประมวลผลที่เชี่ยวชาญในการประมวลผลทางคณิตศาสตร์ของโครงข่ายประสาทเทียมและอัลกอริธึมการเรียนรู้ของเครื่องอื่นๆ มันไม่ได้มีไว้เพื่อทดแทน CPU หรือ GPU แต่มีไว้เพื่อเสริมการทำงานโดยจัดการทุกอย่างที่เกี่ยวข้องกับ AI

แตกต่างจากหน่วยประมวลผลกลาง (CPU) ซึ่งออกแบบมาเพื่อประมวลผลคำสั่งเชิงตรรกะตามลำดับ และการ์ดกราฟิกซึ่งเน้นการแสดงผลพิกเซลจำนวนมาก หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ได้รับการออกแบบมาตั้งแต่เริ่มต้นเพื่อคูณและสะสมเมทริกซ์ของตัวเลขด้วยความเร็วที่เหลือเชื่อและใช้พลังงานต่ำมากนี่คือพื้นฐานของวิธีการคิดของโมเดล AI ตั้งแต่การจดจำใบหน้าไปจนถึงการสร้างภาพ

ในทางปฏิบัติ เราอาจกล่าวได้ว่าหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) กลายเป็นกลไกสำคัญสำหรับฟังก์ชันอัจฉริยะทั้งหมดของระบบและแอปพลิเคชัน ตั้งแต่การเบลอพื้นหลังในการสนทนาทางวิดีโอไปจนถึงการถอดเสียงแบบเรียลไทม์ รวมถึงผู้ช่วยต่างๆ เช่น Copilot หรือฟิลเตอร์ตัดต่อวิดีโอขั้นสูง

ข้อได้เปรียบที่สำคัญคือ AI สามารถทำงานได้โดยตรงบนอุปกรณ์โดยไม่จำเป็นต้องส่งข้อมูลไปยังเซิร์ฟเวอร์ระยะไกล ซึ่งช่วยเพิ่มความเป็นส่วนตัว ลดความหน่วง และลดภาระงานของ CPU และ GPUทำให้พวกมันสามารถทำงานอื่นๆ ได้อย่างอิสระ

นอกจากนี้ ผู้ผลิตหลายรายยังออกแบบหน่วยประมวลผลเหล่านี้ให้ทำงานกับรูปแบบที่มีความแม่นยำต่ำกว่า เช่น INT8 แทนที่จะเป็น FP32 เนื่องจากไม่จำเป็นต้องใช้ความแม่นยำทางคณิตศาสตร์สูงมากนักในการทำนายผลอย่างถูกต้อง หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) จึงสามารถประหยัดพลังงานได้อย่างมากในแต่ละการประมวลผลซึ่งมีความสำคัญอย่างยิ่งในแล็ปท็อปและมินิพีซี

CPU, GPU และ NPU: สามองค์ประกอบสำคัญของ SoC ยุคใหม่

โดยทั่วไปแล้ว โปรเซสเซอร์ที่ใช้ในอุปกรณ์ Windows 11 รุ่นใหม่ๆ จะใช้แนวทาง System-on-a-Chip (SoC) ซึ่ง CPU, GPU และ NPU ถูกรวมไว้บนชิปซิลิคอนเดียวกันความใกล้ชิดทางกายภาพนี้ทำให้พวกมันสามารถใช้ RAM ของระบบร่วมกันและถ่ายโอนงานระหว่างกันได้โดยไม่มีปัญหาคอขวดอย่างมีนัยสำคัญ

ในสามเหลี่ยมนี้ CPU ทำหน้าที่เป็นสมองควบคุม GPU ทำหน้าที่ประมวลผลแบบขนานขนาดใหญ่สำหรับกราฟิก และ NPU มุ่งเน้นไปที่การเรียนรู้ของเครื่องและการทำงานของเครือข่ายประสาทเทียมโดยเฉพาะแต่ละส่วนมีขอบเขตความเชี่ยวชาญของตน และ Windows 11 จะตัดสินใจว่าอะไรควรอยู่ตรงไหนโดยพิจารณาจากปริมาณงาน

เมื่อระบบต้องการใช้เอฟเฟ็กต์วิดีโอ แปลเสียงแบบเรียลไทม์ หรือเรียกใช้โมเดล AI ของ ONNX Windows 11 จะวิเคราะห์ฮาร์ดแวร์ที่มีอยู่ และหากตรวจพบ NPU ระบบจะส่งต่อภารกิจเหล่านั้นไปยัง NPU เพื่อให้ได้สมดุลที่ดีที่สุดระหว่างประสิทธิภาพและการใช้พลังงานหาก NPU ไม่พร้อมใช้งานไม่ว่าด้วยเหตุผลใดก็ตาม GPU หรือท้ายที่สุดคือ CPU จะเข้ามารับช่วงต่อ

การกระจายงานอย่างชาญฉลาดนี้มีความสำคัญอย่างยิ่งในแล็ปท็อปบางเฉียบ มินิพีซี และออลอินวัน ซึ่งการจัดการความร้อนและการใช้พลังงานเป็นสิ่งสำคัญ (ดู บทช่วยสอนเกี่ยวกับ ฮาร์ดแวร์แล็ปท็อป ของเรา ) การถ่ายโอนงาน AI ที่ต่อเนื่องไปยัง NPU จะช่วยป้องกันไม่ให้ CPU ร้อนเกินไปและต้องลดความถี่ลงซึ่งจะช่วยรักษาความราบรื่นโดยรวมของระบบ

ในแง่ของประสิทธิภาพ หน่วยประมวลผลกราฟิก (GPU) ทั่วไปอาจใช้พลังงานหลายสิบวัตต์ในการประมวลผลอัลกอริธึม AI ที่ซับซ้อน ในขณะที่หน่วยประมวลผล แบบ นิวรัล (NPU) สามารถทำงานเดียวกันได้โดยใช้พลังงานต่ำกว่ามากช่วยให้คุณยืดอายุการใช้งานแบตเตอรี่ได้ถึง 15% ถึง 20% ในสถานการณ์การใช้งาน AI อย่างหนักหน่วง

NPU และ Windows 11: บทบาทของพีซี Copilot+

ไมโครซอฟต์ได้ก้าวไปอีกขั้นด้วยการเปิดตัวพีซี Copilot+ ซึ่งเป็นพีซี Windows 11 ประเภทใหม่ที่ออกแบบมาเพื่อให้ AI ไม่ใช่เพียงคุณสมบัติเสริม แต่เป็นการบูรณาการเข้ากับชีวิตประจำวันของผู้ใช้ เครื่องเหล่านี้โดดเด่นด้วยหน่วยประมวลผลประสาทเทียม (NPU) ประสิทธิภาพสูงที่สามารถประมวลผลได้เกิน 40 TOPS (Tera Operations Per Second)

ข้อกำหนดที่ต้องการพลังประมวลผลมากกว่า 40 TOPS นี้ไม่ใช่เรื่องบังเอิญ: ฟีเจอร์ AI ใหม่หลายอย่างของ Windows 11 ทั้งในระดับระบบและระดับแอปพลิเคชัน จำเป็นต้องใช้พลังประมวลผลต่อเนื่องในระดับนั้น เพื่อให้สามารถแปลภาษาแบบเรียลไทม์ สร้างภาพ เอฟเฟ็กต์วิดีโอ และผู้ช่วยอัจฉริยะได้อย่างราบรื่นโดยไม่ทำให้แบตเตอรี่หมดเร็วหรือประสิทธิภาพการทำงานของงานอื่นๆ ลดลง

ในทางปฏิบัติแล้ว คอมพิวเตอร์ Copilot+ ถูกออกแบบมาเพื่อให้แบตเตอรี่ใช้งานได้ตลอดทั้งวัน มอบประสบการณ์ AI ที่พร้อมใช้งานอยู่เสมอ และเข้าถึงโมเดลและฟีเจอร์ AI ขั้นสูงที่สุดของ Microsoft ได้โดยตรง แนวคิดก็คือ คุณสามารถใช้ Copilot เพื่อช่วยคุณในการทำงาน เรียน หรือสร้างสรรค์โดยไม่ต้องพึ่งพาระบบคลาวด์มากเกินไป

ระบบเหล่านี้ใช้โปรเซสเซอร์รุ่นใหม่จาก Qualcomm (เช่น ตระกูล Snapdragon X Elite), AMD (เช่น Ryzen AI รุ่นล่าสุด) และ Intel (Core Ultra และรุ่นต่อๆ มา) — หากต้องการเปรียบเทียบตัวเลือกต่างๆ โปรดดูตารางเทียบเคียงโปรเซสเซอร์ Intel และ AMD โปรเซสเซอร์เหล่านี้มีแนวคิดร่วมกันคือการรวมสามหน่วยประมวลผลเข้าด้วยกัน ได้แก่ CPU, GPU และ NPUเพื่อให้ Windows 11 สามารถกระจายภาระงานได้อย่างมีประสิทธิภาพมาก

แพลตฟอร์ม Windows 11 เองก็กำลังเตรียมพร้อมที่จะใช้ประโยชน์จากความสามารถเหล่านี้ผ่านประสบการณ์ที่ไม่เหมือนใคร เช่นเอฟเฟกต์การสนทนาทางวิดีโอที่ได้รับการปรับปรุง การจัดระเบียบเอกสารอัจฉริยะ ผู้ช่วยที่สรุปเนื้อหาในเครื่องและคุณสมบัติสร้างสรรค์ที่อาศัย AI โดยไม่ต้องส่งข้อมูลไปยังคลาวด์อย่างต่อเนื่อง

ชิป Snapdragon X Elite และการเดิมพันของ Qualcomm

หนึ่งในส่วนประกอบสำคัญของพีซี Copilot+ คือชิป Snapdragon X Elite ซึ่งใช้สถาปัตยกรรม Armและพัฒนาโดย Qualcomm โปรเซสเซอร์นี้ได้รับการออกแบบโดยคำนึงถึงการทำงานร่วมกับ AI โดยมีหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ที่ทรงพลังและประหยัดพลังงานเป็นพิเศษ

หน่วยประมวลผล ประสาทเทียม (NPU) ของ Snapdragon X Elite สามารถประมวลผลข้อมูลปริมาณมากพร้อมกันได้ โดยทำได้ถึงหลายสิบล้านล้านการทำงานต่อวินาทีทำให้สามารถจัดการงานที่ต้องใช้ AI สูง เช่น การแปลพร้อมกัน การปรับปรุงภาพ หรือการวิเคราะห์แบบเรียลไทม์ได้อย่างรวดเร็วโดยไม่ทำให้แบตเตอรี่หมดเร็ว

Windows 11 ประสานการทำงานร่วมกันของ CPU, GPU และ NPU ในอุปกรณ์เหล่านี้ ในแต่ละช่วงเวลา ระบบจะตัดสินใจว่าส่วนประกอบใดเหมาะสมที่สุดสำหรับแต่ละงาน โดยแสวงหาความสมดุลที่เหมาะสมที่สุดระหว่างความเร็ว การตอบสนอง และการใช้พลังงานส่งผลให้ได้แล็ปท็อปที่บางเบามาก พร้อมแบตเตอรี่ที่ใช้งานได้ตลอดทั้งวัน และประสบการณ์การใช้งาน AI ที่ต่อเนื่อง

ข้อได้เปรียบที่สำคัญของแนวทางนี้คือ ประสบการณ์ด้าน AI หลายอย่างในพีซี Copilot+ สามารถทำงานได้โดยตรงบนอุปกรณ์นั้นเองตั้งแต่ฟีเจอร์ของ Windows 11 ไปจนถึงเครื่องมือของบุคคลที่สามที่ปรับให้เหมาะสมสำหรับ NPUซึ่งช่วยลดการพึ่งพาการเชื่อมต่ออินเทอร์เน็ตและเพิ่มความปลอดภัยของข้อมูล

นอกจากนี้ Qualcomm ยังมีแหล่งข้อมูลเฉพาะสำหรับนักพัฒนาผ่านทาง Qualcomm AI Hub ซึ่งคุณสามารถค้นหาโมเดลที่ได้รับการปรับแต่งและตรวจสอบแล้วสำหรับ NPU เหล่านี้พร้อมที่จะทำงานได้อย่างมีประสิทธิภาพบนอุปกรณ์ Copilot+ ที่ใช้ Snapdragon X Elite

วิธีที่ Windows ตรวจจับและใช้งาน NPU สำหรับปัญญาประดิษฐ์

เช่นเดียวกับทรัพยากรฮาร์ดแวร์อื่นๆ ในพีซี หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) จำเป็นต้องให้ระบบปฏิบัติการและแอปพลิเคชันรู้วิธีการสื่อสารและใช้ประโยชน์จากพลังของมันไมโครซอฟต์ได้ปรับปรุงวิธีการเข้าถึงหน่วยเหล่านี้อย่างต่อเนื่อง และปัจจุบันแนะนำให้ใช้ Windows Machine Learning (WinML หรือ WinML) เป็นวิธีการหลัก

ระยะหนึ่ง DirectML เคยเป็นวิธีการมาตรฐานสำหรับการทำงานกับระบบเร่งความเร็ว AI บน Windows แต่ปัจจุบันWinML ได้เข้ามามีบทบาทสำคัญมากขึ้นการเปลี่ยนแปลงนี้มีจุดมุ่งหมายเพื่อทำให้ชีวิตของนักพัฒนาซอฟต์แวร์ง่ายขึ้น และช่วยให้แอปพลิเคชันสามารถใช้ประโยชน์จาก NPU และ GPU ได้อย่างราบรื่นที่สุด ทั้งบนพีซี Copilot+ และอุปกรณ์อื่นๆ ที่มี NPU ของ Intel หรือ AMD

ด้วย Windows ML ระบบจะตรวจจับ Execution Providers (EPs) ที่เข้ากันได้กับฮาร์ดแวร์ของอุปกรณ์โดยอัตโนมัติ แทนที่นักพัฒนาจะต้องจัดแพ็กเกจไลบรารีเฉพาะของผู้ผลิตด้วยตนเองWindows จะดาวน์โหลดและจัดการ EPs เหล่านี้ในลักษณะบูรณาการผ่านระบบเองหรือ Windows Update

โดยหลักแล้ว Windows ML ยังคงใช้ ONNX Runtime เป็นกลไกการประมวลผลแบบอนุมาน แต่ได้ซ่อนความซับซ้อนส่วนใหญ่ของการจัดการผู้ผลิตฮาร์ดแวร์ต่างๆ จากนักพัฒนาไมโครซอฟต์ทำงานร่วมกับ Qualcomm, Intel, AMD และพันธมิตรอื่นๆ โดยตรง เพื่อให้มั่นใจว่ามี EP ที่ได้รับการอัปเดตและปรับให้เหมาะสมสำหรับซิลิคอนรุ่นใหม่แต่ละรุ่น

เมื่อแอปพลิเคชันใช้งานโมเดล AI โดยใช้ Windows ML บนพีซีที่มี NPU กระบวนการจะเป็นไปโดยอัตโนมัติ: WinML จะตรวจสอบว่ามีตัวเร่งความเร็วใดบ้าง เลือก EP ที่มีประสิทธิภาพที่สุด (QNN สำหรับ NPU ของ Qualcomm, OpenVINO สำหรับแพลตฟอร์ม Intel เป็นต้น) โหลด และเริ่มการอนุมาน หากเกิดข้อผิดพลาด ระบบจะสลับไปยัง GPU หรือ CPU อย่างราบรื่นโดยไม่ต้องมีการแทรกแซงจากผู้ใช้

รูปแบบโมเดล การหาปริมาณ และเครื่องมือสำหรับนักพัฒนา

โดยทั่วไปแล้ว โมเดล AI จะได้รับการฝึกฝนเบื้องต้นด้วยรูปแบบที่มีความแม่นยำสูง เช่น FP32 แต่หน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) สำหรับผู้บริโภคมักทำงานได้ดีกว่าด้วยรูปแบบที่มีความแม่นยำสูงกว่าเช่น INT8 เพื่อให้ได้ประสิทธิภาพและประหยัดพลังงานที่สูงกว่ามาก

หมายความว่าโมเดลจะต้องถูกแปลงหรือปรับขนาดก่อนที่จะรันบน NPU โมเดลจำนวนมากพร้อมใช้งานในรูปแบบ ONNX ที่ได้รับการปรับให้เหมาะสมแล้ว แต่ผู้ที่ต้องการนำโมเดลของตนเองมาใช้ (BYOM) สามารถใช้ชุดเครื่องมือเฉพาะเพื่อปรับให้เข้ากับฮาร์ดแวร์ได้

หนึ่งในแหล่งข้อมูลที่น่าสนใจที่สุดคือQualcomm AI Hubซึ่งมีโมเดลที่ผ่านการตรวจสอบและปรับแต่งแล้วสำหรับการทำงานบนพีซี Copilot+ ที่ใช้โปรเซสเซอร์ Snapdragon X Elite นอกจากนี้ยังมีONNX Model Zooซึ่งเป็นคลังเก็บโมเดลแบบโอเพนซอร์สที่ผ่านการฝึกฝนล่วงหน้าและพร้อมใช้งานบนอุปกรณ์ที่รองรับ NPU ต่างๆ รวมถึงอุปกรณ์จาก Intel และ AMD ด้วย

เพื่อเพิ่มประสิทธิภาพของโมเดลของตนเอง ไมโครซอฟต์แนะนำให้ใช้ Olive ซึ่งเป็นเครื่องมือที่ทำงานร่วมกับ ONNX Runtime เพื่อจัดการการบีบอัด การเพิ่มประสิทธิภาพ และการคอมไพล์ที่เน้น NPUการผสมผสานนี้ช่วยให้ได้ประสิทธิภาพที่สูงขึ้นอย่างมากด้วยฮาร์ดแวร์เดียวกัน ซึ่งมีความสำคัญอย่างยิ่งในแล็ปท็อปที่ทุกวัตต์มีความสำคัญ

ระบบนิเวศทั้งหมดนี้ช่วยให้นักพัฒนาสามารถมุ่งเน้นไปที่ประสบการณ์ผู้ใช้ได้ง่ายขึ้น และปล่อยให้การผสานรวมฮาร์ดแวร์ระดับต่ำเป็นหน้าที่ของ Windows ML, ONNX Runtime และเครื่องมือที่เกี่ยวข้องซึ่งเป็นจุดที่เคยเกิดปัญหาด้านความเข้ากันได้และการบำรุงรักษา

วิธีการวัดประสิทธิภาพการทำงานจริงของ NPU ใน Windows

เมื่อผสานรวมคุณสมบัติ AI เข้ากับแอปพลิเคชัน สิ่งสำคัญคือต้องวัดประสิทธิภาพที่แท้จริงของโมเดลบน NPUและทำความเข้าใจสิ่งที่เกิดขึ้นภายในระบบ Windows มีเครื่องมือวินิจฉัยและติดตามหลายอย่างที่ช่วยให้ทำเช่นนี้ได้อย่างละเอียด

จุดเริ่มต้นแรกที่ผู้ใช้ทุกคนสามารถเข้าถึงได้คือตัวจัดการงาน (Task Manager) ของ Windows 11ในแท็บ "ประสิทธิภาพ" (Performance) จะมีส่วนเฉพาะสำหรับ NPU อยู่เคียงข้าง CPU, หน่วยความจำ, ดิสก์, Wi-Fi และ GPU ที่นั่นคุณสามารถดูเปอร์เซ็นต์การใช้งาน เวอร์ชันไดรเวอร์ และข้อมูลอื่นๆ ที่เกี่ยวข้องได้

สำหรับนักพัฒนาและผู้ใช้ขั้นสูง จะมีเครื่องมือที่มีประสิทธิภาพมากกว่าเข้ามาเกี่ยวข้อง เช่นWindows Performance Recorder (WPR)ซึ่งปัจจุบันมีโปรไฟล์การประมวลผลระบบประสาทเพื่อบันทึกกิจกรรมของ NPU และWindows Performance Analyzer (WPA)ซึ่งช่วยให้คุณวิเคราะห์การบันทึกเหล่านั้นได้

WPR สร้างร่องรอยโดยละเอียดของการทำงานร่วมกันระหว่างระบบกับ NPU ผ่านโมเดลไดรเวอร์ MCDM ของ Microsoft จากนั้น WPA จะช่วยให้คุณดูกราฟและไทม์ไลน์ที่แสดงเหตุการณ์ CPU, ดิสก์, เครือข่าย, ONNX Runtime และตาราง NPUเฉพาะ บนไทม์ไลน์เดียวกันได้

これによりสามารถตรวจสอบแง่มุมต่างๆ เช่น ปริมาณงาน เวลาในการโหลดโมเดล การสร้างเซสชันการอนุมานพารามิเตอร์การกำหนดค่าผู้ให้บริการการดำเนินการ เวลาของการอนุมานแต่ละครั้ง และโปรไฟล์ของผู้ปฏิบัติงานแต่ละคนภายในโมเดล AI ได้ แม้กระทั่งเมตริกย่อยของฮาร์ดแวร์ NPU เช่น แบนด์วิดท์หน่วยความจำ ก็สามารถสังเกตได้เช่นกัน

เครื่องมือเพิ่มเติม: GPUView, ONNX Runtime และโปรไฟล์ฮาร์ดแวร์

นอกเหนือจาก WPR และ WPA แล้ว ระบบนิเวศของ Windows ยังมีเครื่องมืออื่นๆ ที่ช่วยให้เข้าใจได้ดียิ่งขึ้นว่า NPU ทำงานอย่างไรเมื่อรันโมเดล AIหนึ่งในนั้นคือ GPUView ซึ่งเป็นเครื่องมือที่อ่านเหตุการณ์ที่บันทึกไว้ในไฟล์ติดตาม (.etl) และแสดงผลออกมาในรูปแบบภาพ

ขณะนี้ GPUView สามารถแสดงผลไม่เพียงแค่การทำงานของ GPU เท่านั้น แต่ยังรวมถึงกิจกรรมของ NPU และเหตุการณ์ DirectX ที่เกี่ยวข้องกับอุปกรณ์ MCDMด้วย ซึ่งมีประโยชน์สำหรับการดูว่าภาระงานถูกกระจายระหว่าง GPU และ NPU อย่างไรเมื่อแอปพลิเคชันใช้งาน AI และกราฟิกอย่างหนัก

ในทางกลับกัน ONNX Runtime ตั้งแต่เวอร์ชัน 1.17 เป็นต้นไป และมีการปรับปรุงในเวอร์ชัน 1.18.1 จะปล่อยเหตุการณ์รันไทม์ที่สามารถบันทึกและแสดงผลด้วย WPA ได้これにより คุณสามารถดูได้ว่าโมเดลใช้เวลาโหลดนานเท่าใด การกำหนดค่า EP ใดที่ถูกใช้งาน การอนุมานบน NPU (เช่น QNN) ทำงานอย่างไร และตัวดำเนินการแต่ละตัวใช้เวลาเท่าใดภายในโมเดล

นักพัฒนาสามารถผสานรวมโปรไฟล์ ONNX Runtime เฉพาะกับโปรไฟล์ WPR อื่นๆ (CPU, ดิสก์ ฯลฯ) เพื่อให้ได้ภาพที่แม่นยำมากยิ่งขึ้นว่าเวลาถูกใช้ไปกับส่วนใดบ้าง และจะเพิ่มประสิทธิภาพได้อย่างไรนอกจากนี้ เครื่องมือของบุคคลที่สาม เช่น Qualcomm Snapdragon Profiler (qprof) ยังให้มุมมองแบบองค์รวมของระบบและให้เมตริก NPU ที่ละเอียดกว่าบนแพลตฟอร์ม Snapdragon อีกด้วย

ด้วยชุดเครื่องมือนี้ ไม่เพียงแต่จะสามารถตรวจสอบได้ว่า NPU กำลังใช้งานอยู่หรือไม่ แต่ยังสามารถตรวจจับปัญหาคอขวด ความล่าช้าที่ไม่คาดคิด หรือการกำหนดค่าที่ไม่เหมาะสมและแก้ไขเพื่อให้ได้ประโยชน์สูงสุดจากฮาร์ดแวร์ที่มีอยู่ได้ อีกด้วย

วิธีตรวจสอบว่าพีซี Windows ของคุณมี NPU หรือไม่ และใช้ส่วนใดในการรับประโยชน์จาก NPU นั้น

สำหรับผู้ใช้ทั่วไป คำถามที่มักถามคือคอมพิวเตอร์ของฉันมีหน่วยประมวลผลกลาง (NPU) จริงหรือไม่ และ Windows กำลังใช้งานอยู่หรือไม่วิธีตรวจสอบที่ง่ายที่สุดคือ เปิด Task Manager (Ctrl+Shift+Esc) ไปที่แท็บ "Performance" และมองหาส่วนที่ระบุว่า "NPU"

หากมีกราฟ NPU ปรากฏขึ้น แสดงว่าคอมพิวเตอร์ของคุณมีโปรเซสเซอร์เฉพาะทางนี้ จากนั้นคุณสามารถดูว่าแอปพลิเคชันใดกำลังใช้ทรัพยากร NPUในแท็บ "กระบวนการ" หรือเจาะลึกลงไปอีกด้วยเครื่องมือขั้นสูงเพื่อการวิเคราะห์ทางเทคนิคที่ละเอียดกว่า หากไม่ปรากฏขึ้น อาจเป็นประโยชน์ที่จะตรวจสอบการกำหนดค่าระบบของพีซีและการตั้งค่า BIOS หรือ UEFIเพื่อตรวจสอบการปรับแต่งเฟิร์มแวร์หรือการรองรับตัวเร่งความเร็ว

การใช้งานหน่วยประมวลผลกลาง (NPU) กำลังเป็นที่นิยมมากขึ้นในคอมพิวเตอร์สมัยใหม่ โดยเฉพาะในแล็ปท็อปที่ได้รับการรับรองมาตรฐาน Copilot+ และแล็ปท็อปที่ใช้โปรเซสเซอร์รุ่นล่าสุดจาก AMD, Intel หรือ Qualcomm ผู้ผลิตต่างนำหน่วยประมวลผลเหล่านี้เป็นส่วนประกอบฮาร์ดแวร์มาตรฐาน เช่นเดียวกับที่เคยมีการรวมหน่วยประมวลผลกราฟิก (GPU) ไว้ในโปรเซสเซอร์มาก่อน

ในหลายกรณี ผู้ใช้จะเริ่มสังเกตเห็นข้อดีโดยไม่จำเป็นต้องเปลี่ยนแปลงวิธีการทำงานใดๆ เช่นการสนทนาทางวิดีโอที่คมชัดขึ้น เอฟเฟกต์ต่างๆ ที่แสดงผลแบบเรียลไทม์โดยไม่เกิดความล่าช้า อายุการใช้งานแบตเตอรี่ที่ยาวนานขึ้นเมื่อใช้ฟีเจอร์อัจฉริยะ และความรู้สึกโดยรวมที่ลื่นไหลแม้จะมีหลายงานทำงานพร้อมกัน

สำหรับผู้ที่สนใจด้านเทคนิค เครื่องมือติดตามการทำงานของ Windows ช่วยให้คุณทราบได้อย่างแม่นยำว่ากระบวนการใดบ้างที่ใช้ทรัพยากร NPU มาก และมีรูปแบบการใช้งานอย่างไรซึ่งมีประโยชน์มากหากคุณกำลังทดสอบซอฟต์แวร์ใหม่ หรือต้องการตรวจสอบว่าแอปพลิเคชันนั้นใช้ประโยชน์จากฮาร์ดแวร์ได้อย่างแท้จริง

แอปพลิเคชันในโลกแห่งความเป็นจริงที่ใช้ประโยชน์จาก NPU ใน Windows อยู่แล้ว

นอกเหนือจากทฤษฎีแล้ว สิ่งที่น่าสนใจคือการได้เห็นว่าโปรแกรมในชีวิตประจำวันใดบ้างที่ใช้ประโยชน์จาก NPU ใน Windowsรายชื่อโปรแกรมเหล่านั้นเพิ่มขึ้นทุกเดือน แต่บริษัทที่มีชื่อเสียงหลายแห่งได้เริ่มใช้ชิปนี้เพื่อเร่งความเร็วฟังก์ชัน AI ของตนแล้ว

ในโลกของการแก้ไขภาพAdobe Photoshopเป็นตัวอย่างที่โดดเด่น เครื่องมือที่ขับเคลื่อนด้วย AI เช่น การเลือกวัตถุอัตโนมัติ การลบพื้นหลัง และการลดสัญญาณรบกวนแบบเรียลไทม์ สามารถทำงานได้เร็วขึ้นมากหากพีซีมีหน่วยประมวลผลโครงข่ายประสาทเทียม (NPU) ซึ่งจะช่วยให้หน่วยประมวลผลกราฟิก (GPU) ว่างสำหรับงานเรนเดอร์อื่นๆ

ในด้านความปลอดภัยNorton Antivirusได้รวมเอาคุณสมบัติที่ขับเคลื่อนด้วย AI ซึ่งใช้ประโยชน์จาก NPU ในการตรวจจับการพยายามหลอกลวงและกลโกงบนเว็บไซต์ได้รวดเร็วยิ่งขึ้น ทำให้การป้องกันแบบเรียลไทม์เร็วขึ้นโดยไม่ทำให้ CPU ทำงานหนักเกินไปหรือทำให้ระบบช้าลง

ในด้านการออกแบบและเนื้อหาภาพ แพลตฟอร์มอย่างCanvaได้เพิ่มเครื่องมือสร้างและแก้ไขภาพที่ขับเคลื่อนด้วย AI ที่ทรงพลังมากขึ้นเรื่อยๆ ฟีเจอร์เหล่านี้หลายอย่างสามารถเร่งความเร็วได้ด้วยฮาร์ดแวร์ในเครื่องเมื่อมี NPU ทำให้ลดเวลารอเมื่อใช้ฟิลเตอร์ พื้นหลังแบบสร้างอัตโนมัติ หรือการปรับแต่งอัจฉริยะ

สำหรับการตัดต่อวิดีโอDaVinci Resolve Studioยังรวมเครื่องมือที่ได้รับประโยชน์จากการเร่งความเร็ว AI ในระดับท้องถิ่น เช่น การลดสัญญาณรบกวน การจดจำใบหน้า การจัดเฟรมอัตโนมัติ และคุณสมบัติขั้นสูงอื่นๆ การมอบหมายงานเหล่านี้ให้กับ NPU ส่งผลให้ประสบการณ์การตัดต่อราบรื่นขึ้นและเวลาในการส่งออกสั้นลง

นอกจากนี้ ในระดับระบบปฏิบัติการWindows Studio Effects, Copilot และฟีเจอร์อื่นๆ ของ Windows 11ใช้ประโยชน์จาก NPU เพื่อเรียกใช้เอฟเฟกต์วิดีโอ การแยกเสียงพูด หรือผู้ช่วยตามบริบทแบบเรียลไทม์ ทำให้ CPU มุ่งเน้นไปที่แอปพลิเคชันด้านการทำงานที่ผู้ใช้เปิดอยู่

หน่วยประมวลผล NPU ในตลาด: Intel, AMD, Qualcomm และแรงผลักดันสู่พีซี AI

การนำ NPU มาใช้ในพีซีไม่ใช่การทดลองที่เกิดขึ้นเพียงครั้งเดียว ทุกอย่างบ่งชี้ว่าเรากำลังเห็นการเปลี่ยนแปลงครั้งสำคัญที่คล้ายกับการเปลี่ยนไปใช้ SSD หรือการรวม GPU เข้ากับโปรเซสเซอร์บริษัทวิเคราะห์อย่าง IDC คาดการณ์ว่าภายในปี 2025 จะมีอุปกรณ์ส่วนบุคคล (แล็ปท็อป แท็บเล็ต และเดสก์ท็อป) มากกว่า 100 ล้านเครื่องที่วางจำหน่ายพร้อมกับ NPU ในตัว

ในบริบทนี้ ผู้เล่นรายใหญ่สามรายที่ลงทุนอย่างหนักที่สุดในด้าน AI สำหรับพีซีโดยเฉพาะ ได้แก่AMD, Intel และ Qualcommแต่ละรายมีแนวทางของตนเอง แต่ทั้งหมดมีเป้าหมายเดียวกันคือ การทำให้ AI สามารถทำงานบนฮาร์ดแวร์ของผู้ใช้ได้โดยตรง รวดเร็ว มีประสิทธิภาพ และเป็นส่วนตัว

ตัวอย่างเช่น AMD ได้เปิดตัวตระกูล Ryzen AI Max Series และ Ryzen AI 300ซึ่งใช้สถาปัตยกรรมอย่าง Zen 5 และ XDNA 2 รุ่นที่ล้ำสมัยที่สุดให้ประสิทธิภาพ AI สูงถึง 55 TOPS ซึ่งเพิ่มประสิทธิภาพจากรุ่นก่อนหน้าถึงห้าเท่า และทำให้สามารถสร้างฟอร์มแฟคเตอร์แบบพกพาที่มีประสิทธิภาพสูงได้ หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับสถาปัตยกรรมเหล่านี้ คุณสามารถอ่านเกี่ยวกับAMD RDNA 5 และ uDNAได้

ในกลุ่มนี้ โปรเซสเซอร์อย่างAMD Ryzen AI 9 HX 370 โดดเด่นเป็นพิเศษ ด้วย NPU ที่ทำได้ถึง 50 TOPS และเกินเกณฑ์ขั้นต่ำของ Copilot+ PC ถึง 25% เช่นเดียวกับRyzen AI 395+ซึ่งให้ประสิทธิภาพ AI ที่ต่อเนื่องยิ่งกว่าสำหรับโมเดลโลคอลที่ต้องการประสิทธิภาพสูง ด้วยวิธีการประมวลผลข้อมูลแบบ Spatial Dataflow ชิปเหล่านี้สามารถเคลื่อนย้ายข้อมูลระหว่างหน่วยประมวลผล MAC โดยไม่ต้องเข้าถึง RAM อย่างต่อเนื่อง จึงช่วยลดความหน่วงและลดการใช้พลังงาน

ทางด้าน Intel เองก็ได้แสดงให้เห็นอย่างชัดเจนว่า AI คือหัวใจสำคัญของแผนงานของบริษัท โดยมีเป้าหมายที่จะจัดส่งโปรเซสเซอร์ที่มีตัวเร่งความเร็ว AI โดยเฉพาะมากกว่า 100 ล้านเครื่องภายในสองปีข้างหน้า เพื่อให้ได้ประสิทธิภาพรวมสูงสุดถึง 120 TOPS และรองรับฟังก์ชัน AI มากกว่า 500 ฟังก์ชัน ด้วยการสนับสนุนจากระบบนิเวศของนักพัฒนาซอฟต์แวร์อิสระหลายร้อยราย ติดตามความคืบหน้าของชิป Intel ได้ที่ข่าวสารล่าสุดเกี่ยวกับโปรเซสเซอร์ Intel ของ เรา

สำหรับ Qualcomm นั้น แพลตฟอร์ม Snapdragon X Elite PC ได้กลายเป็นหนึ่งในเสาหลักของพีซี Copilot+ โดยได้รวบรวมโมเดลที่ CPU, GPU และ NPU ทำงานร่วมกันใน SoC ที่มีประสิทธิภาพสูง เหมาะอย่างยิ่งสำหรับแล็ปท็อปบางเฉียบที่มีอายุการใช้งานแบตเตอรี่ยาวนานหลายชั่วโมงและความสามารถด้าน AI ที่พร้อมใช้งานอยู่เสมอ

ข้อดีสำหรับผู้ใช้งานประเภทต่างๆ: ตั้งแต่ระบบอัตโนมัติในสำนักงานไปจนถึง AI ระดับท้องถิ่น

คำถามสำคัญสำหรับหลายๆ คนคือ: ฉันจะได้อะไรจากการใช้ NPU ใน Windows ในชีวิตประจำวันบ้าง?คำตอบขึ้นอยู่กับลักษณะการใช้งาน แต่โดยทั่วไปแล้วผู้ใช้เกือบทุกคนจะได้รับประโยชน์ไม่ทางใดก็ทางหนึ่ง

สำหรับพนักงานออฟฟิศ หน่วยประมวลผลกราฟิก (NPU) ช่วยให้สามารถใช้งานฟีเจอร์ต่างๆ เช่นเอฟเฟ็กต์ของ Windows Studio ในการสนทนาทางวิดีโอ (เบลอพื้นหลัง โฟกัสอัตโนมัติ การปรับปรุงแสง การแยกเสียง)ได้โดยไม่ทำให้ CPU ทำงานหนักเกินไป ซึ่งจะช่วยเพิ่มพื้นที่ว่างในการจัดการกับสเปรดชีตขนาดใหญ่ แอปพลิเคชันการทำงานที่เปิดอยู่หลายแอป และการท่องเว็บอย่างหนักหน่วงโดยที่คอมพิวเตอร์ไม่ช้าลง

นักศึกษาและทีมงานที่กระจายตัวอยู่ต่างสถานที่สามารถใช้ประโยชน์จากการแปลแบบเรียลไทม์ การถอดเสียงอัตโนมัติ และผู้ช่วยที่ช่วยสรุปเอกสารได้แม้ในสถานการณ์ที่มีการเชื่อมต่อจำกัด AI ในระดับท้องถิ่นช่วยลดความล่าช้าและปรับปรุงประสบการณ์ในการประชุมระหว่างประเทศได้เป็นอย่างมาก

ผู้เชี่ยวชาญด้านงานสร้างสรรค์ ทั้งในด้านการถ่ายภาพและวิดีโอ จะได้รับประโยชน์จากฟิลเตอร์ที่เร่งความเร็วด้วย NPU การจดจำฉาก หน้ากากอัจฉริยะ และการเติมสีแบบอัตโนมัติที่เร็วขึ้นช่วยลดเวลารอในการแก้ไขและส่งออกโปรเจ็กต์ โดยเฉพาะอย่างยิ่งในขั้นตอนการทำงานที่ต้องการประสิทธิภาพสูง

สุดท้ายนี้ ผู้ใช้ที่ต้องการรันโมเดล AI บนพีซีของตนเอง (เช่น เพื่อหลีกเลี่ยงการอัปโหลดข้อมูลที่ละเอียดอ่อนไปยังคลาวด์) จะพบว่า NPU คือชิ้นส่วนที่ขาดหายไป การประมวลผลการอนุมานบนอุปกรณ์เองช่วยปกป้องความเป็นส่วนตัว ขจัดข้อจำกัดด้านการเชื่อมต่อ และสามารถให้เวลาตอบสนองที่รวดเร็วสำหรับการทำงานต่างๆ เช่น แชทบอทในเครื่อง การจำแนกเอกสาร หรือการวิเคราะห์ภาพ

ในทุกกรณี สิ่งที่เหมือนกันคือ NPU ช่วยให้ AI ไม่ใช่สิ่งที่ทำงานเฉพาะเมื่อคุณเชื่อมต่ออินเทอร์เน็ตอีกต่อไป แต่สามารถทำงานเป็นความสามารถพื้นฐานของพีซีได้ตลอดเวลา และปรับให้เข้ากับสิ่งที่คุณทำตั้งแต่เรื่องที่ง่ายที่สุดไปจนถึงเรื่องที่ซับซ้อนที่สุด

คำถามที่พบบ่อยเกี่ยวกับ NPU ประสิทธิภาพ และความเป็นส่วนตัวใน Windows

คำถามที่พบบ่อยคือ NPU แตกต่างจากกราฟิกการ์ดแบบดั้งเดิม อย่างไร แม้ว่า GPU จะสามารถประมวลผลโมเดล AI ได้ แต่โดยหลักแล้วออกแบบมาเพื่อประมวลผลกราฟิก ในขณะที่ NPU ออกแบบมาเพื่อเร่งความเร็วเครือข่ายประสาทเทียมและการเรียนรู้ของเครื่องโดยเฉพาะ ซึ่งช่วยให้ CPU และ GPU ไม่ต้องทำงาน AI ที่ซ้ำซากจำเจ ในขณะที่ใช้พลังงานน้อยลงอย่างมาก

อีกประเด็นสำคัญคือการปรับปรุงความเป็นส่วนตัว การทำงานของฟังก์ชัน AI ในเครื่องช่วยป้องกันไม่ให้คุณต้องส่งข้อมูลส่วนบุคคลไปยังคลาวด์อย่างต่อเนื่องสำหรับผู้ที่ทำงานกับข้อมูลที่ละเอียดอ่อน (เช่น นักข่าว ทนายความ แพทย์ บริษัทที่มีข้อมูลสำคัญ) หรือผู้ที่ให้ความสำคัญกับความเป็นส่วนตัว นี่จึงสร้างความแตกต่างอย่างมากเมื่อเทียบกับการพึ่งพาบริการระยะไกลทั้งหมด

ในส่วนของการเล่นเกมนั้น NPU ไม่ได้มาแทนที่ GPU แต่สามารถช่วยได้ทางอ้อมในบางสถานการณ์เทคโนโลยีอย่าง AMD FidelityFX Super Resolution ใช้ AI ในการเพิ่มความละเอียดของภาพและปรับปรุงอัตราเฟรม (หรือNvidia DLSS 5 ) หากส่วนหนึ่งของการคำนวณนั้นทำโดย NPU แล้ว GPU ก็จะสามารถมุ่งเน้นไปที่การเรนเดอร์ภาพอย่างเดียว ซึ่งในบางเกมจะส่งผลให้ประสิทธิภาพโดยรวมสมดุลมากขึ้น

จึงเป็นเรื่องสมเหตุสมผลที่จะสงสัยว่า AI ที่ผสานรวมอยู่ในซอฟต์แวร์ป้องกันไวรัส ผู้ช่วย หรือเครื่องมือเพิ่มประสิทธิภาพการทำงาน จะ "สอดแนม" มากขึ้นหรือไม่ ความเป็นจริงคือการประมวลผลภายในเครื่องในหน่วยประมวลผลประสาทเทียม (NPU) ช่วยให้เกิดผลตรงกันข้ามกล่าวคือ ยิ่งมีการประมวลผลภายในเครื่องมากเท่าไหร่ ข้อมูลก็ยิ่งต้องส่งไปยังเซิร์ฟเวอร์ภายนอกน้อยลงเท่านั้น ซึ่งจะช่วยลดความเสี่ยงจากการถูกโจมตี อย่างไรก็ตาม ควรตรวจสอบนโยบายความเป็นส่วนตัวของแต่ละแอปพลิเคชันเสมอ

โดยทั่วไปแล้ว ทั้งในหมู่ผู้ผลิตและนักวิเคราะห์ ต่างเห็นพ้องกันว่าNPU และพีซี AI ไม่ใช่กระแสที่ผ่านไปชั่วคราว แต่เป็นขั้นตอนต่อไปที่สมเหตุสมผลในการวิวัฒนาการของพีซีเช่นเดียวกับโปรเซสเซอร์แบบมัลติคอร์และหน่วยเก็บข้อมูล SSD ในยุคของมัน เรายังอยู่ในช่วงเริ่มต้น แต่สิ่งที่เราเห็นในตลาดบ่งชี้ว่า ในอีกไม่กี่ปีข้างหน้า NPU จะกลายเป็นเรื่องธรรมดาเหมือนกับ GPU แบบรวมในตัว

การเคลื่อนไหวทั้งหมดนี้ที่มุ่งไปสู่การใช้ NPU ใน Windows กำลังสร้างรากฐานที่มั่นคงสำหรับ AI ที่จะก้าวจากบริการคลาวด์ที่แยกต่างหากไปสู่ความสามารถมาตรฐานของคอมพิวเตอร์ส่วนบุคคล ซึ่งจะช่วยให้ คอมพิวเตอร์ทำงานได้เร็วขึ้น มีประสิทธิภาพมากขึ้น มีความเป็นส่วนตัวมากขึ้น และปรับให้เข้ากับวิธีการทำงาน การเรียน และการสร้างสรรค์เนื้อหาของ เราในทุกๆ วันได้ดียิ่งขึ้น