- ניתן לאמת את נוכחות ה-NPU באמצעות מנהל המשימות או מנהל ההתקנים ב-Windows.
- כל מחשבי המק עם שבבי סיליקון של אפל (M1 ומעלה) משלבים יחידת עיבוד עצבית.
- היתרון העיקרי של ה-NPU הוא יעילות אנרגטית, המאפשרת הסקות באמצעות בינה מלאכותית עם צריכת חשמל מינימלית.
- תמיכת התוכנה הנוכחית מוגבלת ותלויה בזמני ריצה ספציפיים כגון OpenVINO או QNN.
סביר להניח ששמעתם לאחרונה על "מחשבי הבינה המלאכותית" המפורסמים ותהיתם אם המחשב שעל שולחנכם הוא אחד מהם. המפתח טמון ב- NPU (יחידת עיבוד עצבית) , רכיב שהופך לנפוץ כמעט בכל המחשבים הניידים המודרניים. זה מונע מבינה מלאכותית להעמיס על שאר המערכת, ומעל הכל, מונע מהסוללה להתרוקן תוך דקות.
לדעת אם יש לכם את המאיץ הזה זה קריטי אם אתם רוצים להריץ מודלים של בינה מלאכותית באופן מקומי , מבלי להסתמך על הענן. זה לא רק עניין של להציג את החומרה שלכם, אלא של ניצול יעילות אנרגטית מדהימה המאפשרת לכם לבצע משימות מורכבות מבלי שהמאוורר של המחשב שלכם יישמע כאילו הוא עומד להמריא למאדים. בואו נראה איך לגלות אם יש לכם אותו ומה אתם יכולים לעשות איתו עכשיו.
שיטות מהירות לזיהוי ה-NPU ב-Windows
אם אתם משתמשים ב-Windows, אינכם צריכים להיות מומחי מחשבים כדי למצוא את התשובה. הדרך הישירה ביותר היא לפתוח את מנהל המשימות (Ctrl + Shift + Esc) ולהסתכל על לשונית הביצועים. אם המחשב שלכם תומך בכך, תראו מדור ספציפי בשם NPU ליד המעבד והכרטיסייה הגרפי, שם תוכלו לנטר את עומס העבודה בזמן אמת.
אפשרות אמינה נוספת היא לעבור למנהל ההתקנים . פשוט חפשו את הסעיף שנקרא "מעבדים עצביים ". אם קטגוריה זו מופיעה ברשימה, מזל טוב: מותקן לכם מעבד עצביים (NPU). הדבר הטוב ביותר בשיטה זו הוא שהיא אומרת לכם את השם המדויק של השבב, ומאפשרת לכם לחפש את המפרט הטכני שלו באינטרנט כדי לגלות כמה פעולות לשנייה (TOPS) הוא יכול להשיג.
שאלות טכניות ותמיכה של היצרן
לפעמים, תוכנה יכולה לגרום לבעיות או שמנהלי התקנים עשויים להיות מיושנים, ואז עדיף לפנות למקור. באופן אידיאלי, עליך לזהות את המעבד שלך בתפריט ההגדרות ולאחר מכן לבקר באתר הרשמי של היצרן (בין אם זה Intel, AMD או Qualcomm). בגיליון המפרט של הדגם המדויק שלך, תוכל לאשר האם השבב משלב יכולות בינה מלאכותית ואילו תכונות Windows הוא תומך בהן, כגון אפקטים של אולפן מצלמה.
אם רכשתם מכשיר המסומן כ- Copilot+ PC , במיוחד כאלה עם מעבד Snapdragon X Elite או Plus, תוכלו להיות סמוכים ובטוחים שה-NPU משולב כסטנדרט. עם זאת, תמיד מומלץ לבדוק שמנהלי ההתקנים מעודכנים דרך Windows Update או אתר האינטרנט של היצרן, כך שהמערכת תזהה את החומרה בצורה נכונה.
מצבה של ה-NPU במערכת האקולוגית של מק
בעולם אפל, הסיפור פשוט וישיר יותר. ה-NPU הגיע עם המעבר לסיליקון של אפל . משמעות הדבר היא שכל מק עם שבב M1, M2, M3 או M4 כבר כולל יחידה נוירונית משולבת. ארכיטקטורה זו, שעברה בחלקה בירושה משבבי אייפון, היא המאפשרת לתכונות כמו Apple Intelligence לפעול בצורה חלקה ומקומית במחשבי אפל.
למה זה באמת נועד ומהם המגבלות שלו?
זוהי תפיסה מוטעית נפוצה ש-NPU מחליף את כרטיס המסך. במציאות, הוא מומחה בהסקת רשתות נוירונים עם משקלים כמותיים (INT8 או INT4). בעוד ש-GPU הוא תחנת כוח למטרות כלליות, ה-NPU הוא כלי מדויק שיכול להריץ דגמים קטנים, כמו ה-Phi-3 Mini, תוך צריכת 5 עד 10 וואט בלבד, בהשוואה ל-40-50 וואט ש-GPU של מחשב נייד היה משתמש בהם.
עם זאת, לא הכל שמש וקשת בענן. ה-NPU אינו מיועד לאימון מודלים או לכוונון עדין; זה נחלתם הבלעדית של מעבדים גרפיים עם VRAM ייעודי. יתר על כן, אם יש לכם מערכת עם 16 ג'יגה-בייט של זיכרון RAM בלבד, ניסיון להריץ מודל עם פרמטרים של 7B יכול להיות כאב ראש אמיתי, מכיוון שה-NPU חולק זיכרון עם המערכת וייתכן שתגלו שהמחשב שלכם מתקשה לפעול בצורה חלקה.
האתגר של תוכנות ויישומים עכשוויים
כאן הדברים מסתבכים. העובדה שיש חומרה לא אומרת שכל האפליקציות ישתמשו בה. נכון לעכשיו, לכל יצרן יש "שפה" משלו: OpenVINO עבור אינטל, ROCm/Ryzen AI עבור AMD ו-QNN עבור Qualcomm . למרות שתקן ONNX Runtime מנסה לאחד זאת, יישומים פופולריים רבים עדיין מתעלמים מה-NPU.
- סטודיו LM: היא כבר החלה לתמוך במעבדי NPU של קוואלקום דרך QNN.
- אולמה: לעת עתה, הוא ממשיך להסתמך בעיקר על המעבד או הכרטיס הגרפי, ומשאיר את ה-NPU בצד.
- קופיילוט של Windows: השתמשו ב-NPU למשימות מקוריות כמו טשטוש רקע בשיחות וידאו או כתוביות בזמן אמת.
אם אתם שמים לב ששימוש ב-NPU במנהל המשימות הוא תמיד 0%, זו לא בהכרח בעיה בצד שלכם; מערכת האקולוגית של התוכנה עדיין מתבגרת . אנחנו בשלב דומה לזה שבו החלו להשתמש במעבדים גרפיים לראשונה לחישוב מדעי: החומרה מתקדמת, והמפתחים מתחילים להתאים את הכלים שלהם.
מאיץ עצבי הוא יתרון תחרותי בימינו, במיוחד במחשבי אולטרה-בוק ומיני-פיסי שבהם שקט וחיי סוללה הם בעלי חשיבות עליונה. למרות שיישומיו מוגבלים כיום לפונקציות של Windows או לדגמים כמותיים מסוימים, המגמה ברורה: בטווח הקצר, ה-NPU יהיה המנוע הסטנדרטי עבור כל עוזר אישי שיימצא בכונן הקשיח שלנו מבלי לרוקן את הסוללה.