אם עקבתם אחר הרעש האחרון סביב בינה מלאכותית, סביר להניח ששמעתם על כלים שנראים ככאלה שעושים הכל, החל מכתיבת שירים ועד תכנות קוד מורכב. מאחורי כל הקסם הזה מסתתר מושג מפתח: מודלים בסיסייםבעיקרון, הם כמו שלדת מכונית; מבנה כללי וחזק שניתן להתאים אותו אישית להיות מכונית ספורט, משאית או רכב שטח, תלוי מה אנחנו צריכים בכל רגע נתון.
מה שהופך את המערכות האלה לכל כך משבשות הוא שאנחנו כבר לא מתכננים בינה מלאכותית למשימה אחת, אלא יוצרים ענקית דיגיטלית entrenado con cantidades ingentes de datos que luego podemos «moldear». Este cambio de paradigma ha permitido que la IA pase de ser algo muy rígido a convertirse en una herramienta flexible que aprende patrones generales del mundo para luego aplicarlos a problemas concretos, lo que ha acelerado la innovación a un ritmo que, sinceramente, deja fría a cualquiera.
מהו בעצם מודל יסודי?
במילים פשוטות, מודל בסיסי הוא כל מערכת בינה מלאכותית שאומנה באמצעות כמות עצומה של נתונים (בדרך כלל באמצעות ניטור עצמי) ויש לו את היכולת להסתגל, באמצעות תהליך הנקרא כוונון עדין, למגוון עצום של יישומים. הם אינם חדשים לחלוטין, שכן הם שואבים למידה עמוקה והעברת ידע, אך ה- קנה מידה חסר תקדים נתונים ומחשוב הובילו להופעתן של יכולות שאיש לא צפה.
חשוב לא לבלבל ביניהם עם ה- LLM (דגמי שפה גדולים)למרות שלעתים קרובות משתמשים בו לסירוגין, הקשר הוא של סוג ומין: כל תוכניות הלימודים למשפטים (LLMs) הן מודלים יסודיים, אך לא כל המודלים היסודיים הם תוכניות לימודים למשפטים. בעוד שתוכניות לימודים למשפטים (LLMs) מתמקדות בטקסט ובקוד, מודלים יסודיים יכולים להיות רב-מודאליעיבוד תמונות, אודיו, וידאו או אפילו אותות חושיים מרובוטים.
עמודי התווך הטכניים: טרנספורמטור והדרכה
הארכיטקטורה שאפשרה את כל זה היא שַׁנַאי. Este sistema utiliza un mecanismo llamado «autoatención», que permite al modelo entender la importancia de diferentes partes de una secuencia, sin importar que estén lejos unas de otras. Consta habitualmente de un codificador y un decodificador que generan ייצוגים וקטוריים (הטמעות) אשר לוכדות את המשמעות העמוקה של שפה או תמונות.
תהליך היצירה מחולק בדרך כלל למספר שלבים:
- לפני אימון: Es la fase más costosa. El modelo «devora» internet, libros y bases de datos para aprender la estructura general de la información. Aquí es donde se definen el מספר פרמטרים, מספר האסימונים וחלון ההקשר.
- כוונון עדין: ברגע שהמודל הופך לכללי, הוא מאומן עם נתונים ספציפיים ומפוקח על ידי בני אדם כדי להפוך למומחה בתחום מסוים, כמו רפואה או משפטים.
- הסתגלות למשימה: זהו השלב האחרון, שבו המודל עובר אופטימיזציה עבור פונקציה ספציפית מאוד, כגון יצירת מנוע חיפוש פסיקה או מחולל דוחות טכניים.
דגמים יוצאי דופן שעיצבו את ההיסטוריה
מאז 2018, ראינו תהלוכה של דוגמניות באות והולכות, ומטלטלות את העניינים. ברט הוא היה אחד החלוצים, שנודע ביכולתו הדו-כיוונית להבין הקשר. אחר כך הגיעה המשפחה. OpenAI GPT, המתפתח מ-GPT-1 ל-GPT-4, ומדגים שככל שקנה המידה גדול יותר, כך מתפתחות יותר יכולות, כגון למידה מנקודת ירייה אפס.
אבל הם לא לבד. יש לנו קלוד דה אנתרופיקעם גרסאות כמו סונטה, אופוס והייקו המחפשות איזון בין אינטליגנציה למהירות. מצד שני, אמזון נובה הוא מציע מגוון רחב של אפשרויות, החל מהבנה רב-מודאלית ועד ליצירת סרטונים יצירתיים. אסור לנו לשכוח דיפוזיה יציבה, אשר הביא את כוחם של המודלים הבסיסיים לעולם הדימויים, או BLOOM, מאמץ רב-לשוני ושיתופי המדגים שגם לקוד פתוח יש את מקומו.
יכולות ויישומים בעולם האמיתי
מודלים אלה לא רק כותבים מיילים. השפעתם משתרעת על מגזרים קריטיים:
- בְּרִיאוּת: הם עוזרים ב- גילוי תרופות וניתוח של תמונות רפואיות, למרות שהן דורשות הסבר מלא כדי למנוע טעויות חמורות.
- ימין: הם מקלים על סקירת חוזים וניתוח של נרטיבים משפטיים ארוכים, ובכך מפחיתים את עלויות הגישה לצדק.
- השכלה: הם מאפשרים א למידה מותאמת אישית ואדפטיביים, למרות שהם מציבים אתגרים בנוגע לגניבה ספרותית ולפער הטכנולוגי.
- רובוטיקה: המטרה היא ליצור רובוטים כלליים שלא צריך לתכנת אותם מאפס עבור כל משימה, אלא להשתמש במודל בסיסי כדי... אינטראקציה עם הסביבה פיזית
הצד האפל: סיכונים, אתיקה וסביבה
לא הכל שמש וורדים. הומוגניזציה היא סיכון רציני: אם כולם משתמשים באותו מודל בסיסי, כל הטיה או טעות פנימית se propagará por todas las aplicaciones derivadas, creando un «monocultivo algorítmico». Además, están las alucinaciones, esos momentos en los que la IA inventa datos con una seguridad pasmosa, lo que obliga a una אימות אנושי מתמיד.
מבחינה אתית ומשפטית, מתנהל מאבק פתוח על ה... קניין רוחניהסיבה לכך היא שמודלים רבים מאומנים עם נתונים ללא הסכמה מפורשת של יוצריהם. לכך מתווסף המחיר הסביבתי; אימון הענקים הללו גוזל... כמות עצומה של אנרגיה ומים, מה שמחייב את החיפוש אחר ארכיטקטורות יעילות יותר ומרכזי נתונים בני קיימא.
עתיד וממשל הבינה המלאכותית
הדרך קדימה עוברת דרך דמוקרטיזציה של גישהנכון לעכשיו, אימון מודלי הבינה המלאכותית החזקים ביותר מרוכז במספר מצומצם של חברות עקב עלות החומרה (מעבדים גרפיים). חיוני שאוניברסיטאות וממשלות ישקיעו בתשתיות ציבוריות כדי למנוע מעוצמתה של הבינה המלאכותית ליפול לידי מעטים. אוליגופול טכנולוגי.
המפתח יהיה שקיפות וביקורות בלתי תלויות. לא מספיק שחברה תגיד שהמודל שלה בטוח; אנחנו צריכים מסגרות רגולטוריות (כגון חוק הבינה המלאכותית של האיחוד האירופי) ותקנים מקצועיים המבטיחים כי כלים אלה ישמשו לשיפור החברה ולא לשיפור מעקב המוני או דיסאינפורמציה.
המערכת האקולוגית של הבינה המלאכותית עברה למבנה שבו מספר מצומצם של מודלים מרכזיים תומכים באלפי יישומים ייעודיים, המשלבים את כוחו של עיבוד מסיבי עם הדיוק של כוונון ברמת האדם. התקדמות זו, תוך העלאת דילמות אתיות עמוקות וקשורות לצריכת אנרגיה, מגדירה מחדש את הקשר בין בני אדם למכונות על ידי הפיכת הבינה המלאכותית לתשתית כללית המסוגלת לחשוב, ליצור וללמוד בו זמנית בתחומים מרובים.
