- היא קובעת מסגרת רגולטורית המבוססת על רמות סיכון להגנה על זכויות יסוד וביטחון האזרחים.
- היא מטיל חובות שקיפות וניהול סיכונים מחמירות עבור מערכות בינה מלאכותית בסיכון גבוה ומודלים לשימוש כללי.
- זה אוסר באופן מוחלט על שימוש בטכנולוגיות בינה מלאכותית הנחשבות בלתי מקובלות, כגון ניקוד חברתי או מניפולציה התנהגותית.
- להגדיר לוח זמנים ליישום הדרגתי עם סנקציות כלכליות חמורות לאלו שמתעלמים מהתקנות.
האיחוד האירופי נקט צעד מכריע בכך שהשיק את המסגרת המשפטית המקיפה הראשונה בעולם להסדרת בינה מלאכותית. חקיקה זו אינה שואפת לחנוק חדשנות, אלא להבטיח שהטכנולוגיה תתפתח בצורה בטוחה ואמינה , תוך מתן עדיפות תמידית להגנה על זכויות אדם בסיסיות ולמניעת הפיכתה של בינה מלאכותית לקופסה שחורה בלתי מבוקרת.
כדי להשיג זאת, בריסל בחרה בגישה מבוססת סיכונים, כלומר מסנן דואר זבל אינו זהה לאלגוריתם שמחליט מי מקבל הלוואה בנקאית. בהתאם לרמת הסיכון שהמערכת מציבה לבריאות או לבטיחות, הדרישות החוקיות יהיו מחמירות יותר או פחות, מה שיאלץ חברות להיות שקופות לגבי אופן פעולתן של המכונות שלהן.
מערכות אסורות: הקו האדום של האיחוד האירופי
ישנם דברים שפשוט לא ניתן לעשות. החוק ברור מאוד באיסור על בינה מלאכותית המהווה סיכון בלתי מתקבל על הדעת . בין אלה נמנות טכניקות תת-הכרתיות או מניפולטיביות המבקשות לעוות התנהגות אנושית כדי לגרום נזק, כמו גם ניצול פגיעויות הקשורות לגיל או מוגבלות. ניקוד חברתי , הנוהג של סיווג אנשים על סמך התנהגותם כדי לתת להם יחס שלילי, גם הוא אסור .
בנוגע למידע ביומטרי, סיווג המרמז על תכונות רגישות כמו גזע או דת אסור, וכך גם סריקה חסרת הבחנה של פנים באינטרנט ליצירת מאגרי מידע. זיהוי ביומטרי מרחוק בזמן אמת במרחבים ציבוריים מוגבל למקרים ספציפיים מאוד , כגון חיפוש קורבנות סחר, מניעת פיגועי טרור קרובים או איתור חשודים בפשעים חמורים, תמיד תחת פיקוח שיפוטי.
קטגוריית הסיכון הגבוה ודרישותיה
לא כל מה שאסור הוא מסוכן, אך חלק מהמערכות, למרות שהן מותרות, כפופות לבקרות מחמירות . זה כולל רכיבי אבטחה, מכשירים רפואיים ואלגוריתמים המשמשים בגיוס והערכת אשראי. אם בינה מלאכותית מקבלת את המשימה ליצור פרופילים של אנשים כדי להעריך את ביצועי עבודתם או את בריאותם, היא נופלת ישירות תחת קטגוריה זו.
ספקי כלים אלה חייבים למלא רשימה ארוכה של משימות. חובה ליישם מערכת ניהול סיכונים לאורך כל מחזור חיי המוצר ולהבטיח שנתוני האימון מייצגים וללא שגיאות. יתר על כן, עליהם ליצור תיעוד טכני מפורט, לתעד אירועים באופן אוטומטי באמצעות יומני תפעול , ולהבטיח שתמיד קיים פיקוח אנושי אמיתי כדי למנוע החלטות אוטומטיות שגויות.
מודלים של בינה מלאכותית למטרות כלליות (GPAI)
כאן נכנסים לתמונה מודלי ה-LLM והמודלים הבסיסיים המפורסמים . החוק מבחין בין מודלים סטנדרטיים של GPAI לבין כאלה המציגים סיכון מערכתי , המוגדר בדרך כלל על ידי שימוש מסיבי בכוח מחשוב (גדול מ-10^25 FLOPs). ספקי מודלים אלה חייבים להיות שקופים לגבי תהליכי ההכשרה שלהם ולכבד את הנחיות זכויות היוצרים.
עבור מודלים עם סיכון מערכתי, הרף גבוה יותר. עליהם לבצע צוות אדום כדי לצמצם כשלים, לדווח על אירועים חמורים למשרד הבינה המלאכותית ולהבטיח אבטחת סייבר איתנה . ראוי לציין שלמודלים בקוד פתוח יש כמה יתרונות, אם כי הם עדיין נדרשים לפרסם תקצירים של התוכן המשמש לאימון המכונה.
ממשל, מועדים והעלות של הפרת החוק
הפיקוח נופל בעיקר על משרד הבינה המלאכותית , אשר עוקב אחר ענקיות הטכנולוגיה כדי להבטיח עמידה בתקנות. פריסת החוק מתבצעת בהדרגה: איסורים החלו בפברואר 2025, בעוד שחובות עבור מערכות בסיכון גבוה ייכנסו לתוקף בין 2027 ל-2028. כדי לסייע לחברות, נוצרה אמנת הבינה המלאכותית כדרך התנדבותית להתכונן לתקנות.
אם חברה מחליטה להפר את הכללים, הקנסות הם אדירים. מסירת מידע כוזב יכולה להגיע לעלות של עד 7,5 מיליון אירו או 1,5% מההכנסה השנתית. עם זאת, אי עמידה בהתחייבויות הליבה יכולה להעלות את הקנס ל -15 מיליון אירו או 3% מההכנסה העולמית, אם כי מקורות מסוימים מציינים שבמקרים קיצוניים הוא עלול להגיע ל-7%.
מסגרת רגולטורית זו מציבה את אירופה כנקודת ייחוס עולמית ברגולציה טכנולוגית , ומחייבת כל חברה בעולם המעוניינת לפעול בשוק המשותף להתאים את האלגוריתמים שלה לסטנדרטים אירופיים של שקיפות ואתיקה, ובכך לאזן בין התקדמות טכנית לבין כבוד האדם.
