מדריך מלא לאבטחה בסביבות פיתוח של בינה מלאכותית

אינפורמטק דיגיטל » Recursos » מדריך מלא לאבטחה בסביבות פיתוח של בינה מלאכותית

ארגונים המפתחים או משלבים פתרונות בינה מלאכותית עומדים בפני נוף רגולטורי חדש לחלוטין בשנת 2025. תקנת הבינה המלאכותית האירופית (RIA) וההנחיות התומכות שפורסמו בספרד שינו את כללי המשחק עבור אלו המתכננים, מאמנים, פורסים ומנטרים מערכות בינה מלאכותית, במיוחד כאשר הן נחשבות בסיכון גבוה.

לנוכח מסגרת משפטית מורכבת, טכנית ומתפתחת, חברות רבות תוהות בדחיפות היכן להתחיל. 16 המדריכים ורשימות התיוג שפרסמה הסוכנות הספרדית לפיקוח על בינה מלאכותית (AESIA) הפכו לנקודת ייחוס מעשית ליישום RIA (ניתוח מחקר וחדשנות) במציאות היומיומית של עסקים קטנים ובינוניים, סטארט-אפים וחברות גדולות שרוצות לחדש מבלי להיתקע בסיבוכים רגולטוריים.

משרד הטרנספורמציה הדיגיטלית והמינהל הציבורי, באמצעות מזכירות המדינה לדיגיטציה ובינה מלאכותית (SEDIA), בחר בגישה פרגמטית ביותר. לפני שהרגולציה האירופית הפכה לאכיפה מלאה, הושקה מערכת "ארגז חול" של בינה מלאכותית כדי לבחון את הרגולציה עם שתים עשרה מערכות מציאותיות בסיכון גבוה, ממגזרים רגישים כמו שירותים חיוניים, ביומטריה, תעסוקה, תשתיות קריטיות, מכונות ומכשירים רפואיים לאבחון חוץ גופי.

בסביבת בדיקות זו, צוות המשרד עבד בשיתוף פעולה הדוק עם החברות שנבחרו, וסיפק הדרכה ברמה גבוהה וייעוץ ציבורי. המטרה הייתה כפולה: לסייע לארגונים להבין מה ידרוש ה-RIA בפועל, ובמקביל, לזהות אי-בהירויות וחיכוכים בתקן כאשר הוא מיושמים על אלגוריתמים ותהליכים שכבר פועלים בעולם האמיתי.

מגוון רחב של חברות השתתפו, החל מחברות המתמחות בביומטריה ואנליטיקה מתקדמת ועד לספקיות של פתרונות בריאות דיגיטליים ותעסוקה. רשויות פיקוח מרכזיות כמו AESIA, הסוכנות הספרדית להגנת מידע (AEPD), הבנק של ספרד וסוכנות בטיחות התעופה הממלכתית (AESA) השתתפו גם הן בפרויקט , יחד עם פאנל של מומחים רגולטוריים וטכנולוגיה.

עבודה משותפת זו הובילה למסקנות המוצגות כעת בהנחיות אלה. בעוד שמסמכים אלה אינם מחייבים מבחינה משפטית ואינם מחליפים את הסטנדרטים הטכניים ההרמוניים שיפורסמו בקרוב, הם מציעים פרשנות מעשית, מאורגנת וריאליסטית לחובות ה-RIA עבור מערכות בינה מלאכותית בסיכון גבוה.

הודות לניסיון זה, ספרד זכתה לתפקיד בינלאומי מוביל. ארגז החול של בינה מלאכותית מצוטט כפרקטיקה מומלצת בדוח לעשור הדיגיטלי של אירופה ונתפס על ידי מדינות אחרות כמודל לצפי עמידה בתקנות , להפחתת אי-ודאויות וטעויות יקרות לאורך הדרך.

16 הנחיות AESIA: מבנה, גישה ומטרות

פרסומי AESIA מאורגנים במערכת קוהרנטית של 16 מדריכים בתוספת מספר רשימות תיוג. מטרתם העיקרית היא לסייע לארגונים לזהות, להבין ולעמוד בהתחייבויות תקנה (EU) 2024/1689 , תוך התמקדות במערכות המסווגות כבעלות סיכון גבוה.

הנחיות אלו מכוונות במיוחד לעסקים קטנים ובינוניים, סטארט-אפים וחברות גדולות המפתחות או פורסות בינה מלאכותית במגזרים מוסדרים. הן אינן מחליפות תקנות או סטנדרטים שיאומצו, אלא משמשות ככלי תמיכה לתכנון מערכות בינה מלאכותית חדשניות ואמינות המכבדות זכויות יסוד - חיוניות הן לטיפוח והן לביטול בלימה של חדשנות.

האוסף מחולק למספר בלוקים פונקציונליים. מצד אחד, הוא כולל שני מדריכים מבואיים בעלי אופי אינפורמטיבי, ומצד שני, שלושה עשר מדריכים טכניים המתמקדים בדרישות הספציפיות של ה-RIA (ניהול סיכונים, ממשל נתונים, שקיפות, אבטחת סייבר, איכות, רישומים, פיקוח אנושי וכו').

בנוסף, פורסם מדריך ספציפי לרשימות תיוג, ורשימות תיוג לדוגמה מסופקות בפורמט אקסל. קבצים אלה מאפשרים הערכות עצמיות של רמת התאימות של מערכות בסיכון גבוה ותכנון מפת דרכים מסודרת להסתגלות , במקום לאלתר תיקונים של הרגע האחרון לאחר שהתקנות נכנסות לתוקף במלואן.

מאפיין חשוב הוא המבנה המודולרי של המסמכים. המדריכים נועדו כך שכל ארגון יוכל להתעמק בשכבות בהתאם לגודלו, למגזר שלו ולרמת הבשלות של הבינה המלאכותית ; זה מונע מעסק קטן להיות מוצף באותה רמת פירוט שחברה רב-לאומית גדולה עם עשרות דגמי ייצור הייתה דורשת.

מדריכים מבוא: הבנת RIA בלי להשתגע

שני מדריכי המבוא מספקים את הבסיס הקונספטואלי כדי להימנע מאובדן בז'רגון הרגולטורי. הראשון הוא מבוא כללי ל-RIA, המתאר את היקפה, קטגוריות הסיכון והתפקידים השונים המעורבים (ספק, מנהל פריסה, מפיץ, משתמש וכו').

הוא מבהיר סוגיות שלעתים קרובות גורמות לבלבול בקרב חברות, כגון מה באמת מהווה מערכת בינה מלאכותית בסיכון גבוה, אילו שימושים אסורים באופן ישיר, ומהן החובות של כל בעל עניין בשרשרת הערך. הוא גם מפרט כיצד ה-RIA קשור לתקנות אירופיות רלוונטיות אחרות, כגון הגנת נתונים, אבטחת מוצרים ושירותים פיננסיים , דבר חיוני למניעת כפילויות או פרצות.

המדריך המבוא השני נוקט בגישה מעשית אף יותר, ומשלב הסבר רגולטורי עם ניתוח מקרה. הוא מראה כיצד לזהות האם מערכת מסוימת נופלת בקטגוריית הסיכון הגבוה ואילו צעדים בסיסיים עליה לנקוט כדי לעמוד בתקנות , החל משלב התכנון ועד לניטור לאחר כניסתה לשוק.

שני המסמכים כוללים מילון מונחים מפורט, שימושי מאוד לצוותים שאינם משפטיים. הגדרת מונחים כמו "פיקוח אנושי", "סיכון צפוי באופן סביר" ו"סיכון מערכתי" מונעת בדיוק אי הבנות פנימיות רבות בין מחלקות טכניות, משפטיות, עסקיות ואבטחת סייבר.

מדריכי ההקשר הללו הפכו, בפועל, למשאב החשוב ביותר עבור מנהלים, מנהלי מערכות מידע , מנהלי מערכות מידע, מובילי חדשנות וצוותי IT הזקוקים לסקירה כללית ברורה לפני שהם מתעמקים בהיבטים הטכניים יותר. הם מתפקדים כמפה כללית, המכוונים את הקורא למדריכים המיוחדים שהוא באמת זקוק להם ומונעים ממנו בזבוז זמן בסקירת מסמכים שאינם רלוונטיים למצבם.

הנחיות טכניות: ביסוס דרישות RIA במחזור החיים של בינה מלאכותית

החלק הגדול ביותר באוסף AESIA מורכב משלושה עשר מדריכים טכניים, שכל אחד מהם מוקדש לדרישת RIA מרכזית עבור מערכות בסיכון גבוה. מדריכים אלה מתבטאים בעקרונות הבסיסיים ומתרגמים מנדטים משפטיים לתהליכים, בקרות וראיות ניתנים לאימות שארגונים יכולים ליישם בפרויקטים שלהם בתחום הבינה המלאכותית.

מדריך הערכת התאימות מסביר כיצד יש להכין מערכות בינה מלאכותית בסיכון גבוה כדי לעבור את הליכי ההערכה המפורטים בתקנה. הוא מתאר את התיעוד הנדרש, כיצד מאורגנות ביקורות פנימיות וחיצוניות , ואת תפקידם של גופים מודעים באישור עמידה בדרישות החיוניות של דגם.

מדריך נוסף מתמקד במערכת ניהול האיכות. מטרתו להבטיח שהמדדים והיעדים שהוגדרו במהלך תכנון המערכת יישארו יציבים לאורך כל הפיתוח, האימות והתפעול , ושכל סטייה תירשם כראוי. הוא מדגיש את החשיבות של שמירת ראיות לכל האימותים והבדיקות שבוצעו, לא רק לצורך תאימות אלא גם כדי להיות מסוגלים להגן על חוסן המערכת בפני צדדים שלישיים.

מדריך ניהול הסיכונים מתרגם את הגישה מבוססת הסיכונים של ה-RIA למתודולוגיה תפעולית. הוא כולל הנחיות לזיהוי, ניתוח, הערכה והפחתת סיכונים הקשורים לבריאות, בטיחות וזכויות יסוד , הן בשימוש המיועד של המערכת והן בשימושים צפויים באופן סביר. הוא גם מתייחס לצורך בבדיקות תקופתיות ככל שהנתונים, ההקשר או הטכנולוגיה עצמה משתנים. כדי לתכנן צעדים מעשיים, מומלץ להשתמש בכלים להערכה עצמית המספקים הנחיות לגבי סדרי עדיפויות להפחתת סיכונים.

פיקוח אנושי מכוסה במדריך מקיף נפרד. מדריך זה מפרט את התהליכים התכנוניים, הממשקיים והארגוניים הנחוצים לאנשי ניטור המערכת כדי לאתר אנומליות, להתערב במהירות ולהימנע מהסתמכות עיוורת על אוטומציה . הוא מציע, לדוגמה, מנגנוני עקיפה אנושיים, התראות ברורות ונהלי הסלמה מוגדרים היטב כאשר משהו נראה לא תקין.

המדריך בנושא נתונים וממשל רלוונטי במיוחד למודלים מורכבים. הוא מתאר את הדרישות שמערכות נתונים המשמשות לאימון, אימות ובדיקה של מערכות בינה מלאכותית חייבות לעמוד בהן : רלוונטיות, ייצוגיות, היעדר הטיה בלתי מוצדקת, איכות, שלמות ויכולת מעקב. יתר על כן, הוא מתייחס לצורך במדיניות ממשל השולטת במי יכול לשנות את הנתונים, כיצד מתועדים מקורות וכיצד מטופלות שגיאות המתגלות לאחר מכן.

מסמך טכני נוסף מתמקד בשקיפות. הוא מציע צעדים שיאפשרו לספקים ולמשתמשים של מערכות בינה מלאכותית לעמוד בחובות הדיווח שלהם : החל מהנגשת תיעוד טכני לאינטגרטורים ועד הבטחת תקשורת ברורה עם אנשים המושפעים מהחלטות אוטומטיות או חצי אוטומטיות.

מדריך הדיוק מספק הנחיות כיצד לבחור, למדוד ולנטר מדדי ביצועי מודל. הוא אינו מוגבל לדיוק סטטיסטי; הוא מתייחס גם לנושאים כגון יציבות זמנית, ביצועי תת-קבוצות והתנהגות בתנאי גבול , על מנת להימנע מתוצאות מטעות שעלולות להשפיע לרעה על קבוצות ספציפיות.

חוסנה של המערכת מטופל גם במסמך משלה. מדריך זה מתאר את האמצעים שיש לנקוט כדי להבטיח סבילות לתקלות, חוסן בפני קלט עוין או שינויים בסביבה , ויכולת להמשיך לפעול במסגרת פרמטרים בטוחים גם אם רכיבים מסוימים נכשלים או נתונים מתדרדרים.

אבטחת סייבר מטופלת במדריך ייעודי המתאר את האמצעים הטכניים והארגוניים הנדרשים להגנה על מערכות בינה מלאכותית מפני התקפות זדוניות או מניפולציה. הוא מכסה היבטים כגון אבטחת צינור נתונים, הגנה מפני חילוץ מודלים, בקרת גישה ותגובה לאירועים , תוך התאמת דרישות אלו לחזון אבטחת המידע הרחב יותר של הארגון. למידע מעמיק יותר על איומים ספציפיים, ראו איומי סייבר והשפעתם על בינה מלאכותית.

מדריך הרישום מגדיר אילו יומנים וראיות יש לשמור במערכות בינה מלאכותית בסיכון גבוה. הוא כולל הנחיות לגבי אילו אירועים יש לתעד, כמה זמן יש לשמור אותם, וכיצד להבטיח את שלמותם וזמינותם כדי שניתן יהיה להשתמש בהם לביקורות, חקירות אירועים או תביעות מצד אנשים שנפגעו. מומלץ להשתמש במנגנוני הצפנה מתאימים להגנה על שלמות היומנים.

מדריך נוסף מתמקד במעקב לאחר שיווק. מסמך זה מתאר את התהליכים הדרושים לניטור ביצועי המערכת לאחר הפריסה , איסוף משוב ממשתמשים, זיהוי אירועים, התאמת המודל אם צצים סיכונים חדשים ודיווח לרשויות בעת הצורך.

החלק הטכני משלים את מדריך ניהול האירועים, המסביר כיצד לדווח על אירועים חמורים הקשורים למערכות בינה מלאכותית בסיכון גבוה, ואת מדריך התיעוד הטכני. האחרון מתאר את דרישות התוכן והמבנה של התיק הטכני שידגים תאימות לפני שהמערכת מוכנסת לשוק או מופעלת לשירות.

רשימות בדיקה: מנייר לפעולה בעסקים

לצד ההנחיות, פרסמה AESIA מדריך של רשימות תיוג ודוגמאות לרשימות תיוג מובנות בפורמט אקסל. מטרתו אינה תיאורטית, אלא לשמש ככלי תפעולי המאפשר לארגונים להעריך בעצמם את רמת התאימות של מערכות הבינה המלאכותית שלהם בסיכון גבוה.

רשימות אלו פועלות לפי אותה היגיון כמו מדריכי הדרישות. עבור כל אחת משתים עשרה דרישות ה-RIA העיקריות, כלולה קבוצה של שאלות, ראיות ושדות למילוי , המסייעים בביצוע הערכה עצמית מובנית ועקבית. הקובץ כולל לשוניות מידע עם הוראות שימוש והקשר, כמו גם דפי עבודה להזנת מידע ספציפי על כל מערכת.

הרעיון הוא שחברות לא צריכות רק "לסמן תיבות", אלא להשתמש בכלי כדי לבנות תוכנית הסתגלות אמיתית. ההערכה העצמית צריכה להוביל למפת דרכים ריאליסטית שתעדף סיכונים ואמצעים על סמך השפעה ומאמץ - דבר קריטי במיוחד עבור ארגונים עם משאבים מוגבלים.

גישה זו שימושית במיוחד בתקופה שבה מועדי היעד נראים ארוכים אך העבודה אינטנסיבית. החובות התובעניות ביותר של רגולציית הבינה המלאכותית יתחילו לחול באוגוסט 2026, אך סקירת תהליכים פנימיים, מודלי נתונים וממשל לא מתרחשת בן לילה , כך שאלו שיקדמו יהיה בעלי יותר תמרון ופחות אלתור.

יתר על כן, השימוש השיטתי ברשימות תיוג מקל על צוותים שונים מאוד (משפטיים, אבטחת סייבר, IT, מוצר, נתונים) לדבר באותה שפה. כאשר כולם עובדים עם אותם קריטריונים ורמות ראיות, רעש פנימי, עיכובים ועיצובים מחדש מיותרים מצטמצמים , מה שבפרויקטים של בינה מלאכותית בדרך כלל מתורגם ישירות לחיסכון בעלויות ופחות כאבי ראש.

קוד נהלים מומלצים למודלים של בינה מלאכותית למטרות כלליות

בעוד שספרד התקדמה עם תוכנית "ארגז החול" וההנחיות של AESIA, כלי מפתח נוסף פותח ברמה האירופית: קוד הנוהג הטוב לבינה מלאכותית למטרות כלליות (GPAI). משרד הבינה המלאכותית האירופי תיאם תהליך שיתופי עם כמעט אלף בעלי עניין כדי לפתח קוד זה, המשלים את חובות חוק הבינה המלאכותית עבור ספקי מודלים למטרות כלליות.

מודלים של בינה מלאכותית למטרות כלליות הם כאלה המסוגלים לבצע משימות רבות ושונות ועומדים בבסיס מגוון רחב של מערכות ויישומים. חלק מהמודלים הללו עלולים לייצר סיכונים מערכתיים אם הם חזקים מאוד או נפוצים בשוק , ולכן המחוקקים האירופיים הגדירו דרישות ספציפיות לשקיפות, זכויות יוצרים ואבטחה.

הקוד, שהוגש לנציבות האירופית ב-10 ביולי 2025, הוא כלי וולונטרי, אך בעל יתרונות ברורים. ספקים המקיימים את הקוד יכולים להשתמש בו כדי להדגים עמידה בחובות סעיפים 53 ו-55 של ה-RIA , ובכך להפחית את הנטל המנהלי ולשפר את הוודאות המשפטית שלהם בהשוואה לפתרונות אד-הוק.

המסמך בנוי לשלושה חלקים עיקריים: שקיפות, זכויות יוצרים ואבטחה/הגנה. בנוגע לשקיפות, הקוד מספק טופס תיעוד סטנדרטי, אשר אוסף מידע מפתח על יכולות, מגבלות, נתוני הדרכה, בדיקות ותיקוף . מידע זה חייב להיות מעודכן וזמין לרשויות ולספקים בהמשך לפי דרישה.

בנוגע לזכויות יוצרים, הקוד מתרגם את חקיקת הקניין הרוחני האירופית להקשר של בינה מלאכותית. הוא ממליץ על צעדים ספציפיים כגון הגבלת סריקת אתרים לתוכן נגיש מבחינה חוקית, כיבוד שמירות זכויות יוצרים באמצעות robots.txt או מטא-דאטה, אי הכללת דומיינים מפרים, וקביעת מדיניות זכויות יוצרים פנימית ברורה , מינוי גורמים אחראיים וערוצי תלונות.

החלק השלישי עוסק במודלים של בינה מלאכותית למטרות כלליות עם סיכון מערכתי, כלומר כאלה שיכולותיהם בעלות ההשפעה הגבוהה עשויות להשפיע באופן משמעותי על שוק האיחוד האירופי. הוא מציע עקרונות של ניהול מחזור חיים מקיף, פרופורציונליות לרמת הסיכון, חדשנות באבטחה ויישום עקרון הזהירות , במיוחד כאשר עדיין אין מספיק נתונים מדעיים כדי להעריך באופן מלא סיכונים מסוימים.

הקוד מתמקד גם בעסקים קטנים ובינוניים המפתחים מודלים מתקדמים. הוא תומך במסלולי ציות פשוטים יותר עבור ספקים קטנים, בתנאי שרמת ההגנה הצפויה נשמרת , ומפרט התחייבויות כגון הודעה על אירועים חמורים או תיעוד של פעולות מניעה לפני התרחשותם של אירועים אלה.

כלי זה אינו סטטי. הטקסט עצמו קובע סקירה שלו לפחות כל שנתיים, כך שניתן יהיה לעדכן אותו על סמך התפתחויות טכנולוגיות, הופעתם של סיכונים חדשים או הניסיון שנצבר מיישום ה-RIA בשטח.

תבנית לסיכום נתוני אימון

במקביל לקוד הנוהג הטוב, פיתח משרד הבינה המלאכותית האירופי תבנית ספציפית לסיכום נתוני ההדרכה שספקי מודלים של בינה מלאכותית למטרות כלליות חייבים לפרסם. חובה זו, הקבועה בסעיף 53.1(ד) של ה-RIA, שואפת לחזק את השקיפות והכיבוד זכויות היוצרים באימון מודלים.

כדי לפתח תבנית זו, אסף המשרד משוב באמצעות התייעצות רב-צדדית, וקיבל למעלה מ-430 תגובות מבעלי עניין שונים. הרעיונות הראשוניים נסקרו גם במסגרת תהליך קוד הנוהג הטוב, עם משוב מספקים, מומחים, נציגי מדינות חברות והפרלמנט האירופי , לפני אימוצו הרשמי ביולי 2025.

התבנית קשורה קשר הדוק לפרק השקיפות של הקוד ומחפשת איזון עדין. מצד אחד, היא דורשת סיכום מפורט מספיק כדי שצדדים שלישיים יוכלו להבין באופן סביר אילו סוגי נתונים שימשו ; מצד שני, היא מכבדת את סודיות המידע העסקי הרגיש ואינה דורשת גילוי של כל רכיב ספציפי במערך הנתונים.

בפועל, כלי זה מטפח תרבות תיעוד בוגרת יותר בקרב ספקי מודלים למטרות כלליות. אלו המאמנים מודלים גדולים עם כמויות עצומות של נתונים צריכים להבין בבירור את מקורות הנתונים, את הרישיונות המסדירים את השימוש בהם, וכיצד כל זה יבוא לידי ביטוי חיצונית , הן כדי לנהל סיכונים משפטיים והן כדי לבנות אמון בתוך המערכת האקולוגית הבנויה על מודלים אלה.

שוב, הדגש אינו רק פורמליסטי. שקיפות בנתוני הדרכה אינה עוסקת רק בתאימות; היא גם מאפשרת דיון כן בהטיות פוטנציאליות, מגבלות שימוש סבירות וציפיות ביצועים ריאליות כאשר מודלים אלה משולבים בפתרונות עבור תעשיות קריטיות או משתמשי קצה בקנה מידה גדול.

ביקורת כלי בינה מלאכותית וחזון אסטרטגי למנהלים

מעבר לחובות רגולטוריות גרידא, ארגונים רבים שוקלים כיצד להעריך את התשואה האמיתית על ההשקעה של יוזמות הבינה המלאכותית שלהם בשנת 2025. לא מספיק פשוט לפרוס מודלים וסוכנים חכמים; יש צורך לבדוק האם הם מייצרים ערך אמיתי, האם הם מאובטחים, והאם עלות הבעלות הכוללת שלהם הגיונית בהשוואה לחלופות טכנולוגיות אחרות.

ביקורת כלי בינה מלאכותית מתוכננת היטב מאפשרת למנכ"לים, מנהלי מערכות מידע ומנהלים אחרים להפריד בין הייפ שיווקי לבין תוצאות מוחשיות. ניתוח מסוג זה סוקר עד כמה כל מקרה שימוש תואם את יעדי העסק, מודד את התועלת הצפויה בפריון, בהפחתת שגיאות או ביצירת הכנסות, ומנתח סיכונים טכניים ורגולטוריים כגון הטיה, פגיעויות אבטחת סייבר או אי-ציות לתקנות RIA.

בהקשר זה, מדדים ספציפיים מאוד הופכים לרלוונטיים: חיסכון בזמן מחזור, הפחתה בעלויות תפעול, עלייה בהמרות, דיוק המודל בייצור, עלות לעסקה וחיסכון המיוחס לאוטומציה. כמו כן, מוערכים מדדי סיכון, כגון פגיעויות שזוהו בבדיקות אבטחה, רמת תאימות לתקנות והסבירות לתלות מוגזמת בספק יחיד (נעילת ספק).

חברות שמשלימות בינה מלאכותית עם פתרונות בינה עסקית וויזואליזציה, כגון לוחות מחוונים המשתמשים בכלי Power BI, מקבלות תמונה ברורה הרבה יותר של השפעתה. ריכוז נתוני ביצועים, עלויות וסיכונים בלוחות מחוונים שקל להבנה להנהלה מאפשר קבלת החלטות מבוססות ראיות , במקום להסתמך על אינטואיציה או מגמות טכנולוגיות חולפות.

במקביל, אינטגרציה עם תשתיות ענן (AWS, Azure או אחרות) והערכה מדויקת של עלות הבעלות הכוללת הן מרכיבים מרכזיים בניתוח. הבנה מעמיקה של עלויות ההדרכה, ההסקה, האחסון והתחזוקה בענן, כמו גם מנגנוני האבטחה הנלווים, היא בסיסית כדי שבינה מלאכותית תתמוך באמת באסטרטגיה ולא תהפוך להוצאה יקרה שקשה להצדיק. לקבלת החלטות בנוגע לגיבוי והגנה על נתונים בענן, עיינו בהשוואות של גיבויים בענן וגיבויים מקומיים.

בקיצור, ביקורת בינה מלאכותית אינה עוד מותרות אלא הכרח אסטרטגי. אלו המשלבים גישה קפדנית לעמידה בדרישות RIA עם מדידה כנה של החזר ההשקעה הטכנולוגי יהיו בעמדה טובה יותר למנף בינה מלאכותית באופן בר-קיימא , הן מבחינת הכלכלה והן מבחינת המוניטין והאמון החברתי.

כל המערכת האקולוגית הזו של הנחיות, קודים וולונטריים, תבניות שקיפות ונהלי ביקורת תעצב מסגרת חדשה לאבטחה בסביבות פיתוח בינה מלאכותית עד 2025. ארגונים שיתחילו כעת להפנים את הכלים הללו, להשתמש בהם באופן שיטתי ולשלב אותם בניהול הטכנולוגי שלהם, יהיו בעלי סיכוי גדול יותר להפוך את הרגולציה ליתרון תחרותי , ולהדגים שניתן לחדש בבינה מלאכותית באופן אחראי, מאובטח ובהתאם לזכויות אדם.