- אטימותם של אלגוריתמים יוצרת סיכונים לאפליה כלכלית ומניפולציה באמצעות דפוסים אפלים במסחר דיגיטלי.
- המסגרת המשפטית הספרדית והאירופית מתפתחת לעבר שקיפות אלגוריתמית, הדורשת מידע על תמחור מותאם אישית ושימוש בבינה מלאכותית.
- שוקלת יצירת מאגרי מידע ממלכתיים של אלגוריתמים כדי למנוע הטיה ולהבטיח שהטכנולוגיה מכבדת זכויות יסוד.
הגעתה המנצחת של הבינה המלאכותית לחיי היומיום שלנו הציבה את השוק במצב עדין למדי. מצד אחד, יש לנו כלים שמקלים על חיינו, מתאימים אישית את מה שאנחנו קונים או פותרים ספקות כהרף עין, אך מצד שני, נוצר פער כוחות עצום בין החברות שמנהלות את הנתונים לבינינו, שפשוט לוחצים על "קבל".
אין פלא שארגונים כמו UNCTAD צלצול, שכן הקצב שבו הבינה המלאכותית מתקדמת עולה בהרבה על החוקים שאמורים לווסת אותה. אנו נמצאים בצומת קריטי שבו, אם לא ניקח ברצינות את הממשל הגלובלי האתי , אנו מסתכנים בטכנולוגיה, במקום לעזור לנו, תוך הנצחת אי-שוויון חברתי או הונאת הפגיעים ביותר באמצעות מניפולציה דיגיטלית.
מבוך האלגוריתמים: סיכונים אמיתיים לארנק שלך
אחת הסוגיות המדוברות ביותר היא מה שנקרא תמחור דינמי . בעיקרון, מדובר באלגוריתם שמנתח מי אתם, מאיפה אתם מגיעים ומה בדקתם בעבר כדי להחליט כמה לגבות מכם. משמעות הדבר היא ששני אנשים יכולים לראות מחירים שונים עבור אותה טיסה או מלון באותו רגע. זה יכול להוביל לאפליה כלכלית לא הוגנת , שבה המערכת מזהה שיש לכם כוח קנייה גבוה יותר ופשוט מעלה את המחיר מבלי שתשימו לב.
כדי לרסן את הפרקטיקות המקוממות הללו, האיחוד האירופי, באמצעות הנחיית אומניבוס וחוקים שהוטמעו בחוק הספרדי, דורש כעת מחברות להודיע לצרכנים כאשר מחירים הותאמו אישית באמצעות קבלת החלטות אוטומטית . יתר על כן, הגזמת מחירים אלגוריתמית, המתרחשת כאשר המחירים עולים באופן בלתי נשלט במצבי חירום או אסון, נאסרה - דבר שיהיה בלתי מקובל מבחינה אתית בכל הקשר.
מלכודות דיגיטליות ומניפולציה התנהגותית
סביר להניח שחוויתם את זה: אתם רוצים לבטל את המנוי שלכם לשירות וזה מרגיש כאילו אתם מחפשים דרך לצאת ממבוך. אלו דפוסים אפלים , עיצובי ממשק שנוצרו במיוחד כדי להערים עלינו לעשות טעויות או לקנות דברים שאנחנו לא רוצים. בעזרת בינה מלאכותית, המלכודות האלה כבר לא זהות עבור כולם; הן מסתגלות לחולשות הפסיכולוגיות שלכם בזמן אמת.
- גיימיפיקציה ממכרת: שימוש בתגמולים משתנים כדי למנוע ממך להניח את הטלפון שלך.
- דחיפות מלאכותית: טיימרים מזויפים שלוחצים עליך לקנות עכשיו.
- הסכמה מבלבלת: כפתורי קבלה ענקיים ואפשרויות דחייה מוסתרים באותיות זעירות.
מבחינה משפטית, מדובר בלא יותר מנוהג עסקי לא הוגן . הסוכנות הספרדית להגנת מידע הבהירה כי הסכמה המתקבלת באמצעות מניפולציה אינה ניתנת מרצונה החופשי, ולכן טקטיקות אלו עלולות לפסול חוזים שנחתמו תחת לחץ אלגוריתמי.
פרסום בלתי נראה והסכנה של זיופים עמוקים
פרסום כבר אינו רק פרסומת שמפסיקה את הסרטון; כעת זהו מיקרו-טרגטינג קיצוני . בינה מלאכותית יכולה ליצור מודעות שנראות כמו המלצות אמיתיות מחבר או להשתמש בעומק זיופים כדי שמישהו שאינו קיים ימכור לכם מוצר. זה הופך לפרסום סמוי , דבר שהחוק הכללי לתקשורת אודיו-ויזואלית ותקנות האיחוד האירופי מנסים להילחם בו על ידי דרישה שכל התוכן בתשלום יהיה ניתן לזיהוי בבירור.
בעיה חמורה נוספת היא דיסאינפורמציה אוטומטית . השימוש בבוטים ליצירת אלפי ביקורות מזויפות מעוות את מציאות השוק. למרות שפלטפורמות כמו אמזון מנסות לסנן אותן, בינה מלאכותית הופכת אותן לאמינות יותר ויותר, ופוגעת בזכותם של הצרכנים למידע אמיתי .
ניקוד אשראי: כאשר מכונה מחליטה על עתידך
במגזר הפיננסי, השימוש בבינה מלאכותית להערכת כושר אשראי (דירוג אשראי) הוא נפוץ, אך מסוכן. אם אלגוריתם משתמש במיקוד כמשתנה, הוא עלול בסופו של דבר לסרב באופן שיטתי הלוואות לאנשים משכונות בעלות הכנסה נמוכה, ולהנציח דעות קדומות היסטוריות. זה מה שאנו מכנים הטיה אלגוריתמית , וזוהי צורה של אפליה עקיפה שניתן לערער עליה מבחינה משפטית.
תקנת הבינה המלאכותית החדשה של האיחוד האירופי (AI Act) מסווגת מערכות אלו כבעלות סיכון גבוה . משמעות הדבר היא שהן יצטרכו לעבור ביקורות קפדניות, להבטיח שנתוני ההדרכה יהיו אובייקטיביים, ומעל הכל, להבטיח פיקוח אנושי אמיתי . לא ניתן לאפשר ל"קופסה שחורה" להחליט האם מישהו זכאי לדיור או להלוואה מבלי שמישהו אחראי להסביר את ההיגיון מאחורי ההחלטה.
המגן המשפטי: אילו חוקים מגנים עלינו בספרד ובאירופה?
בספרד, יש לנו ארסנל משפטי רב עוצמה, אם כי לעיתים נראה שהוא איטי ליישום. סעיף 51 בחוקה כבר מחייב את הגנת האינטרסים הכלכליים של הצרכנים, והחוק הכללי להגנת הצרכנים והמשתמשים (TRLGDCU) הוא החוק הבסיסי למאבק בתנאים לא הוגנים . יתר על כן, ה-GDPR מעניק לנו את הזכות לא להיות כפופים להחלטות המבוססות אך ורק על תהליכים אוטומטיים המשפיעים עלינו באופן משמעותי, מה שמאפשר לנו לדרוש הסבר אנושי ולנתח אחריות משפטית ואזרחית בעידן הבינה המלאכותית.
ברמה האירופית, חוק השירותים הדיגיטליים (DSA) הוא ציון דרך משום שהוא דורש מפלטפורמות גדולות להיות שקופות לגבי מערכות ההמלצות שלהן ואוסר פרסום המבוסס על נתונים רגישים (דת, בריאות או נטייה מינית). בינתיים, חוק הבינה המלאכותית של האיחוד האירופי קובע מרשם ציבורי למערכות בסיכון גבוה, במטרה להפוך את הטכנולוגיה לניתנת לביקורת ואחריות.
מבט לעתיד: ההצעה למרשם אלגוריתמים ממלכתי
כדי להבטיח ששקיפות אינה רק מילה יפה על הנייר, מוצע מרשם ממלכתי של אלגוריתמים צרכניים . הרעיון הוא שכל חברה המשתמשת בבינה מלאכותית לקביעת מחירים או סינון לקוחות תצטרך לרשום את המערכת שלה בפלטפורמה ציבורית. לא מדובר בחשיפת קוד מקור סודי, אלא בהגשת מפרט טכני ברור המסביר באילו נתונים היא משתמשת ומהם קריטריוני ההחלטה העיקריים שלה.
זה יאלץ חברות להפעיל רגולציה עצמית : אם הן לא יכולות להסביר בפומבי כיצד האלגוריתם שלהן פועל מבלי שזה ייראה מפלה, זה כנראה בגלל שהוא אכן כזה. יתר על כן, זה יקל על איגודי צרכנים ורשויות לבצע ביקורות פרואקטיביות במקום לחכות שמישהו ידווח על נזק שכבר התרחש.
המאבק על זכויותינו בעידן הדיגיטלי תלוי במעבר שלנו מנושאים פסיביים לצרכנים מועצמים. השילוב של חוקים נוקשים, שקיפות מחייבת ופיקוח אנושי מתמיד הוא הדרך היחידה להבטיח שבינה מלאכותית תהפוך לכלי לקידמה ולא למנגנון לניצול. בסופו של דבר, המטרה היא שחדשנות טכנולוגית לעולם לא תעלה על כבוד האדם והאוטונומיה שלו .
