- דיפפייקס הם תוכן אודיו-ויזואלי שנוצר על ידי בינה מלאכותית המאיים על פרטיות, מוניטין ואמון הציבור.
- השפעתה נעה בין הטרדה ופורנוגרפיה ללא הסכמה ועד הונאה תאגידית ומניפולציה פוליטית.
- המסגרת המשפטית הספרדית והאירופית כבר מציעה כלים להעמדה לדין בגין שימושים מזיקים, למרות שהטכנולוגיה מתקדמת במהירות רבה.
- הגנה דורשת שילוב של גילוי טכני, פרוטוקולים ארגוניים והכשרה בחשיבה ביקורתית ואבטחת סייבר.
זיופים עמוקים הפכו מלהיות קוריוז אינטרנטי לאחד האתגרים הרציניים ביותר של העידן הדיגיטלי. סרטונים, אודיו ותמונות שעברו מניפולציה באמצעות בינה מלאכותית יכולים לגרום לנו לראות מישהו אומר או עושה משהו שמעולם לא קרה, עם ריאליזם שבמקרים רבים מטעה אפילו את עיניו של מומחה. וזה לא משפיע רק על ידוענים או פוליטיקאים: כל מי שיש לו נוכחות ברשתות החברתיות יכול להפוך למטרה.
תופעה זו משלבת שלושה מרכיבים מסוכנים מאוד: טכנולוגיה עוצמתית, קלות שימוש והישג יד עצום . התוצאה היא מתכון מושלם לדיסינפורמציה, הונאה פיננסית, הטרדה ושחיקה נרחבת של האמון במה שאנו רואים ושומעים. בואו ננתח, ברוגע ובפירוט, מהם בדיוק דיפפייקים, כיצד הם נוצרים, אילו סיכונים הם מהווים לאנשים פרטיים, חברות ומוסדות, מה החוק אומר, ואילו צעדים אמיתיים נוכל לנקוט כדי להגן על עצמנו.
מהם דיפפייקס ולמה הם חשובים?
המונח "דיפפייקים" (Deepfake) מגיע משילוב של המונחים " למידה עמוקה" (Deep Learning) ופייק (Fake) . הוא מתייחס לכל תוכן אורקולי - וידאו, תמונה או אודיו - שנוצר או עובר מניפולציה על ידי אלגוריתמים של בינה מלאכותית גנרטבית כדי להיראות אותנטי. אנחנו לא מדברים על פילטרים או ריטושים בלבד, אלא על שחזורים מלאים של פנים, מחוות או קולות המחקים בצורה מדויקת מאוד אדם אמיתי.
בעזרת כלים זמינים, אפילו בחינם, ניתן להטמיע את פניו של אדם אחר על גופו, לשכפל את קולו או לשחזר סצנות שמעולם לא התרחשו . התקדמות ברשתות עצביות ורשתות יריבות גנרטיביות (GAN) הגבירה באופן דרמטי את רמת הריאליזם, מה שמקשה הרבה יותר על ההבחנה בין תוכן אמיתי לתוכן מניפולטיבי.
דיפפייקים נחשבים כיום לאבולוציה של חדשות מזויפות : בעוד שבעבר טקסט או תמונות עברו מניפולציה, כיום נוצר סרטון מזויף או הקלטת שמע אמינה שיש לה השפעה רגשית וקוגניטיבית גדולה בהרבה. המוח שלנו נוטה לסמוך על מה שהוא "רואה ושומע" יותר מאשר על כותרת פשוטה, מה שמכפיל את כוח השכנוע שלהם.
למרות שטכנולוגיה זו קיימת מאז סוף שנות ה-90, היא צברה תאוצה בשנת 2017 כאשר משתמש רדיט החל לפרסם תוכן פורנוגרפי מזויף ובו פניהן של שחקניות ידועות. מאז, השימוש בה התפשט באופן עצום, הן בבידור והן בהקשרים זדוניים בבירור.
כיצד נוצרים דיפפייקים: הצד הטכני ללא ז'רגון טכני
מאחורי דיפפייק עומדות מערכות למידת מכונה המנתחות אלפי תמונות, פריימים או קטעי אודיו . התהליך הטיפוסי עם פנים כרוך בשני שלבים עיקריים: קידוד ופענוח. ראשית, אלגוריתם קידוד בוחן את הדמיון בין שני פנים ומחלץ קבוצה של מאפיינים משותפים. לאחר מכן, מפענח משחזר את תמונת היעד באמצעות הבעות הפנים של האדם השני.
בפועל, שני מפענחים נפרדים מאומנים, אחד לכל פנים. כאשר נתונים מאדם אחד מוזנים למפענח של האדם השני , אנו מקבלים סרטון שבו נבדק א' מבצע את המחוות והתנועות של נבדק ב'. אם זה נעשה נכון, התוצאה נראית כמו הקלטה מקורית.
טכניקה נפוצה נוספת היא שימוש ברשתות יריבות גנרטיביות (GAN) . גישה זו כוללת שתי רשתות: מחולל, היוצר תמונות או סרטוני וידאו מזויפים, ומבחין, המנסה להבחין בין זיוף לאמיתי. הן מתחרות זו בזו אלפי פעמים, ומשתפרות ללא הרף עד שהמבחין כבר לא יכול לזהות בקלות את ההונאה והתוצאה קרובה למציאות.
רוב זיופים עמוקים של וידאו נוצרים על ידי הזנת אלגוריתם סטים גדולים של תמונות של האדם המחקה . ככל שלמודל יהיו יותר זוויות, מחוות ותנאי תאורה, כך התוצאה הסופית תהיה משכנעת יותר. באופן מסורתי, לכן, הקורבנות נטו להיות אנשים עם חשיפה תקשורתית גבוהה, אם כי כיום תמונה בודדת או כמה שניות של הקלטות קול מספיקות כדי ליצור שיבוט מכובד.
במקרה של קול, מערכות שיבוט מאפשרות, החל מכמה שניות הקלטה בלבד, שחזור של גוון, מבטא וקצב דיבור . על ידי שילוב של סינתזת דיבור עם סקריפטים שנוצרו על ידי בינה מלאכותית, ניתן לייצר אודיו שבו הקורבן "אומר" כל דבר שהתוקף רוצה להכניס לפיו.
סוגי זיופים עמוקים: תמונה, וידאו וקול
בתוך תחום ה-Deepfakes, ניתן להבחין במספר סוגים, בהתאם לסוג התוכן שעבר מניפולציה ולטכניקה בה נעשה שימוש. שתי קטגוריות הפכו פופולריות במיוחד: deepfaces ו-deepvoices.
דיפפייס הם סרטונים שבהם פניו של אדם נוצרות או מוחלפות לחלוטין . באמצעות מספר תצלומים, המערכת יוצרת פרצופים סטטיים כה מציאותיים עד שהם נראים כדיוקנאות אמיתיים, ולאחר מכן מקשרת אותם יחד ברצף ליצירת סרטון חלק. המטרה היא שבזמן הצפייה, איש לא יחשוד שהוא מסתכל על חומר מרוכב מלאכותי.
בינתיים, דיפפייק מתמקד בחיקוי קולי . האלגוריתם לומד את המאפיינים הקוליים של אדם (תדירות, אינטונציה, הפסקות, מילות מילוי וכו') ויכול לאחר מכן לקרוא כל טקסט, ולהציג אותו כאדם זה. סוג זה של דיפפייק מסוכן במיוחד במגזר התאגידי והפיננסי.
דוגמה מובהקת לכך התרחשה בשנת 2019: פושעי סייבר שיבטו את קולו של מנכ"ל כדי להתקשר למנהל בכיר בחברה שלו ולהזמין העברה דחופה של למעלה מ-250.000 דולר. המנהל נענה לבקשתו משום שקולו נשמע בדיוק כמו קולו של הממונה עליו, ותחושת הדחיפות הייתה אמינה.
מעבר לשתי הקטגוריות הללו, קיימות גם דיפפייקים היברידיים המשלבים וידאו, אודיו וטקסט שנוצרו על ידי בינה מלאכותית , כך שכל התוכן - מה שאתם רואים ומה שאתם שומעים - הוא סינתטי אך קוהרנטי. ככל שהטכנולוגיה מתבגרת, הגבולות בין הסוגים הללו מיטשטשים.
שימושים לגיטימיים ויישומים חיוביים
למרות שאנו מקשרים לעתים קרובות דיפפייקים עם הונאות ובריונות ברשת, לאותה טכנולוגיה יש יישומים לגיטימיים ובעלי ערך לחלוטין כאשר משתמשים בה בשקיפות ובהסכמה. בתעשיית הקולנוע, למשל, היא משמשת להסרת גיל שחקנים, לשחזור דמויות שנפטרו או לדבב דיאלוגים מבלי לאבד את הליפסינכרון.
בתחום החינוכי, מודלים גנרטיביים מאפשרים להתאים תוכן אורקולי למספר שפות תוך שמירה על מחוותיו המקוריות של הדובר. זה משפר את ההבנה, מונע את תחושת "דיבוב דל תקציב" ומקל על נגישות עולמית לקורסים וכנסים.
יישומי נגישות נבדקים גם כן, כגון יצירת אווטארים המפרשים את שפת הסימנים באופן אישי, או קולות סינתטיים בהתאמה אישית עבור אנשים שאינם יכולים לדבר. עם הגישה האתית הנכונה, אותה טכנולוגיה שמדאיגה אותנו כיום יכולה לפתוח דלתות חשובות להכלה דיגיטלית.
האתגר הגדול ביותר אינו כל כך הכלי עצמו, אלא ההקשר, המטרה והשקיפות שבהם הוא משמש. זו הסיבה שתקנות אירופיות אחרונות מדגישות את החובה לתייג בבירור תוכן שנוצר על ידי בינה מלאכותית כדי שהציבור יוכל להבחין בין סוגים שונים.
סיכונים ואיומים של זיופים עמוקים לחברה
ההשפעה השלילית של דיפפייקס נעה בין חייו הפרטיים של הפרט ליציבות הפוליטית, הכלכלית והחברתית . אחת הסכנות הברורות ביותר היא דיסאינפורמציה: סרטונים מזויפים המציגים מנהיגים פוליטיים משמיעים הצהרות מסיתות או מודים בפשעים שמעולם לא התרחשו.
גם אם הם מופרכים מאוחר יותר, הנזק כבר נעשה, משום שההשפעה הרגשית של הצפייה הראשונה עולה לעתים קרובות על כל תיקון עתידי . דבר זה תורם לקיטוב דעת הקהל, להבעת תיאוריות קונספירציה ולהחלשת האמון בתקשורת ובמוסדות הדמוקרטיים.
סיכון חמור נוסף הוא השימוש בפורנוגרפיה עמוקה לצורך הטרדה, הוצאת דיבה והפרות פרטיות . יצירת פורנוגרפיה מזויפת באמצעות פניהן של נשים - במיוחד פוליטיקאיות, פעילות ועיתונאים - הפכה לסוג של אלימות דיגיטלית עם השלכות הרסניות על המוניטין שלהן, חייהן האישיים ובריאותן הנפשית.
מחקרים אחרונים מצביעים על כך שכ-2,2% מהאנשים שנסקרו בעבודות אקדמיות מסוימות מזהים את עצמם כקורבנות של דיפ-זיופים אינטימיים, בעוד ש-1,8% מודים שיצרו או הפיצו תוכן מסוג זה. למרות שנתונים אלה עשויים להיראות נמוכים, הם משקפים מגמה מדאיגה וגוברת.
יתר על כן, זיופים עמוקים תורמים ל"משבר האמת" : אם ניתן לפברק ראיות אודיו-ויזואליות כלשהן, החברה מסתכנת בהנחה ששום דבר אינו אמין לחלוטין. זוהי אולי ההשפעה ארוכת הטווח המסוכנת ביותר, משום שהיא שוחקת את האמון הבסיסי הדרוש לדו-קיום דיגיטלי ולדיון ציבורי מושכל.
השפעה על הונאות ואבטחת סייבר תאגידית
בעולם העסקים, זיופים עמוקים הופכים לכלי תקיפה יעיל ביותר עבור פושעי סייבר. זה לא מדע בדיוני: כבר ישנם מקרים רבים של מנהלים שמתחזים למנהלים באמצעות וידאו או אודיו כדי להזמין העברות, לבקש מידע רגיש או לתת הוראות אסטרטגיות שגויות.
אחד התרחישים הנפוצים ביותר כרוך ב-[ לא ברור - אולי "כתובת דוא"ל" או "מספר טלפון"]. בנוסף לדוא"ל ההונאה הקלאסי, התוקף כולל סרטון מזויף או הקלטת שמע של המנכ"ל או מנהל הכספים, מה שמחזק את דחיפות הבקשה. כאשר הקורבן רואה או שומע את "הבוס" שלו, הוא מוריד את ערנותו ומבצע את הפקודה.
זיופים עמוקים משמשים גם בהנדסה חברתית מתקדמת . לדוגמה, סרטון שנראה שגרתי נשלח למשרד עורכי דין, שבו שותף דורש חתימה דחופה על חוזים או גישה למסמכים מסוימים. ההקשר סביר, התמונה והקול תואמים, ומערכת האימות מסתמכת אך ורק על זיהוי פנים.
בסביבות עבודה מרחוק שהולכות ונפוצות יותר ויותר, תוקפים חודרים לשיחות וידאו על ידי התחזות לחברי צוות . באמצעות אווטארים שנוצרו על ידי בינה מלאכותית, הם משתתפים בפגישות, מבקשים גישה למערכות פנימיות או לוחצים לקבל מידע סודי. ההתחזות יכולה לחמוק מעיניו אם ההתנהגות אינה נראית יוצאת דופן מדי.
כל זה מציב אתגר ישיר למערכות אבטחה המבוססות על זיהוי פנים או קולי. מחקרים אחרונים מצביעים על כך שהתאמות קטנות בצללים, טשטוש חכם או רעש של אויב יכולים להפחית באופן דרסטי את יעילותם של גלאים ביומטריים, ולאפשר לפנים מזויפות לעקוף בקרת גישה.
אתגרי זיהוי: מדוע תוכנת אנטי-וירוס לבדה אינה מספיקה
זיהוי דיפפייקים אינו פשוט כמו התקנת תוכנה ושכחה ממנה. מודלים קיימים של זיהוי מתמודדים עם בעיה מרכזית: יכולת ההכללה שלהם מוגבלת . הם מאומנים בדרך כלל באמצעות טכניקות וסגנונות מניפולציה ספציפיים, וכאשר אלגוריתם מדור חדש מופיע, הם מאבדים מיעילותם.
יתר על כן, תוקפים יכולים להכניס הפרעות עוינות שתוכננו במיוחד כדי להטעות גלאים . כלומר, הם מוסיפים רעש שאינו מורגש לעין האנושית, אך מבלבל מערכות פורנזיות ומאפשר לתוכן שעבר מניפולציה לעבור דרך מסננים כאילו היה אותנטי.
לכך מתווסף אתגר המדרגיות. פלטפורמות ורשתות חברתיות מקבלות כמויות עצומות של וידאו ואודיו מדי יום , מה שהופך ניתוח מעמיק של כל פיסה לכמעט בלתי אפשרי. רבים נאלצים לפנות לדגימה, ניתוח שטחי או מערכות אוטומטיות שלפעמים נכשלות.
לכן, אין כיום "פתרון קסם" נגד זיופים עמוקים. הגנה דורשת שילוב של טכניקות : ניתוח מטא-דאטה, בחינת ממצאים חזותיים או קוליים, רשתות עצביות שאומנו לזהות דפוסים עדינים, וחשוב מאוד, אימון משתמשים וחשיבה ביקורתית.
עצם התקדמותה של הבינה המלאכותית מחייבת עדכון מתמיד של מודלים לגילוי . כל דור חדש של כלים יצירתיים דורש סקירה ואימון מחדש של מערכות הגנה, ויוצר משחק חתול ועכבר מתמשך בין תוקפים למגינים.
מסגרת משפטית: כיצד ספרד והאיחוד האירופי מגיבים
מבחינה משפטית, זיופים עמוקים (Deepfakes) לא תמיד נחשבים לפשע ספציפי, אך השימוש המזיק בהם נופל תחת מספר עבירות פליליות ותקנות קיימות . בספרד, חוק העונשין מציע צורות שונות של הגנה מפני התחזות והפרות פרטיות.
סעיף 197 ואילך מגן על הזכות לפרטיות ולתדמית של אדם, ומטיל עונש על השגה, שימוש או הפצה של תמונות או הקלטות אינטימיות ללא הסכמה , גם אם הן עברו מניפולציה דיגיטלית. דיפפייק מיני המופץ ללא רשות יכול להיחשב כפשע נגד הפרטיות.
סעיף 401 קובע כי גניבת זהות היא עבירת פשרה , אשר ניתנת ליישום כאשר זיוף עמוק משמש להתחזות לאדם אחר, למשל, כדי להונות צדדים שלישיים או לבצע הונאה. סעיפים 208-210 מסדירים הוצאת דיבה והוצאת דיבה, החלים אם התוכן השקרי פוגע קשות בכבודו או במוניטין של הקורבן.
סעיפים 248 ו-249, הנוגעים להונאה, מכסים מקרים בהם נעשה שימוש בקולות או פנים משתנים כדי להשיג רווח כספי בלתי חוקי . במקרים אלה, טכנולוגיית דיפפייק היא האמצעי המשמש לביצוע הפשע, אם כי היא אינה מסווגת כעבירה נפרדת.
במקביל, חוק אורגני 3/2018 (LOPDGDD) ותקנת הגנת המידע הכללית (GDPR) מגנים על מידע אישי, כולל מידע ביומטרי כגון פנים וקול. שימוש בתמונה או בקולו של אדם בזיוף עמוק ללא הסכמתו עלול להוות הפרה חמורה של הגנת המידע, עם סנקציות מנהליות ואחריות אזרחית או פלילית פוטנציאלית.
חוק אורגני 1/1982, העוסק בזכות לכבוד, לפרטיות ולתדמית של האדם, מאפשר לקורבן להגיש תביעה אזרחית נגד כל מי שמפיץ דיפפייק הפוגע בכבודו או במוניטין שלו , ולבקש את הסרת התוכן, פיצוי על נזקים ונקיטת צעדי זהירות דחופים לעצירת הפצתו.
ברמה האירופית, חוק הבינה המלאכותית (AI Act) (תקנת האיחוד האירופי לבינה מלאכותית) ידרוש שתוכן שנוצר על ידי בינה מלאכותית, כולל דיפפייקס, יזוהה בבירור ככזה. בינתיים, חוק השירותים הדיגיטליים (DSA) מחייב פלטפורמות ושירותים דיגיטליים להגיב במהירות לתוכן שקרי, משמיץ או מפר זכויות יסוד.
יתר על כן, ממשלות מסוימות - כולל זו של ספרד - החלו להגדיר באופן ספציפי יותר פשעים הקשורים לזיופי עמוקים מיניים ו"גרומינג", וחיזקו את ההגנה הפלילית מפני פורנוגרפיה ללא הסכמה שנוצרת באמצעות בינה מלאכותית והתעללות בקטינים באמצעות מניפולציה אודיו-ויזואלית.
סיכונים ספציפיים לילדים, נשים וקבוצות פגיעות
דיפפייקס אינם משפיעים על כולם באופן שווה. נתונים מצביעים על כך שנשים, קטינים וקבוצות ציבור מסוימות נושאות חלק לא פרופורציונלי מההשפעה, במיוחד בכל הנוגע לתוכן אינטימי המשותף ללא הסכמה.
דיווחים אחרונים מצביעים על כך שחלק ניכר מהדיפ-זייפים שזוהו ברשת הם פורנוגרפיים ופונים לנשים, רבות מהן דמויות ציבוריות. דבר זה מתבטא בקמפיינים של הטרדה, סחיטה והשמצה, עם מרכיב חזק של אלימות דיגיטלית מבוססת מגדר.
מספר מחקרים ודיווחים מעריכים כי אחד מכל חמישה צעירים בספרד מדווח על חוויה כלשהי הקשורה לזיוף עמוק במהלך ילדותם או גיל ההתבגרות, בין אם כקורבן ישיר, כצופה מהצד או כמשתתף. חשיפה מוקדמת זו מגבירה את הסיכון לנורמליזציה של הטרדה וסקסואליות.
עבור קרימינולוגיה ומערכת המשפט, זיופים עמוקים מהווים כאב ראש נוסף: הם עלולים להיות מוצגים כ"ראיות" בהליכים משפטיים , מה שמקשה על שופטים, תובעים ומומחים לקבוע את האותנטיות של החומרים.
המצב מעלה גם בעיות חמורות בתחום הביטחון האישי ואבטחת הסייבר הציבורית, שכן ביומטריה של בקרת גישה מבוססת פנים או קול עלולה להפוך לבלתי אמינה יותר ויותר אם לא יפותחו במקביל מנגנונים חזקים לגילוי תוכן סינתטי.
מעבר לפגיעה האישית, התפשטותם של דיפפייקס תורמת לאקלים של חוסר אמון נרחב במידע דיגיטלי . אם סרטון או אודיו כלשהם יכולים להיות מזויפים, מתבסס הרעיון ש"שום דבר לא בטוח", ובסופו של דבר, אנשים רבים מפסיקים לנסות להבחין בין מה אמיתי למה שמניפולציה.
עייפות המידע הזו מסוכנת במיוחד משום שהיא סוללת את הדרך לקמפיינים של דיסאינפורמציה ומניפולציה המונית . מתקפות דיסאינפורמציה המשלבות חדשות מזויפות עם דיפפייקס אודיו-ויזואליים יכולות להשפיע על בחירות, משאלי עם, החלטות השקעה ויחסים בינלאומיים.
מדיה חברתית משמשת כמאיץ של תהליך זה. תוכן כוזב אך בעל השפעה יכול להפוך ויראלי תוך דקות ספורות , בעוד שאימות ותיקונים מגיעים הרבה יותר מאוחר ועם פחות טווח הגעה. פיגור זה פועל בבירור לטובת אלו המשתמשים בבינה מלאכותית גנרית למטרות זדוניות.
פלטפורמות מרכזיות - פייסבוק, X (לשעבר טוויטר), גוגל וכו' - הכריזו על צעדים להגבלת התפשטות דיפפייקס מזיקים , החל מאיסורים מפורשים ועד לתיוג ומערכות הסרה מהירות. עם זאת, היקף הבעיה והמהירות שבה הטכנולוגיה מתפתחת גורמים לכך שהתגובה תמיד חלקית.
הסיכון העמוק ביותר הוא שתופעות אלו תורמות לשחיקה של החשיבה הביקורתית בקרב האזרחים . אם "הכל יכול להיות שקר", קל יותר לזרוע ספקות, להפיץ תיאוריות קיצוניות ולערער את האמון בתקשורת, במוסדות ואפילו במערכת הדמוקרטית עצמה.
אסטרטגיות טכנולוגיות וארגוניות להגנה
לנוכח בעיה מורכבת שכזו, התגובה חייבת להיות רב-ממדית באותה מידה. ברמה הטכנית, מפותחים אלגוריתמים לזיהוי מבוססי בינה מלאכותית המחפשים סתירות עדינות בסרטונים: שגיאות סינכרון שפתיים, מצמוץ לא טבעי, עיוותים בדחיסה, עור חלק יתר על המידה או קצוות מטושטשים באזור הפנים.
גישה נוספת כרוכה בהגנה על תוכן "במקור" על ידי הוספת סימני מים בלתי נראים או מטא-נתונים הניתנים לאימות המאשרים את האותנטיות של סרטון או תמונה. סימנים אלה יכולים לסייע בהבחנה בין חומרים מקוריים לבין עותקים שעברו מניפולציה, בתנאי שקיים תקן מקובל וכלים לאימותם.
בסביבות ארגוניות, אימות רב-גורמי משופר צובר תאוצה גוברת . משמעות הדבר היא לא להסתמך אך ורק על תמונתו או קולו של אדם, אלא לשלב אותם עם גורמים אחרים: מיקום גיאוגרפי, דפוסי שימוש אופייניים, אישורים דרך ערוצים חלופיים (SMS, אפליקציות מאובטחות) או קודים חד-פעמיים.
מומלץ גם ליישם פרוטוקולים ברורים עבור עסקאות רגישות , כגון העברות בנקאיות או שינויי אישורים. לדוגמה, יש לקבוע שאף פקודה פיננסית חשובה לא מבוצעת אך ורק באמצעות דואר אלקטרוני או שיחת וידאו, אלא תמיד דורשת אימות נוסף דרך ערוץ אחר.
לבסוף, הכשרה מתמשכת היא המפתח. ארגונים שמבצעים תרגילי פישינג ודיפפייקים - המלמדים את הצוות שלהם לזהות סימנים עדינים כמו בעיות סנכרון אודיו, מחוות לא טבעיות או התנהגות יוצאת דופן - מפתחים תרבות אבטחה עמידה הרבה יותר.
כיצד לזהות דיפפייק: סימנים מעשיים לחיי היומיום
מנקודת מבטו של המשתמש, ישנם מספר רמזים שיכולים לסייע בזיהוי תוכן מזויף, אם כי הם לא תמיד חד משמעיים. המלצה ראשונה היא לחפש פגמים חזותיים ברורים : קצוות מטושטשים סביב הפנים, תאורה לא עקבית בהשוואה לרקע, תנועות קופצניות או הבעות פנים "מוזרות".
מצמוץ הוא אינדיקטור שימושי נוסף. זיופים עמוקים רבים עדיין מציגים דפוסי מצמוץ לא טבעיים : עיניים שנשארות פקוחות מדי לפרקי זמן ממושכים או מצמוצים בקצב מוזר. בעוד שדגמים חדשים יותר משתפרים בתחום זה, זוהי נקודת תורפה במקרים רבים.
חשוב גם להסתכל על גופו של האדם, צווארו וכתפיו. רוב המניפולציות מתמקדות בפנים , כך ששאר הגוף יכול לחשוף את הזיוף אם הפרופורציות, היציבה או המחוות אינן תואמות את מה שמצופה מאותו אדם.
אורך הסרטון יכול להיות רמז נוסף. יצירת דיפפייק ארוך דורשת משאבים רבים יותר ומגדילה את הסבירות לטעויות, ולכן תוכן מניפולטיבי הוא קצר יחסית ומתמקד במשפט או סצנה בודדים ומשפיעים. קליפ קצר מאוד עם מסר נפיץ אמור להדליק דגל אדום.
לבסוף, חשוב לנתח את ההקשר והמקור של ההקלטה . מי שיתף אותה ראשון? האם היא מופיעה בכלי תקשורת בעלי מוניטין או רק בחשבונות אנונימיים? האם ישנם מקורות בלתי תלויים אחרים המאשרים את מה שאתם רואים? האטת ההפעלה או צפייה בסרטון פריים אחר פריים יכולים לסייע בזיהוי שינויים פתאומיים ברקע, יישור הפנים או פנים הפה (לשון, שיניים) - תחומים שבהם אלגוריתמים רבים עדיין נכשלים.
אוריינות תקשורתית ותרבות אימות
שום טכנולוגיית גילוי לא תספיק ללא אזרחים בעלי כישורי חשיבה ביקורתית ויכולות אימות בסיסיות . ארגונים כמו INCIBE ומשרד אבטחת משתמשי האינטרנט מדגישים את הצורך להיות ערניים לגבי המידע שאנו מקבלים, לנתח תוכן בפירוט ולאמת אותו תמיד עם מקורות אמינים.
פיתוח ההרגל של לא לשתף שום דבר באימפולסיביות , במיוחד אם זה מעורר רגשות חזקים (פחד, כעס, זעם), הוא אחת ההגנות הטובות ביותר מפני התפשטות דיפפייקס ופייק ניוז. כמה שניות לשאול את עצמכם, "מי מרוויח מזה שאני מאמין בזה?" יכול לעשות הבדל גדול.
הכשרה באבטחת סייבר, מחקר מקוון ומודיעין סייבר אינם רק למומחים. הבנת האופן שבו פועלות התקפות פישינג, הנדסה חברתית ומידע כוזב עוזרת לכל אחד להפחית משמעותית את הפגיעות שלו, הן בחייו האישיים והן בחייו המקצועיים.
עבור ילדים ובני נוער, חשוב במיוחד לשלב נושאים אלה בחינוך דיגיטלי ורגשי , ולהסביר את הסיכונים של בריונות ברשת, סקס-טורציה ושיתוף תמונות אינטימיות. הידיעה שסרטון עשוי להיות מזויף, אך שההשלכות שלו יכולות להיות אמיתיות מאוד, עושה הבדל עצום.
עבור עסקים ומוסדות, השקעה בתוכניות מודעות החורגות מעבר לייעוץ גנרי בנושא אבטחת סייבר היא כיום הכרח אסטרטגי. אלו שאינם מבינים את דיפפייקס, את השפעתם וכיצד להגיב אליהם יהיו בעמדת נחיתות ברורה בנוף הדיגיטלי החדש.
כל הסימנים מצביעים על כך שזיוף עמוק ימשיכו להתרבות בכמות ובתחכום , וישפיעו על הביטחון, הכלכלה, הפוליטיקה והחיים הפרטיים של מיליונים. קבלה של היותם חלק מהנוף הדיגיטלי, דרישה למסגרות משפטיות ברורות, השקעה בטכנולוגיות גילוי חזקות, ומעל הכל, טיפוח תרבות של אימות ואחריות משותפת הן הדרכים הטובות ביותר למנוע מכלי רב עוצמה זה להפוך לנשק שפוגע לחלוטין באמון בחיינו המקוונים.