- SynthID Detector הוא כלי חינמי של גוגל שמזהה סימני מים דיגיטליים בלתי נראים בקבצי מולטימדיה.
- הוא תואם לתוכן שנוצר על ידי גוגל ושותפי טכנולוגיה כמו OpenAI, NVIDIA ו-Kakao, כאשר אפל מתכננת זאת גם בעתיד.
- הזיהוי שלה עמיד בפני עריכות בסיסיות, למרות שזו אינה מערכת אוניברסלית מכיוון שהיא מזהה רק מותגים תואמים.
כיום, ההבחנה בין מה אמיתי למה שיוצר על ידי מכונה היא כאב ראש של ממש. עם הפריסה העצומה של בינה מלאכותית גנרטיבית, האינטרנט מוצף בתוכן שנראה אותנטי אך הוא המצאה אלגוריתמית טהורה, מה שמאלץ אותנו לחפש כלים שיעזרו לנו להימנע מבליעת כל תרמית.
כדי לטפל בכך, גוגל החליטה לפתוח לציבור הרחב את SynthID Detector , פלטפורמת אינטרנט שנועדה לזהות סימני מים דיגיטליים בלתי נראים בקבצי מולטימדיה. מה שהיה בעבר נחלתם של עיתונאים ומומחי בדיקת עובדות זמין כעת לכל מי שרוצה לדעת אם הסרטון הוויראלי או התמונה המסקרנת סוננו על ידי בינה מלאכותית.
מה זה בעצם SynthID ואיך זה עובד?
בניגוד למטא-דאטה סטנדרטי, שכל משתמש עם ידע טכני מינימלי יכול למחוק, SynthID משתמש בטכנולוגיה שפותחה על ידי Google DeepMind אשר מטמיעה אותות בלתי מורגשים ישירות במבנה הנתונים של הקובץ. משמעות הדבר היא שסימן המים אינו משנה את האיכות החזותית או האודיולית של התוכן, אלא נשאר כחתימה דיגיטלית.
המערכת חזקה למדי, שכן אותות אלה בדרך כלל עומדים בפני שינויים נפוצים כגון חיתוך תמונות, יישום מסננים מסוימים או דחיסת קבצים בעת שיתוף ברשתות חברתיות. עם זאת, חשוב להבין שאם קובץ עובר טרנספורמציות קיצוניות או מעובד שוב ושוב על ידי בינה מלאכותית שונות, סימן המים עלול להינזק ולהפוך לבלתי ניתן לגילוי.
שלבים לשימוש בגלאי תוכן סינתטי
השימוש בכלי הוא קליל ואינו דורש התקנת תוכנה מסובכת, שכן הוא פועל ישירות מהדפדפן שלך בכתובת synthid.com . התהליך אינטואיטיבי מאוד: ברגע שהוא שם, המשתמש פשוט מתחבר ומעלה את הקובץ שהוא רוצה לנתח, על ידי גרירתו לתיבה המתאימה או בחירתו מהמכשיר שלו.
כדי לגשת לשירות, נדרש חשבון גוגל, אפל או ChatGPT . לאחר העלאת החומר, המערכת סורקת את הקובץ לאיתור חתימה דיגיטלית ומחזירה תוצאה המציינת האם החתימה זוהתה או לא. חשוב לציין כי, לעת עתה, ממשק הפלטפורמה פועל בעיקר באנגלית.
פורמטים נתמכים והיקף הכלי
הרבגוניות של SynthID Detector יוצאת דופן, שכן הוא אינו מגביל את עצמו רק לתמונות. במחלקת הווידאו , הוא יכול לעבד קבצים בפורמטים MP4, MOV ו-WEBM. בכל הנוגע לאודיו , הרשימה רחבה אף יותר, ומקבלת WAV, MP3, OGG, FLAC, AAC ו-M4A. באשר לתמונות , הוא תומך כמעט בכל דבר: החל מ-JPG ו-PNG קלאסיים ועד פורמטים מודרניים יותר כמו WebP, AVIF, HEIC, HEIF, TIFF ו-GIF.
נקודה מרכזית היא שגוגל לא רוצה לעשות זאת לבד במאמץ הזה ושואפת ליצור סטנדרט בתעשייה. לכן, הכלי לא רק מזהה תוכן של ג'מיני אלא גם מזהה מותגים של OpenAI, NVIDIA ו-Kakao . יתר על כן, אושר כי אפל תצטרף בקרוב למערכת אקולוגית זו של אימות, מה שירחיב מאוד את התועלת של הגלאי.
מגבלות חשובות שכדאי לדעת עליהן
כאן יש צורך בזהירות כדי להימנע מקפיצה במסקנות. גלאי SynthID אינו גלאי בינה מלאכותית אוניברסלי. משמעות הדבר היא שאם נוצר תוכן באמצעות בינה מלאכותית שאינו משתמש במערכת סימון מים זו, הכלי לא ידווח על סימן מים, אך אין זה אומר שהקובץ אותנטי.
בקיצור, תוצאה שלילית אינה הוכחה לאותנטיות, אלא פשוט היעדר חתימה תואמת . יתר על כן, המערכת אינה מפרטת אילו שינויים ספציפיים בוצעו בקובץ; היא רק מאשרת האם התרחשה התערבות של בינה מלאכותית. במקרה של סרטונים, ג'מיני יכולה לאתר קטעים ספציפיים שבהם זוהתה החתימה, מה שמבהיר שהסרטון כולו אינו בהכרח סינתטי.
אסטרטגיות נוספות לגילוי דיפפייקים ותוכן מזויף
מכיוון שאין כלי שאינו חף מטעות, מומלץ לשלב את השימוש ב-SynthID עם עין ביקורתית. טכניקה יעילה אחת היא לחפש אחר תופעות חזותיות , כגון טקסט בלתי קריא, אצבעות מעוותות, צללים שאינם תואמים את האור, או דפוסים שנראים חוזרים על עצמם ומלאכותיים מדי.
כמו כן, שימושי מאוד להשתמש בחיפוש תמונות הפוך של גוגל כדי לאתר את המקור האמיתי של תמונה. לבסוף, ניתוח נתוני ה-EXIF של הקובץ המקורי יכול לחשוף את דגם המצלמה בו נעשה שימוש או את תוכנת העריכה בה נעשה שימוש, ולספק רמזים נוספים לגבי אמיתות החומר.
גוגל שילבה את הטכנולוגיה הזו בקנה מידה עצום, וכבר סימנה יותר מ -180.000 מיליארד תמונות וסרטונים , כמו גם כמות אודיו השווה ל-240.000 שנים. עם שילוב התכונות הללו בכרום ובחיפוש גוגל , המאבק בדיסאינפורמציה ובזיוף עמוק מקבל בעל ברית רב עוצמה שמעבד יותר ממיליון בקשות מדי יום, ועוזר לשקם מידה מסוימת של אבטחה בסביבה הדיגיטלית.