- Τα deepfakes είναι οπτικοακουστικό περιεχόμενο που παράγεται από τεχνητή νοημοσύνη και απειλεί την ιδιωτικότητα, τη φήμη και την εμπιστοσύνη του κοινού.
- Ο αντίκτυπός της κυμαίνεται από την παρενόχληση και την μη συναινετική πορνογραφία έως την εταιρική απάτη και την πολιτική χειραγώγηση.
- Το ισπανικό και το ευρωπαϊκό νομικό πλαίσιο προσφέρουν ήδη εργαλεία για τη δίωξη επιβλαβών χρήσεων, αν και η τεχνολογία προχωρά πολύ γρήγορα.
- Η άμυνα απαιτεί τον συνδυασμό τεχνικής ανίχνευσης, οργανωτικών πρωτοκόλλων και εκπαίδευσης στην κριτική σκέψη και την κυβερνοασφάλεια.
Τα deepfakes έχουν εξελιχθεί από ένα διαδικτυακό αξιοπερίεργο σε μια από τις πιο σοβαρές προκλήσεις της ψηφιακής εποχής. Βίντεο, ήχος και εικόνες που έχουν υποστεί επεξεργασία με τεχνητή νοημοσύνη μπορούν να μας κάνουν να δούμε κάποιον να λέει ή να κάνει κάτι που δεν συνέβη ποτέ, με έναν ρεαλισμό που, σε πολλές περιπτώσεις, ξεγελάει ακόμη και τα μάτια των ειδικών. Και αυτό δεν επηρεάζει μόνο διασημότητες ή πολιτικούς: οποιοσδήποτε έχει παρουσία στα μέσα κοινωνικής δικτύωσης μπορεί να γίνει στόχος.
Αυτό το φαινόμενο συνδυάζει τρία πολύ επικίνδυνα συστατικά: ισχυρή τεχνολογία, ευκολία χρήσης και τεράστια εμβέλεια . Το αποτέλεσμα είναι μια τέλεια συνταγή για παραπληροφόρηση, οικονομική απάτη, παρενόχληση και μια εκτεταμένη διάβρωση της εμπιστοσύνης σε αυτά που βλέπουμε και ακούμε. Ας αναλύσουμε, ήρεμα και λεπτομερώς, τι ακριβώς είναι τα deepfakes, πώς δημιουργούνται, ποιους κινδύνους θέτουν σε άτομα, εταιρείες και ιδρύματα, τι ορίζει ο νόμος και ποια πραγματικά βήματα μπορούμε να κάνουμε για να αμυνθούμε.
Τι είναι τα deepfakes και γιατί είναι σημαντικά;
Ο όρος deepfake προέρχεται από τον συνδυασμό της βαθιάς μάθησης και του ψεύτικου . Αναφέρεται σε οποιοδήποτε οπτικοακουστικό περιεχόμενο —βίντεο, εικόνα ή ήχο— που δημιουργείται ή χειραγωγείται από αλγόριθμους γενετικής τεχνητής νοημοσύνης για να φαίνεται αυθεντικό. Δεν μιλάμε για απλά φίλτρα ή ρετούς, αλλά για πλήρεις ανακατασκευές προσώπων, χειρονομιών ή φωνών που μιμούνται με μεγάλη ακρίβεια ένα πραγματικό πρόσωπο.
Με άμεσα διαθέσιμα, ακόμη και δωρεάν, εργαλεία, είναι δυνατό να τοποθετήσετε το πρόσωπο κάποιου πάνω στο σώμα ενός άλλου ατόμου, να κλωνοποιήσετε τη φωνή του ή να αναδημιουργήσετε σκηνές που δεν συνέβησαν ποτέ . Οι εξελίξεις στα νευρωνικά δίκτυα και τα GAN (γενετικά ανταγωνιστικά δίκτυα) έχουν αυξήσει δραματικά το επίπεδο ρεαλισμού, καθιστώντας πολύ πιο δύσκολη τη διάκριση μεταξύ γνήσιου και χειραγωγημένου περιεχομένου.
Τα deepfakes θεωρούνται πλέον εξέλιξη των fake news : ενώ προηγουμένως το κείμενο ή οι φωτογραφίες χειραγωγούνταν, τώρα δημιουργείται ένα ψεύτικο βίντεο ή μια αξιόπιστη ηχογράφηση που έχει πολύ μεγαλύτερο συναισθηματικό και γνωστικό αντίκτυπο. Ο εγκέφαλός μας τείνει να εμπιστεύεται αυτό που «βλέπει και ακούει» περισσότερο από έναν απλό τίτλο, κάτι που πολλαπλασιάζει την πειστική του δύναμη.
Παρόλο που αυτή η τεχνολογία υπάρχει από τα τέλη της δεκαετίας του 90, έγινε γνωστή το 2017, όταν ένας χρήστης του Reddit άρχισε να δημοσιεύει ψεύτικο πορνογραφικό περιεχόμενο με τα πρόσωπα γνωστών ηθοποιών. Έκτοτε, η χρήση της έχει εξαπλωθεί σε τεράστιο βαθμό, τόσο στην ψυχαγωγία όσο και σε σαφώς κακόβουλα πλαίσια.
Πώς δημιουργούνται τα deepfakes: η τεχνική πλευρά χωρίς τεχνική ορολογία
Πίσω από ένα deepfake κρύβονται συστήματα μηχανικής μάθησης που αναλύουν χιλιάδες εικόνες, καρέ ή αποσπάσματα ήχου . Η τυπική διαδικασία με πρόσωπα ακολουθεί δύο κύρια βήματα: κωδικοποίηση και αποκωδικοποίηση. Πρώτον, ένας αλγόριθμος κωδικοποίησης μελετά τις ομοιότητες μεταξύ δύο προσώπων και εξάγει ένα σύνολο κοινών χαρακτηριστικών. Στη συνέχεια, ένας αποκωδικοποιητής ανακατασκευάζει την εικόνα-στόχο χρησιμοποιώντας τις εκφράσεις του άλλου ατόμου.
Στην πράξη, εκπαιδεύονται δύο ξεχωριστοί αποκωδικοποιητές, ένας για κάθε πρόσωπο. Όταν δεδομένα από το ένα άτομο τροφοδοτούνται στον αποκωδικοποιητή του άλλου , λαμβάνουμε ένα βίντεο στο οποίο το άτομο Α φαίνεται να εκτελεί τις χειρονομίες και τις κινήσεις του ατόμου Β. Αν γίνει σωστά, το αποτέλεσμα μοιάζει με μια πρωτότυπη ηχογράφηση.
Μια άλλη κοινή τεχνική είναι η χρήση γενετικών αντιφατικών δικτύων (GAN) . Αυτό περιλαμβάνει δύο δίκτυα: μια γεννήτρια, η οποία δημιουργεί ψεύτικες εικόνες ή βίντεο κλιπ, και έναν διακριτικό, ο οποίος επιχειρεί να διακρίνει το ψεύτικο από το πραγματικό. Ανταγωνίζονται μεταξύ τους χιλιάδες φορές, βελτιώνοντας συνεχώς έως ότου ο διακριτικός δεν μπορεί πλέον να ανιχνεύσει εύκολα την απάτη και το αποτέλεσμα να προσεγγίζει στενά την πραγματικότητα.
Τα περισσότερα deepfake βίντεο δημιουργούνται τροφοδοτώντας τον αλγόριθμο με μεγάλα σύνολα εικόνων του ατόμου που μιμείται . Όσο περισσότερες γωνίες, χειρονομίες και συνθήκες φωτισμού έχει το μοντέλο, τόσο πιο πειστικό θα είναι το τελικό αποτέλεσμα. Παραδοσιακά, επομένως, τα θύματα ήταν συνήθως άτομα με υψηλή έκθεση στα μέσα ενημέρωσης, αν και σήμερα μια μόνο φωτογραφία ή λίγα δευτερόλεπτα φωνητικών ηχογραφήσεων είναι αρκετά για να δημιουργήσουν ένα αξιοπρεπές κλώνο.
Στην περίπτωση της φωνής, τα συστήματα κλωνοποίησης επιτρέπουν, από λίγα μόνο δευτερόλεπτα ηχογράφησης, την αναπαραγωγή της χροιάς, της προφοράς και του ρυθμού της ομιλίας . Συνδυάζοντας τη σύνθεση ομιλίας με σενάρια που δημιουργούνται από τεχνητή νοημοσύνη, είναι δυνατή η παραγωγή ήχου στον οποίο το θύμα «λέει» οτιδήποτε θέλει να βάλει στο στόμα του ο εισβολέας.
Τύποι deepfakes: εικόνα, βίντεο και φωνή
Εντός της ομπρέλας των deepfakes, μπορούμε να διακρίνουμε διάφορους τύπους, ανάλογα με το είδος του περιεχομένου που χειραγωγείται και την τεχνική που χρησιμοποιείται. Δύο κατηγορίες έχουν γίνει ιδιαίτερα δημοφιλείς: τα deepfaces και τα deepvoices.
Τα Deepfaces είναι βίντεο όπου το πρόσωπο ενός ατόμου δημιουργείται ή αντικαθίσταται πλήρως . Χρησιμοποιώντας πολλαπλές φωτογραφίες, το σύστημα δημιουργεί στατικά πρόσωπα τόσο ρεαλιστικά που φαίνονται σαν πραγματικά πορτρέτα και στη συνέχεια τα συνδέει μεταξύ τους σε σειρά για να δημιουργήσει ένα ομαλό βίντεο. Ο στόχος είναι, κατά την προβολή, κανείς να μην υποψιάζεται ότι κοιτάζει ένα τεχνητό σύνθετο υλικό.
Εν τω μεταξύ, οι deepvoices επικεντρώνονται στην πλαστοπροσωπία φωνής . Ο αλγόριθμος μαθαίνει τα φωνητικά χαρακτηριστικά ενός ατόμου (συχνότητα, τονικότητα, παύσεις, λέξεις συμπλήρωσης κ.λπ.) και στη συνέχεια μπορεί να διαβάσει οποιοδήποτε κείμενο, περνώντας το ως αυτό το άτομο. Αυτός ο τύπος deepfake είναι ιδιαίτερα επικίνδυνος στον εταιρικό και χρηματοπιστωτικό τομέα.
Ένα χαρακτηριστικό παράδειγμα συνέβη το 2019: οι κυβερνοεγκληματίες κλωνοποίησαν τη φωνή ενός διευθύνοντος συμβούλου για να καλέσουν ένα ανώτερο στέλεχος στην εταιρεία του και να διατάξουν μια επείγουσα μεταφορά άνω των 250.000 δολαρίων. Το στέλεχος συμμορφώθηκε επειδή η φωνή ακουγόταν ακριβώς όπως του προϊσταμένου του και η αίσθηση του επείγοντος ήταν πιστευτή.
Πέρα από αυτές τις δύο κατηγορίες, υπάρχουν επίσης υβριδικά deepfakes που συνδυάζουν βίντεο, ήχο και κείμενο που δημιουργείται από τεχνητή νοημοσύνη , έτσι ώστε όλο το περιεχόμενο - αυτό που βλέπετε και αυτό που ακούτε - να είναι συνθετικό αλλά συνεκτικό. Καθώς η τεχνολογία ωριμάζει, τα όρια μεταξύ αυτών των τύπων θολώνουν.
Νόμιμες χρήσεις και θετικές εφαρμογές
Παρόλο που συχνά συνδέουμε τα deepfakes με απάτες και διαδικτυακό εκφοβισμό, η ίδια τεχνολογία έχει απολύτως νόμιμες και πολύτιμες εφαρμογές όταν χρησιμοποιείται με διαφάνεια και με τη συγκατάθεση. Στη βιομηχανία του κινηματογράφου, για παράδειγμα, χρησιμοποιείται για την υποβάθμιση της ηλικίας των ηθοποιών, την αναδημιουργία νεκρών χαρακτήρων ή την μεταγλώττιση διαλόγων χωρίς να χάνεται ο συγχρονισμός των χειλιών.
Στον εκπαιδευτικό τομέα, τα γενετικά μοντέλα επιτρέπουν την προσαρμογή οπτικοακουστικού περιεχομένου σε πολλαπλές γλώσσες , διατηρώντας παράλληλα τις πρωτότυπες χειρονομίες του ομιλητή. Αυτό βελτιώνει την κατανόηση, αποφεύγει την αίσθηση της «μεταγλώττισης χαμηλού προϋπολογισμού» και διευκολύνει την παγκόσμια προσβασιμότητα σε μαθήματα και συνέδρια.
Διερευνώνται επίσης εφαρμογές προσβασιμότητας, όπως η δημιουργία avatar που ερμηνεύουν τη νοηματική γλώσσα με εξατομικευμένο τρόπο ή προσαρμοσμένες συνθετικές φωνές για άτομα που δεν μπορούν να μιλήσουν. Με τη σωστή ηθική προσέγγιση, η ίδια τεχνολογία που μας ανησυχεί σήμερα μπορεί να ανοίξει σημαντικές πόρτες για την ψηφιακή ένταξη.
Η μεγαλύτερη πρόκληση δεν είναι τόσο το ίδιο το εργαλείο, αλλά μάλλον το πλαίσιο, ο σκοπός και η διαφάνεια με την οποία χρησιμοποιείται. Γι' αυτό και οι πρόσφατοι ευρωπαϊκοί κανονισμοί τονίζουν την υποχρέωση σαφούς επισήμανσης του περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη, ώστε το κοινό να μπορεί να διακρίνει μεταξύ διαφορετικών τύπων.
Κίνδυνοι και απειλές των deepfakes για την κοινωνία
Ο αρνητικός αντίκτυπος των deepfakes κυμαίνεται από την ιδιωτική ζωή ενός ατόμου έως την πολιτική, οικονομική και κοινωνική σταθερότητα . Ένας από τους πιο προφανείς κινδύνους είναι η παραπληροφόρηση: ψεύτικα βίντεο που δείχνουν πολιτικούς ηγέτες να κάνουν εμπρηστικές δηλώσεις ή να παραδέχονται εγκλήματα που δεν συνέβησαν ποτέ.
Ακόμα κι αν αργότερα διαψευσθούν, η ζημιά έχει ήδη γίνει, επειδή ο συναισθηματικός αντίκτυπος της πρώτης προβολής συχνά υπερτερεί οποιασδήποτε μεταγενέστερης διόρθωσης . Αυτό συμβάλλει στην πόλωση της κοινής γνώμης, τροφοδοτεί θεωρίες συνωμοσίας και αποδυναμώνει την εμπιστοσύνη στα μέσα ενημέρωσης και τους δημοκρατικούς θεσμούς.
Ένας άλλος εξαιρετικά σοβαρός κίνδυνος είναι η χρήση deepfakes για παρενόχληση, δυσφήμιση και παραβίαση της ιδιωτικής ζωής . Η δημιουργία ψεύτικης πορνογραφίας που χρησιμοποιεί τα πρόσωπα γυναικών —ιδίως πολιτικών, ακτιβιστών και δημοσιογράφων— έχει γίνει μια μορφή ψηφιακής βίας με καταστροφικές συνέπειες για τη φήμη, την προσωπική ζωή και την ψυχική τους υγεία.
Πρόσφατες μελέτες δείχνουν ότι περίπου το 2,2% των ατόμων που συμμετείχαν σε έρευνα σε ορισμένα ακαδημαϊκά έργα αυτοπροσδιορίζονται ως θύματα προσωπικών deepfakes, ενώ το 1,8% παραδέχεται ότι έχει δημιουργήσει ή διανείμει αυτό το είδος περιεχομένου. Αν και αυτά τα στοιχεία μπορεί να φαίνονται χαμηλά, αντικατοπτρίζουν μια ανησυχητική και αυξανόμενη τάση.
Επιπλέον, τα deepfakes συμβάλλουν σε μια «κρίση αλήθειας» : εάν οποιαδήποτε οπτικοακουστική απόδειξη μπορεί να κατασκευαστεί, η κοινωνία κινδυνεύει να υποθέσει ότι τίποτα δεν είναι απολύτως αξιόπιστο. Αυτή είναι ίσως η πιο επικίνδυνη μακροπρόθεσμη επίπτωση, επειδή διαβρώνει τη βασική εμπιστοσύνη που είναι απαραίτητη για την ψηφιακή συνύπαρξη και τον ενημερωμένο δημόσιο διάλογο.
Επιπτώσεις στην απάτη και την εταιρική κυβερνοασφάλεια
Στον επιχειρηματικό κόσμο, τα deepfakes γίνονται ένα εξαιρετικά αποτελεσματικό εργαλείο επίθεσης για τους κυβερνοεγκληματίες. Αυτό δεν είναι επιστημονική φαντασία: υπάρχουν ήδη πολυάριθμες περιπτώσεις στελεχών που πλαστογραφούνται χρησιμοποιώντας βίντεο ή ήχο για να παραγγείλουν μεταφορές, να ζητήσουν ευαίσθητα δεδομένα ή να δώσουν ψευδείς στρατηγικές οδηγίες.
Ένα από τα πιο συνηθισμένα σενάρια περιλαμβάνει [ ασαφές - πιθανώς "διεύθυνση ηλεκτρονικού ταχυδρομείου" ή "αριθμός τηλεφώνου"]. Εκτός από το κλασικό δόλιο email, ο εισβολέας περιλαμβάνει ένα deepfake βίντεο ή ηχητικό αρχείο του Διευθύνοντος Συμβούλου ή του Οικονομικού Διευθυντή, ενισχύοντας τον επείγοντα χαρακτήρα του αιτήματος. Μόλις δει ή ακούσει το "αφεντικό" του, το θύμα χαλαρώνει την επαγρύπνησή του και εκτελεί την εντολή.
Τα deepfakes χρησιμοποιούνται επίσης στην προηγμένη κοινωνική μηχανική . Για παράδειγμα, ένα φαινομενικά συνηθισμένο βίντεο αποστέλλεται σε μια δικηγορική εταιρεία, στην οποία ένας συνεργάτης απαιτεί την επείγουσα υπογραφή συμβάσεων ή πρόσβαση σε ορισμένα έγγραφα. Το πλαίσιο είναι εύλογο, η εικόνα και η φωνή ταιριάζουν και το σύστημα επαλήθευσης βασίζεται αποκλειστικά στην αναγνώριση προσώπου.
Σε ολοένα και πιο συνηθισμένα περιβάλλοντα απομακρυσμένης εργασίας, οι εισβολείς διεισδύουν σε βιντεοκλήσεις μιμούμενοι τα μέλη της ομάδας . Χρησιμοποιώντας avatar που δημιουργούνται από τεχνητή νοημοσύνη, συμμετέχουν σε συσκέψεις, ζητούν πρόσβαση σε εσωτερικά συστήματα ή ασκούν πίεση για εμπιστευτικές πληροφορίες. Η μίμηση μπορεί να περάσει απαρατήρητη εάν η συμπεριφορά δεν φαίνεται πολύ ασυνήθιστη.
Όλα αυτά θέτουν μια άμεση πρόκληση για τα συστήματα ασφαλείας που βασίζονται στην αναγνώριση προσώπου ή φωνής. Πρόσφατες μελέτες δείχνουν ότι μικρές προσαρμογές στις σκιές, το έξυπνο θάμπωμα ή ο θόρυβος του εχθρού μπορούν να μειώσουν δραστικά την αποτελεσματικότητα των βιομετρικών ανιχνευτών, επιτρέποντας σε ένα ψεύτικο πρόσωπο να παρακάμψει τον έλεγχο πρόσβασης.
Προκλήσεις ανίχνευσης: γιατί το λογισμικό προστασίας από ιούς από μόνο του δεν επαρκεί
Η ανίχνευση deepfakes δεν είναι τόσο απλή όσο η εγκατάσταση λογισμικού και η λήθη του. Τα τρέχοντα μοντέλα ανίχνευσης αντιμετωπίζουν ένα βασικό πρόβλημα: η γενικευσιμότητά τους είναι περιορισμένη . Συνήθως εκπαιδεύονται χρησιμοποιώντας συγκεκριμένες τεχνικές και στυλ χειρισμού και όταν εμφανίζεται ένας αλγόριθμος νέας γενιάς, χάνουν την αποτελεσματικότητά τους.
Επιπλέον, οι επιτιθέμενοι μπορούν να εισαγάγουν αντιπαραθετικές διαταραχές ειδικά σχεδιασμένες για να παραπλανήσουν τους ανιχνευτές . Δηλαδή, προσθέτουν θόρυβο ανεπαίσθητο στο ανθρώπινο μάτι, ο οποίος όμως συγχέει τα εγκληματολογικά συστήματα και επιτρέπει στο χειραγωγημένο περιεχόμενο να διέρχεται από φίλτρα σαν να ήταν αυθεντικό.
Σε αυτό προστίθεται η πρόκληση της επεκτασιμότητας. Οι πλατφόρμες και τα κοινωνικά δίκτυα λαμβάνουν τεράστιες ποσότητες βίντεο και ήχου καθημερινά , καθιστώντας την εις βάθος ανάλυση κάθε κομματιού σχεδόν αδύνατη. Πολλοί αναγκάζονται να καταφύγουν σε δειγματοληψία, επιφανειακή ανάλυση ή αυτοματοποιημένα συστήματα που μερικές φορές αποτυγχάνουν.
Επομένως, προς το παρόν δεν υπάρχει «μαύρη λύση» κατά των deepfakes. Η άμυνα απαιτεί έναν συνδυασμό τεχνικών : ανάλυση μεταδεδομένων, εξέταση οπτικών ή ηχητικών αντικειμένων, νευρωνικά δίκτυα εκπαιδευμένα να ανιχνεύουν ανεπαίσθητα μοτίβα και, πολύ σημαντικό, εκπαίδευση χρηστών και κριτική σκέψη.
Η ίδια η πρόοδος της Τεχνητής Νοημοσύνης (ΤΝ) απαιτεί τη συνεχή ενημέρωση των μοντέλων ανίχνευσης . Κάθε νέα γενιά παραγωγικών εργαλείων απαιτεί την αναθεώρηση και την επανεκπαίδευση των αμυντικών συστημάτων, δημιουργώντας ένα αέναο παιχνίδι γάτας και ποντικιού μεταξύ επιτιθέμενων και αμυνόμενων.
Νομικό πλαίσιο: πώς αντιδρούν η Ισπανία και η Ευρωπαϊκή Ένωση
Από νομικής άποψης, τα deepfakes δεν θεωρούνται πάντα συγκεκριμένο έγκλημα, αλλά η επιβλαβής χρήση τους εμπίπτει σε διάφορα υφιστάμενα ποινικά αδικήματα και κανονισμούς . Στην Ισπανία, ο Ποινικός Κώδικας προσφέρει διάφορες μορφές προστασίας από την πλαστοπροσωπία και τις παραβιάσεις της ιδιωτικής ζωής.
Τα άρθρα 197 και επόμενα προστατεύουν το δικαίωμα στην ιδιωτικότητα και την εικόνα κάποιου, τιμωρώντας την απόκτηση, χρήση ή διάδοση προσωπικών εικόνων ή ηχογραφήσεων χωρίς συγκατάθεση , ακόμη και αν έχουν υποστεί ψηφιακή επεξεργασία. Ένα σεξουαλικό deepfake που διαδίδεται χωρίς άδεια μπορεί να θεωρηθεί έγκλημα κατά της ιδιωτικής ζωής.
Το Άρθρο 401 ποινικοποιεί την κλοπή ταυτότητας , η οποία μπορεί να εφαρμοστεί όταν ένα deepfake χρησιμοποιείται για την πλαστοπροσωπία άλλου προσώπου, για παράδειγμα, για την εξαπάτηση τρίτων ή τη διάπραξη απάτης. Τα άρθρα 208-210 ρυθμίζουν τη δυσφήμιση και τη συκοφαντία, και εφαρμόζονται εάν το ψευδές περιεχόμενο βλάπτει σοβαρά την τιμή ή τη φήμη του θύματος.
Τα άρθρα 248 και 249, που αφορούν την απάτη, καλύπτουν περιπτώσεις στις οποίες χρησιμοποιούνται αλλοιωμένες φωνές ή πρόσωπα για την απόκτηση παράνομου οικονομικού κέρδους . Σε αυτές τις περιπτώσεις, η τεχνολογία deepfake είναι το μέσο που χρησιμοποιείται για την τέλεση του εγκλήματος, αν και δεν ταξινομείται ως ξεχωριστό αδίκημα.
Παράλληλα, ο Οργανικός Νόμος 3/2018 (LOPDGDD) και ο Γενικός Κανονισμός για την Προστασία Δεδομένων (GDPR) προστατεύουν τα προσωπικά δεδομένα, συμπεριλαμβανομένων των βιομετρικών δεδομένων όπως το πρόσωπο και η φωνή. Η χρήση της εικόνας ή της φωνής κάποιου σε deepfake χωρίς τη συγκατάθεσή του μπορεί να συνιστά σοβαρή παραβίαση της προστασίας δεδομένων, με διοικητικές κυρώσεις και πιθανή αστική ή ποινική ευθύνη.
Ο Οργανικός Νόμος 1/1982, σχετικά με το δικαίωμα στην τιμή, την ιδιωτικότητα και την εικόνα κάποιου, επιτρέπει στο θύμα να υποβάλει αστική αγωγή κατά οποιουδήποτε διαδίδει ένα deepfake που προσβάλλει την αξιοπρέπεια ή τη φήμη του , ζητώντας την αφαίρεση του περιεχομένου, την αποζημίωση για ζημίες και τα επείγοντα προληπτικά μέτρα για να σταματήσει η διάδοσή του.
Σε ευρωπαϊκό επίπεδο, ο νόμος για την τεχνητή νοημοσύνη (AI Act - Κανονισμός της ΕΕ για την Τεχνητή Νοημοσύνη) θα απαιτεί το περιεχόμενο που παράγεται από την τεχνητή νοημοσύνη, συμπεριλαμβανομένων των deepfakes, να προσδιορίζεται σαφώς ως τέτοιο. Εν τω μεταξύ, ο νόμος για τις ψηφιακές υπηρεσίες (DSA) υποχρεώνει τις ψηφιακές πλατφόρμες και υπηρεσίες να αντιδρούν γρήγορα σε περιεχόμενο που είναι ψευδές, δυσφημιστικό ή παραβιάζει τα θεμελιώδη δικαιώματα.
Επιπλέον, ορισμένες κυβερνήσεις —συμπεριλαμβανομένης της Ισπανίας— έχουν αρχίσει να ορίζουν πιο συγκεκριμένα τα εγκλήματα που σχετίζονται με σεξουαλικά deepfakes και grooming, ενισχύοντας την ποινική προστασία κατά της μη συναινετικής πορνογραφίας που παράγεται με τεχνητή νοημοσύνη και της κακοποίησης ανηλίκων μέσω οπτικοακουστικής χειραγώγησης.
Ειδικοί κίνδυνοι για παιδιά, γυναίκες και ευάλωτες ομάδες
Τα deepfakes δεν επηρεάζουν τους πάντες εξίσου. Τα δεδομένα υποδηλώνουν ότι οι γυναίκες, οι ανήλικοι και ορισμένες δημόσιες ομάδες επωμίζονται δυσανάλογο μερίδιο του αντίκτυπου, ειδικά όσον αφορά το προσωπικό περιεχόμενο που κοινοποιείται χωρίς συγκατάθεση.
Πρόσφατες αναφορές δείχνουν ότι ένα σημαντικό μέρος των deepfakes που εντοπίζονται στο διαδίκτυο είναι πορνογραφικού περιεχομένου και στοχεύουν γυναίκες, πολλές από τις οποίες είναι δημόσια πρόσωπα. Αυτό μεταφράζεται σε εκστρατείες παρενόχλησης, εκβιασμού και δυσφήμισης, με ισχυρή συνιστώσα της ψηφιακής βίας με βάση το φύλο.
Ορισμένες μελέτες και αναφορές εκτιμούν ότι ένας στους πέντε νέους στην Ισπανία αναφέρει ότι είχε κάποιο είδος εμπειρίας που σχετίζεται με deepfakes κατά την παιδική ηλικία ή την εφηβεία, είτε ως άμεσο θύμα, είτε ως θεατής είτε ως συμμετέχων. Αυτή η πρώιμη έκθεση αυξάνει τον κίνδυνο ομαλοποίησης των πρακτικών παρενόχλησης και σεξουαλικής κακοποίησης.
Για την εγκληματολογία και το δικαστικό σύστημα, τα deepfakes αποτελούν έναν επιπλέον πονοκέφαλο: θα μπορούσαν να παρουσιαστούν ως «αποδεικτικά στοιχεία» σε νομικές διαδικασίες , καθιστώντας δύσκολο για τους δικαστές, τους εισαγγελείς και τους εμπειρογνώμονες να προσδιορίσουν την αυθεντικότητα του υλικού.
Η κατάσταση εγείρει επίσης σοβαρά προβλήματα στον τομέα της προσωπικής ασφάλειας και της δημόσιας κυβερνοασφάλειας, καθώς η βιομετρία ελέγχου πρόσβασης που βασίζεται σε πρόσωπο ή φωνή θα μπορούσε να καταστεί ολοένα και πιο αναξιόπιστη εάν δεν αναπτυχθούν παράλληλα ισχυροί μηχανισμοί για την ανίχνευση συνθετικού περιεχομένου.
Πέρα από την ατομική βλάβη, ο πολλαπλασιασμός των deepfakes συμβάλλει σε ένα κλίμα εκτεταμένης δυσπιστίας στις ψηφιακές πληροφορίες . Αν οποιοδήποτε βίντεο ή ήχος μπορεί να είναι ψεύτικος, η ιδέα ότι «τίποτα δεν είναι ασφαλές» καθιερώνεται και, τελικά, πολλοί άνθρωποι σταματούν να προσπαθούν να διακρίνουν μεταξύ του τι είναι πραγματικό και του τι είναι χειραγωγημένο.
Αυτή η πληροφοριακή κόπωση είναι ιδιαίτερα επικίνδυνη επειδή ανοίγει τον δρόμο για εκστρατείες παραπληροφόρησης και μαζική χειραγώγηση . Οι επιθέσεις παραπληροφόρησης που συνδυάζουν ψευδείς ειδήσεις με οπτικοακουστικά deepfakes μπορούν να επηρεάσουν εκλογές, δημοψηφίσματα, επενδυτικές αποφάσεις και διεθνείς σχέσεις.
Τα μέσα κοινωνικής δικτύωσης λειτουργούν ως επιταχυντής αυτής της διαδικασίας. Το ψευδές αλλά αποτελεσματικό περιεχόμενο μπορεί να γίνει viral μέσα σε λίγα λεπτά , ενώ η επαλήθευση και οι διορθώσεις φτάνουν πολύ αργότερα και με μικρότερη εμβέλεια. Αυτή η καθυστέρηση λειτουργεί σαφώς υπέρ εκείνων που χρησιμοποιούν την παραγωγική τεχνητή νοημοσύνη για κακόβουλους σκοπούς.
Μεγάλες πλατφόρμες—Facebook, X (πρώην Twitter), Google κ.λπ.—έχουν ανακοινώσει μέτρα για τον περιορισμό της εξάπλωσης επιβλαβών deepfakes , που κυμαίνονται από ρητές απαγορεύσεις έως συστήματα επισήμανσης και ταχείας αφαίρεσης. Ωστόσο, η κλίμακα του προβλήματος και η ταχύτητα με την οποία εξελίσσεται η τεχνολογία σημαίνουν ότι η αντίδραση είναι πάντα μερική.
Ο πιο σοβαρός κίνδυνος είναι ότι αυτά τα φαινόμενα συμβάλλουν στη διάβρωση της κριτικής σκέψης μεταξύ των πολιτών . Αν «όλα μπορούν να είναι ψέματα», γίνεται ευκολότερο να σπείρουμε αμφιβολίες, να διαδίδουμε ακραίες θεωρίες και να υπονομεύουμε την εμπιστοσύνη στα μέσα ενημέρωσης, τους θεσμούς, ακόμη και στο ίδιο το δημοκρατικό σύστημα.
Τεχνολογικές και οργανωτικές στρατηγικές για την άμυνα
Αντιμέτωποι με ένα τόσο σύνθετο πρόβλημα, η απάντηση πρέπει να είναι εξίσου πολυδιάστατη. Σε τεχνικό επίπεδο, αναπτύσσονται αλγόριθμοι ανίχνευσης που βασίζονται στην τεχνητή νοημοσύνη , οι οποίοι αναζητούν ανεπαίσθητες ασυνέπειες στα βίντεο: σφάλματα συγχρονισμού χειλιών, αφύσικο ανοιγοκλείσιμο των ματιών, αντικείμενα συμπίεσης, υπερβολικά λείο δέρμα ή θολές άκρες στην περιοχή του προσώπου.
Μια άλλη προσέγγιση περιλαμβάνει την προστασία του περιεχομένου «στην πηγή» εισάγοντας αόρατα υδατογραφήματα ή επαληθεύσιμα μεταδεδομένα που επιβεβαιώνουν την αυθεντικότητα ενός βίντεο ή φωτογραφίας. Αυτά τα σήματα μπορούν στη συνέχεια να βοηθήσουν στη διάκριση του πρωτότυπου υλικού από τα παραποιημένα αντίγραφα, υπό την προϋπόθεση ότι υπάρχει ένα αποδεκτό πρότυπο και εργαλεία για την επικύρωσή τους.
Σε εταιρικά περιβάλλοντα, η βελτιωμένη πολυπαραγοντική επαλήθευση κερδίζει ολοένα και μεγαλύτερη δημοτικότητα . Αυτό σημαίνει ότι δεν πρέπει να βασίζεστε αποκλειστικά στην εικόνα ή τη φωνή ενός ατόμου, αλλά να τη συνδυάζετε με άλλους παράγοντες: γεωγραφική τοποθεσία, τυπικά πρότυπα χρήσης, επιβεβαιώσεις μέσω εναλλακτικών καναλιών (SMS, ασφαλείς εφαρμογές) ή κωδικούς μίας χρήσης.
Συνιστάται επίσης η εφαρμογή σαφών πρωτοκόλλων για ευαίσθητες συναλλαγές , όπως τραπεζικές μεταφορές ή αλλαγές διαπιστευτηρίων. Για παράδειγμα, βεβαιωθείτε ότι καμία σημαντική οικονομική εντολή δεν εκτελείται αποκλειστικά μέσω email ή βιντεοκλήσης, αλλά απαιτεί πάντα πρόσθετη επαλήθευση μέσω διαφορετικού καναλιού.
Τέλος, η συνεχής εκπαίδευση είναι το κλειδί. Οι οργανισμοί που διεξάγουν ασκήσεις ηλεκτρονικού "ψαρέματος" (phishing) και deepfake —εκπαιδεύοντας το προσωπικό τους να ανιχνεύει ανεπαίσθητα σημάδια όπως προβλήματα συγχρονισμού ήχου, αφύσικες χειρονομίες ή ασυνήθιστη συμπεριφορά— αναπτύσσουν μια πολύ πιο ανθεκτική κουλτούρα ασφάλειας.
Πώς να εντοπίσετε ένα deepfake: πρακτικά σημάδια για την καθημερινή ζωή
Από την οπτική γωνία ενός χρήστη, υπάρχουν αρκετές ενδείξεις που μπορούν να βοηθήσουν στον εντοπισμό ψεύτικου περιεχομένου, αν και δεν είναι πάντα οριστικές. Μια πρώτη σύσταση είναι να αναζητήσετε εμφανή οπτικά ελαττώματα : θολές άκρες γύρω από το πρόσωπο, ασυνεπή φωτισμό σε σύγκριση με το φόντο, απότομες κινήσεις ή «περίεργες» εκφράσεις του προσώπου.
Το ανοιγοκλείσιμο των ματιών είναι μια άλλη χρήσιμη ένδειξη. Πολλά deepfake εξακολουθούν να εμφανίζουν αφύσικα μοτίβα ανοιγοκλεισίματος των ματιών : μάτια που παραμένουν πολύ ανοιχτά για μεγάλα χρονικά διαστήματα ή ανοιγοκλείνουν τα μάτια τους με περίεργο ρυθμό. Ενώ τα νεότερα μοντέλα βελτιώνονται σε αυτόν τον τομέα, παραμένει ένα αδύναμο σημείο σε πολλές περιπτώσεις.
Είναι επίσης σημαντικό να εξετάσετε το σώμα, τον αυχένα και τους ώμους του ατόμου. Οι περισσότεροι χειρισμοί επικεντρώνονται στο πρόσωπο , επομένως το υπόλοιπο σώμα μπορεί να προδώσει την πλαστογραφία εάν οι αναλογίες, η στάση του σώματος ή οι χειρονομίες δεν ταιριάζουν με τις αναμενόμενες για το συγκεκριμένο άτομο.
Η διάρκεια του βίντεο μπορεί να είναι μια ακόμη ένδειξη. Η δημιουργία ενός μεγάλου deepfake απαιτεί περισσότερους πόρους και αυξάνει την πιθανότητα σφαλμάτων, επομένως το πολύ χειραγωγημένο περιεχόμενο είναι σχετικά σύντομο και εστιάζει σε μια μόνο, σημαντική φράση ή σκηνή. Ένα πολύ σύντομο κλιπ με ένα εκρηκτικό μήνυμα θα πρέπει να σημάνει προειδοποίηση.
Τέλος, είναι σημαντικό να αναλυθεί το πλαίσιο και η προέλευση της ηχογράφησης . Ποιος την κοινοποίησε πρώτος; Εμφανίζεται σε αξιόπιστα μέσα ενημέρωσης ή μόνο σε ανώνυμους λογαριασμούς; Υπάρχουν άλλες ανεξάρτητες πηγές που επιβεβαιώνουν αυτό που βλέπετε; Η επιβράδυνση της αναπαραγωγής ή η παρακολούθηση του βίντεο καρέ-καρέ μπορεί να βοηθήσει στην ανίχνευση ξαφνικών αλλαγών στο φόντο, στην ευθυγράμμιση του προσώπου ή στο εσωτερικό του στόματος (γλώσσα, δόντια) — περιοχές όπου πολλοί αλγόριθμοι εξακολουθούν να αποτυγχάνουν.
Γραμματισμός στα μέσα ενημέρωσης και κουλτούρα επαλήθευσης
Καμία τεχνολογία ανίχνευσης δεν θα είναι επαρκής χωρίς πολίτες που διαθέτουν δεξιότητες κριτικής σκέψης και βασικές ικανότητες επαλήθευσης . Οργανισμοί όπως το INCIBE και το Γραφείο Ασφάλειας Χρηστών Διαδικτύου τονίζουν την ανάγκη να είμαστε σε εγρήγορση σχετικά με τις πληροφορίες που λαμβάνουμε, να αναλύουμε λεπτομερώς το περιεχόμενο και να το επαληθεύουμε πάντα με αξιόπιστες πηγές.
Η ανάπτυξη της συνήθειας να μην κοινοποιούμε τίποτα παρορμητικά , ειδικά αν αυτό προκαλεί έντονα συναισθήματα (φόβο, θυμό, αγανάκτηση), είναι μια από τις καλύτερες άμυνες ενάντια στην εξάπλωση deepfakes και fake news. Αφιερώνοντας λίγα δευτερόλεπτα για να αναρωτηθείτε: «Ποιος ωφελείται από το να το πιστεύω αυτό;» μπορεί να κάνει μεγάλη διαφορά.
Η εκπαίδευση στον κυβερνοχώρο, η διαδικτυακή έρευνα και η κυβερνοευφυΐα δεν απευθύνονται μόνο σε ειδικούς. Η κατανόηση του τρόπου λειτουργίας των επιθέσεων ηλεκτρονικού "ψαρέματος" (phishing), κοινωνικής μηχανικής (social engineering) και παραπληροφόρησης βοηθά οποιονδήποτε να μειώσει σημαντικά την ευπάθειά του, τόσο στην προσωπική όσο και στην επαγγελματική του ζωή.
Για τα παιδιά και τους εφήβους, είναι ιδιαίτερα σημαντικό να ενσωματωθούν αυτά τα θέματα στην ψηφιακή και συναισθηματική εκπαίδευση , εξηγώντας τους κινδύνους του διαδικτυακού εκφοβισμού, της σεξουαλικής κακοποίησης και της κοινοποίησης προσωπικών εικόνων. Το να γνωρίζουν ότι ένα βίντεο μπορεί να είναι ψεύτικο, αλλά οι συνέπειές του μπορεί να είναι πολύ πραγματικές, κάνει τεράστια διαφορά.
Για τις επιχειρήσεις και τα ιδρύματα, η επένδυση σε προγράμματα ευαισθητοποίησης που υπερβαίνουν τις γενικές συμβουλές για την κυβερνοασφάλεια αποτελεί πλέον στρατηγική αναγκαιότητα. Όσοι δεν κατανοούν τα deepfakes, τον αντίκτυπό τους και τον τρόπο αντίδρασής τους θα βρεθούν σε σαφώς μειονεκτική θέση στο νέο ψηφιακό τοπίο.
Όλες οι ενδείξεις υποδηλώνουν ότι τα deepfakes θα συνεχίσουν να πολλαπλασιάζονται σε όγκο και πολυπλοκότητα , επηρεάζοντας την ασφάλεια, την οικονομία, την πολιτική και την ιδιωτική ζωή εκατομμυρίων ανθρώπων. Η αποδοχή ότι αποτελούν μέρος του ψηφιακού τοπίου, η απαίτηση για σαφή νομικά πλαίσια, η επένδυση σε ισχυρές τεχνολογίες ανίχνευσης και, πάνω απ 'όλα, η καλλιέργεια μιας κουλτούρας επαλήθευσης και κοινής ευθύνης είναι οι καλύτεροι τρόποι για να αποτρέψουμε αυτό το ισχυρό εργαλείο από το να γίνει όπλο που υπονομεύει εντελώς την εμπιστοσύνη στη διαδικτυακή μας ζωή.