- Η αδιαφάνεια των αλγορίθμων δημιουργεί κινδύνους οικονομικών διακρίσεων και χειραγώγησης μέσω σκοτεινών μοτίβων στο ψηφιακό εμπόριο.
- Το ισπανικό και το ευρωπαϊκό νομικό πλαίσιο εξελίσσεται προς την αλγοριθμική διαφάνεια, απαιτώντας πληροφορίες σχετικά με την εξατομικευμένη τιμολόγηση και τη χρήση τεχνητής νοημοσύνης.
- Η δημιουργία κρατικών μητρώων αλγορίθμων εξετάζεται για την αποτροπή της μεροληψίας και τη διασφάλιση του σεβασμού των θεμελιωδών δικαιωμάτων από την τεχνολογία.
Η θριαμβευτική άφιξη της τεχνητής νοημοσύνης στην καθημερινότητά μας έχει θέσει την αγορά σε μια μάλλον λεπτή κατάσταση. Από τη μία πλευρά, έχουμε εργαλεία που κάνουν τη ζωή μας ευκολότερη, εξατομικεύοντας αυτό που αγοράζουμε ή λύνοντας απορίες στο λεπτό, αλλά από την άλλη πλευρά, έχει ανοίξει ένα τεράστιο χάσμα ισχύος μεταξύ των εταιρειών που διαχειρίζονται τα δεδομένα και ημών, που απλώς κάνουμε κλικ στο «αποδοχή».
Δεν είναι περίεργο που οργανισμοί όπως η UNCTAD έχουν κρούσει τον κώδωνα του κινδύνου, καθώς ο ρυθμός με τον οποίο η Τεχνητή Νοημοσύνη προχωρά ξεπερνά κατά πολύ τους νόμους που θα έπρεπε να τη ρυθμίζουν. Βρισκόμαστε σε μια κρίσιμη καμπή όπου, αν δεν ασχοληθούμε σοβαρά με την ηθική παγκόσμια διακυβέρνηση , διακινδυνεύουμε την τεχνολογία, αντί να μας βοηθάει, διαιωνίζοντας τις κοινωνικές ανισότητες ή εξαπατώντας τους πιο ευάλωτους μέσω της ψηφιακής χειραγώγησης.
Ο λαβύρινθος των αλγορίθμων: πραγματικοί κίνδυνοι για το πορτοφόλι σας
Ένα από τα πιο πολυσυζητημένα ζητήματα είναι η λεγόμενη δυναμική τιμολόγηση . Βασικά, περιλαμβάνει έναν αλγόριθμο που αναλύει ποιος είστε, από πού συνδέεστε και τι έχετε δει στο παρελθόν για να αποφασίσει πόσο θα σας χρεώσει. Αυτό σημαίνει ότι δύο άτομα μπορούν να δουν διαφορετικές τιμές για την ίδια πτήση ή ξενοδοχείο την ίδια στιγμή. Αυτό μπορεί να οδηγήσει σε άδικες οικονομικές διακρίσεις , όπου το σύστημα ανιχνεύει ότι έχετε υψηλότερη αγοραστική δύναμη και απλώς αυξάνει την τιμή χωρίς καν να το καταλάβετε.
Για να περιορίσει αυτές τις εξωφρενικές πρακτικές, η Ευρωπαϊκή Ένωση, μέσω της Οδηγίας Omnibus και των νόμων που έχουν μεταφερθεί στην ισπανική νομοθεσία, απαιτεί πλέον από τις εταιρείες να ενημερώνουν τους καταναλωτές όταν οι τιμές έχουν εξατομικευτεί μέσω αυτοματοποιημένης λήψης αποφάσεων . Επιπλέον, η αλγοριθμική υπερβολή των τιμών, η οποία συμβαίνει όταν οι τιμές αυξάνονται ανεξέλεγκτα σε καταστάσεις έκτακτης ανάγκης ή καταστροφής, έχει απαγορευτεί — κάτι που θα ήταν ηθικά απαράδεκτο σε οποιοδήποτε πλαίσιο.
Ψηφιακές παγίδες και χειραγώγηση συμπεριφοράς
Πιθανότατα έχετε βιώσει αυτό: θέλετε να διαγραφείτε από μια υπηρεσία και νιώθετε σαν να ψάχνετε μια διέξοδο από έναν λαβύρινθο. Αυτά είναι σκοτεινά μοτίβα , σχέδια διεπαφών ειδικά σχεδιασμένα για να μας ξεγελάσουν ώστε να κάνουμε λάθη ή να αγοράζουμε πράγματα που δεν θέλουμε. Με την Τεχνητή Νοημοσύνη, αυτές οι παγίδες δεν είναι πλέον ίδιες για όλους. Προσαρμόζονται στις ψυχολογικές σας αδυναμίες σε πραγματικό χρόνο.
- Εθιστική παιχνιδοποίηση: Χρήση μεταβλητών ανταμοιβών για να μην αφήσετε κάτω το τηλέφωνό σας.
- Τεχνητή επείγουσα ανάγκη: Ψεύτικα χρονόμετρα που σε πιέζουν να αγοράσεις τώρα.
- Συγχέσιμη συναίνεση: Γιγάντια κουμπιά αποδοχής και επιλογές απόρριψης κρυμμένα με μικροσκοπικά γράμματα.
Από νομικής άποψης, αυτό δεν είναι τίποτα περισσότερο από μια αθέμιτη επιχειρηματική πρακτική . Η Ισπανική Υπηρεσία Προστασίας Δεδομένων έχει καταστήσει σαφές ότι η συγκατάθεση που λαμβάνεται μέσω χειραγώγησης δεν παρέχεται ελεύθερα και, ως εκ τούτου, αυτές οι τακτικές θα μπορούσαν να ακυρώσουν συμβάσεις που υπογράφονται υπό αλγοριθμική πίεση.
Αόρατη διαφήμιση και ο κίνδυνος των deepfakes
Η διαφήμιση δεν είναι πλέον απλώς μια διαφήμιση που διακόπτει το βίντεο. Είναι πλέον ακραία μικροστόχευση . Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει διαφημίσεις που μοιάζουν με γνήσιες συστάσεις από έναν φίλο ή να χρησιμοποιήσει deepfakes για να σας πουλήσει ένα προϊόν κάποιος που δεν υπάρχει. Αυτό γίνεται συγκαλυμμένη διαφήμιση , κάτι που ο Γενικός Νόμος για τις Οπτικοακουστικές Επικοινωνίες και οι κανονισμοί της ΕΕ προσπαθούν να καταπολεμήσουν απαιτώντας να είναι σαφώς αναγνωρίσιμο όλο το περιεχόμενο επί πληρωμή.
Ένα άλλο σοβαρό πρόβλημα είναι η αυτοματοποιημένη παραπληροφόρηση . Η χρήση bots για τη δημιουργία χιλιάδων ψεύτικων κριτικών διαστρεβλώνει την πραγματικότητα της αγοράς. Αν και πλατφόρμες όπως η Amazon προσπαθούν να τις φιλτράρουν, η Τεχνητή Νοημοσύνη τις καθιστά ολοένα και πιο αξιόπιστες, παραβιάζοντας το δικαίωμα των καταναλωτών σε ειλικρινή πληροφόρηση .
Πιστωτική βαθμολογία: όταν ένα μηχάνημα αποφασίζει για το μέλλον σας
Στον χρηματοπιστωτικό τομέα, η χρήση της Τεχνητής Νοημοσύνης για την αξιολόγηση της πιστοληπτικής ικανότητας (credit scoring) είναι συνηθισμένη, αλλά επικίνδυνη. Εάν ένας αλγόριθμος χρησιμοποιεί τον ταχυδρομικό κώδικα ως μεταβλητή, θα μπορούσε να καταλήξει να αρνείται συστηματικά δάνεια σε άτομα από γειτονιές χαμηλού εισοδήματος, διαιωνίζοντας ιστορικές προκαταλήψεις. Αυτό ονομάζεται αλγοριθμική προκατάληψη και είναι μια μορφή έμμεσης διάκρισης που μπορεί να αμφισβητηθεί νομικά.
Ο νέος Κανονισμός για την Τεχνητή Νοημοσύνη (Νόμος για την Τεχνητή Νοημοσύνη) της ΕΕ κατατάσσει αυτά τα συστήματα ως υψηλού κινδύνου . Αυτό σημαίνει ότι θα πρέπει να υποβληθούν σε αυστηρούς ελέγχους, να διασφαλίσουν ότι τα δεδομένα εκπαίδευσης είναι αντικειμενικά και, πάνω απ' όλα, να εγγυηθούν πραγματική ανθρώπινη εποπτεία . Δεν μπορεί να επιτραπεί σε ένα «μαύρο κουτί» να αποφασίζει εάν κάποιος πληροί τις προϋποθέσεις για στέγαση ή δάνειο χωρίς κάποιον υπεύθυνο να εξηγήσει το σκεπτικό πίσω από την απόφαση.
Η νομική ασπίδα: Ποιοι νόμοι μας προστατεύουν στην Ισπανία και την Ευρώπη;
Στην Ισπανία, διαθέτουμε ένα ισχυρό νομικό οπλοστάσιο, αν και μερικές φορές φαίνεται αργό στην εφαρμογή του. Το Άρθρο 51 του Συντάγματος ήδη ορίζει την προστασία των οικονομικών συμφερόντων των καταναλωτών και ο Γενικός Νόμος για την Υπεράσπιση των Καταναλωτών και των Χρηστών (TRLGDCU) είναι ο θεμελιώδης νόμος για την καταπολέμηση των καταχρηστικών όρων . Επιπλέον, ο ΓΚΠΔ μας παρέχει το δικαίωμα να μην υπόκειμαστε σε αποφάσεις που βασίζονται αποκλειστικά σε αυτοματοποιημένες διαδικασίες που μας επηρεάζουν σημαντικά, επιτρέποντάς μας να απαιτούμε μια ανθρώπινη εξήγηση και να αναλύουμε τη νομική και αστική ευθύνη στην εποχή της τεχνητής νοημοσύνης.
Σε ευρωπαϊκό επίπεδο, ο Νόμος περί Ψηφιακών Υπηρεσιών (DSA) αποτελεί ορόσημο, επειδή απαιτεί από τις μεγάλες πλατφόρμες να είναι διαφανείς σχετικά με τα συστήματα συστάσεών τους και απαγορεύει τη διαφήμιση που βασίζεται σε ευαίσθητα δεδομένα (θρησκεία, υγεία ή σεξουαλικό προσανατολισμό). Εν τω μεταξύ, ο Νόμος περί Τεχνητής Νοημοσύνης της ΕΕ θεσπίζει ένα δημόσιο μητρώο για συστήματα υψηλού κινδύνου, με στόχο να καταστήσει την τεχνολογία ελεγχόμενη και υπόλογη.
Κοιτάζοντας προς το μέλλον: η πρόταση για ένα Κρατικό Μητρώο Αλγορίθμων
Για να διασφαλιστεί ότι η διαφάνεια δεν είναι απλώς μια όμορφη λέξη στα χαρτιά, προτείνεται ένα Κρατικό Μητρώο Αλγορίθμων Καταναλωτών . Η ιδέα είναι ότι κάθε εταιρεία που χρησιμοποιεί Τεχνητή Νοημοσύνη για να ορίζει τιμές ή να φιλτράρει πελάτες θα πρέπει να καταχωρίσει το σύστημά της σε μια δημόσια πλατφόρμα. Δεν πρόκειται για την αποκάλυψη μυστικού πηγαίου κώδικα, αλλά για την υποβολή μιας σαφούς τεχνικής προδιαγραφής που εξηγεί ποια δεδομένα χρησιμοποιεί και ποια είναι τα κύρια κριτήρια λήψης αποφάσεων.
Αυτό θα ανάγκαζε τις εταιρείες να ασκήσουν αυτορρύθμιση : εάν δεν μπορούν να εξηγήσουν δημόσια πώς λειτουργεί ο αλγόριθμός τους χωρίς να φαίνεται μεροληπτικός, πιθανότατα οφείλεται στο ότι λειτουργεί. Επιπλέον, θα διευκόλυνε τις ενώσεις καταναλωτών και τις αρχές να διεξάγουν προληπτικούς ελέγχους αντί να περιμένουν κάποιον να αναφέρει βλάβη που έχει ήδη συμβεί.
Ο αγώνας για τα δικαιώματά μας στην ψηφιακή εποχή εξαρτάται από το να μεταβούμε από παθητικά υποκείμενα σε ενδυναμωμένους καταναλωτές. Ο συνδυασμός αυστηρών νόμων, υποχρεωτικής διαφάνειας και συνεχούς ανθρώπινης εποπτείας είναι ο μόνος τρόπος για να διασφαλιστεί ότι η τεχνητή νοημοσύνη θα γίνει εργαλείο προόδου και όχι μηχανισμός εκμετάλλευσης. Τελικά, ο στόχος είναι η τεχνολογική καινοτομία να μην υπερισχύει ποτέ της ανθρώπινης αξιοπρέπειας και αυτονομίας .
