- Θεσπίζει ένα κανονιστικό πλαίσιο βασισμένο σε επίπεδα κινδύνου για την προστασία των θεμελιωδών δικαιωμάτων και της ασφάλειας των πολιτών.
- Επιβάλλει αυστηρές υποχρεώσεις διαφάνειας και διαχείρισης κινδύνου για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου και μοντέλα γενικής χρήσης.
- Απαγορεύει κατηγορηματικά τη χρήση τεχνολογιών τεχνητής νοημοσύνης που θεωρούνται απαράδεκτες, όπως η κοινωνική βαθμολόγηση ή η χειραγώγηση συμπεριφοράς.
- Καθορισμός ενός σταδιακού χρονοδιαγράμματος εφαρμογής με αυστηρές οικονομικές κυρώσεις για όσους αγνοούν τους κανονισμούς.
Η Ευρωπαϊκή Ένωση έκανε ένα αποφασιστικό βήμα λανσάροντας το πρώτο ολοκληρωμένο νομικό πλαίσιο στον κόσμο για τη ρύθμιση της τεχνητής νοημοσύνης. Αυτή η νομοθεσία δεν στοχεύει στην καταστολή της καινοτομίας, αλλά μάλλον στη διασφάλιση της ασφαλούς και αξιόπιστης ανάπτυξης της τεχνολογίας , δίνοντας πάντα προτεραιότητα στην προστασία των θεμελιωδών ανθρωπίνων δικαιωμάτων και αποτρέποντας την ΤΝ από το να γίνει ένα ανεξέλεγκτο μαύρο κουτί.
Για να το επιτύχουν αυτό, οι Βρυξέλλες έχουν επιλέξει μια προσέγγιση βασισμένη στον κίνδυνο, που σημαίνει ότι ένα φίλτρο ανεπιθύμητης αλληλογραφίας δεν είναι το ίδιο με έναν αλγόριθμο που αποφασίζει ποιος θα λάβει τραπεζικό δάνειο. Ανάλογα με το επίπεδο κινδύνου που θέτει το σύστημα για την υγεία ή την ασφάλεια, οι νομικές απαιτήσεις θα είναι περισσότερο ή λιγότερο αυστηρές, αναγκάζοντας τις εταιρείες να είναι διαφανείς σχετικά με τον τρόπο λειτουργίας των μηχανημάτων τους.
Απαγορευμένα συστήματα: η κόκκινη γραμμή της ΕΕ
Υπάρχουν ορισμένα πράγματα που απλά δεν μπορούν να γίνουν. Ο νόμος είναι πολύ σαφής στην απαγόρευση της Τεχνητής Νοημοσύνης που ενέχει απαράδεκτο κίνδυνο . Μεταξύ αυτών είναι οι υποσυνείδητες ή χειριστικές τεχνικές που επιδιώκουν να διαστρεβλώσουν την ανθρώπινη συμπεριφορά για να προκαλέσουν βλάβη, καθώς και η εκμετάλλευση των ευπαθειών που σχετίζονται με την ηλικία ή την αναπηρία. Απαγορεύεται επίσης η κοινωνική βαθμολόγηση , η πρακτική της ταξινόμησης των ανθρώπων με βάση τη συμπεριφορά τους για να τους επιβληθεί δυσμενής μεταχείριση .
Όσον αφορά τα βιομετρικά στοιχεία, απαγορεύεται η κατηγοριοποίηση που υπονοεί ευαίσθητα χαρακτηριστικά όπως η φυλή ή η θρησκεία, όπως και η αδιάκριτη σάρωση προσώπων στο διαδίκτυο για τη δημιουργία βάσεων δεδομένων. Η εξ αποστάσεως βιομετρική ταυτοποίηση σε πραγματικό χρόνο σε δημόσιους χώρους περιορίζεται σε πολύ συγκεκριμένες περιπτώσεις , όπως η αναζήτηση θυμάτων εμπορίας ανθρώπων, η πρόληψη επικείμενων τρομοκρατικών επιθέσεων ή ο εντοπισμός υπόπτων για σοβαρά εγκλήματα, πάντα υπό δικαστική εποπτεία.
Η κατηγορία υψηλού κινδύνου και οι απαιτήσεις της
Δεν είναι όλα όσα απαγορεύονται επικίνδυνα, αλλά ορισμένα συστήματα, αν και επιτρέπονται, υπόκεινται σε αυστηρούς ελέγχους . Αυτό περιλαμβάνει στοιχεία ασφαλείας, ιατρικές συσκευές και αλγόριθμους που χρησιμοποιούνται στις προσλήψεις και την αξιολόγηση της πιστοληπτικής ικανότητας. Εάν μια τεχνητή νοημοσύνη έχει αναλάβει τη δημιουργία προφίλ ατόμων για την αξιολόγηση της εργασιακής τους απόδοσης ή της υγείας τους, εμπίπτει πλήρως σε αυτήν την κατηγορία.
Οι πάροχοι αυτών των εργαλείων πρέπει να εκπληρώνουν μια μακρά λίστα καθηκόντων. Είναι υποχρεωτικό να εφαρμόζουν ένα σύστημα διαχείρισης κινδύνου καθ' όλη τη διάρκεια του κύκλου ζωής του προϊόντος και να διασφαλίζουν ότι τα δεδομένα εκπαίδευσης είναι αντιπροσωπευτικά και χωρίς σφάλματα. Επιπλέον, πρέπει να δημιουργούν λεπτομερή τεχνική τεκμηρίωση, να καταγράφουν αυτόματα συμβάντα χρησιμοποιώντας λειτουργικά αρχεία καταγραφής και να εγγυώνται ότι υπάρχει πάντα πραγματική ανθρώπινη εποπτεία για την αποτροπή λανθασμένων αυτοματοποιημένων αποφάσεων.
Μοντέλα Τεχνητής Νοημοσύνης Γενικής Χρήσης (GPAI)
Εδώ ακριβώς έρχονται στο προσκήνιο τα φημισμένα LLM και τα θεμελιώδη μοντέλα . Ο νόμος κάνει διάκριση μεταξύ των τυπικών μοντέλων GPAI και εκείνων που παρουσιάζουν συστημικό κίνδυνο , ο οποίος γενικά ορίζεται από την μαζική χρήση υπολογιστικής ισχύος (μεγαλύτερη από 10^25 FLOP). Οι πάροχοι αυτών των μοντέλων πρέπει να είναι διαφανείς σχετικά με τις διαδικασίες εκπαίδευσής τους και να σέβονται τις οδηγίες περί πνευματικών δικαιωμάτων.
Για μοντέλα με συστημικό κίνδυνο, ο πήχης είναι υψηλότερος. Πρέπει να εκτελούν κόκκινη ομαδοποίηση για τον μετριασμό των βλαβών, να αναφέρουν σοβαρά περιστατικά στο Γραφείο Τεχνητής Νοημοσύνης και να διασφαλίζουν ισχυρή κυβερνοασφάλεια . Αξίζει να σημειωθεί ότι τα μοντέλα ανοιχτού κώδικα έχουν ορισμένα πλεονεκτήματα, αν και εξακολουθούν να υποχρεούνται να δημοσιεύουν περιλήψεις του περιεχομένου που χρησιμοποιείται για την εκπαίδευση του μηχανήματος.
Διακυβέρνηση, προθεσμίες και το κόστος της παραβίασης του νόμου
Η εποπτεία εμπίπτει κυρίως στο Γραφείο Τεχνητής Νοημοσύνης , το οποίο παρακολουθεί τους τεχνολογικούς γίγαντες για να διασφαλίσει τη συμμόρφωση. Η εφαρμογή του νόμου είναι σταδιακή: οι απαγορεύσεις ξεκίνησαν τον Φεβρουάριο του 2025, ενώ οι υποχρεώσεις για συστήματα υψηλού κινδύνου θα τεθούν σε ισχύ μεταξύ 2027 και 2028. Για να βοηθήσει τις εταιρείες, το Σύμφωνο Τεχνητής Νοημοσύνης έχει δημιουργηθεί ως εθελοντική οδός για την προετοιμασία για τους κανονισμούς.
Εάν μια εταιρεία αποφασίσει να παραβιάσει τους κανόνες, τα πρόστιμα είναι συγκλονιστικά. Η παροχή ψευδών πληροφοριών μπορεί να κοστίσει έως και 7,5 εκατομμύρια ευρώ ή 1,5% των ετήσιων εσόδων. Ωστόσο, η μη εκπλήρωση των βασικών υποχρεώσεων μπορεί να αυξήσει το πρόστιμο στα 15 εκατομμύρια ευρώ ή στο 3% των συνολικών εσόδων, αν και ορισμένες πηγές αναφέρουν ότι σε ακραίες περιπτώσεις θα μπορούσε να φτάσει το 7%.
Αυτό το κανονιστικό πλαίσιο καθιστά την Ευρώπη ως παγκόσμιο σημείο αναφοράς στην τεχνολογική ρύθμιση , απαιτώντας από κάθε εταιρεία στον κόσμο που επιθυμεί να δραστηριοποιηθεί στην κοινή αγορά να προσαρμόσει τους αλγόριθμούς της στα ευρωπαϊκά πρότυπα διαφάνειας και δεοντολογίας, εξισορροπώντας έτσι την τεχνική πρόοδο με την ανθρώπινη αξιοπρέπεια.
