- Τα προγράμματα περιήγησης με ενσωματωμένους παράγοντες τεχνητής νοημοσύνης (AI) επεκτείνουν την επιφάνεια επίθεσης λειτουργώντας με τα ίδια δικαιώματα και συνεδρίες χρήστη.
- Η άμεση εισαγωγή (prompt injection), ο χειρισμός του πρόχειρου (clipboard) και οι τεχνικές OCR επιτρέπουν στους εισβολείς να χειραγωγήσουν τον παράγοντα για να αποσπάσουν δεδομένα και να εκτελέσουν ανεπιθύμητες ενέργειες.
- Ο συνδυασμός επεκτάσεων με Τεχνητή Νοημοσύνη, Shadow AI και ευαίσθητα δεδομένα εκθέτει τόσο τους χρήστες όσο και τις εταιρείες σε σοβαρά ζητήματα απορρήτου και συμμόρφωσης.
- Ο μετριασμός των κινδύνων απαιτεί αυστηρούς ελέγχους εντός του ίδιου του προγράμματος περιήγησης, σαφείς πολιτικές χρήσης τεχνητής νοημοσύνης και πρόσθετες λύσεις ασφάλειας με επίκεντρο τον ιστό.
Το κύμα των προγραμμάτων περιήγησης με ενσωματωμένους παράγοντες τεχνητής νοημοσύνης είναι ήδη εδώ: το Atlas της OpenAI, το Comet της Perplexity, το Brave με το Leo, το Chrome με το Gemini, το Edge με το Copilot, ο Firefox που ενσωματώνει έξυπνες λειτουργίες... και πολλά άλλα που έρχονται. Αυτή η νέα γενιά λογισμικού υπόσχεται ότι θα σταματήσουμε να «περιηγούμαστε» απλώς και θα αρχίσουμε να λέμε στο μηχάνημα τι θέλουμε να κάνει: να διαβάζει για εμάς, να συμπληρώνει φόρμες, να διαχειρίζεται αγορές ή ακόμα και να αυτοματοποιεί πολύπλοκες εργασίες στο διαδίκτυο.
Ωστόσο, αυτή η ευκολία έχει και μια σκοτεινή πλευρά: το ίδιο το πρόγραμμα περιήγησης γίνεται ένας αυτόνομος παράγοντας με πρόσβαση στα δικαιώματά σας , στις ανοιχτές συνεδρίες, στα αρχεία και, σε πολλές περιπτώσεις, στα προσωπικά ή εταιρικά σας δεδομένα. Εάν κάτι πάει στραβά — είτε λόγω ελαττωμάτων σχεδιασμού, είτε λόγω ευπάθειας ασφαλείας είτε λόγω μιας καλά σχεδιασμένης επίθεσης — ο αντίκτυπος μπορεί να είναι πολύ μεγαλύτερος από αυτόν ενός παραδοσιακού προγράμματος περιήγησης ή ενός απλού chatbot που βασίζεται στο cloud.
Ένα πρόγραμμα περιήγησης που τροφοδοτείται από τεχνητή νοημοσύνη είναι ουσιαστικά ένα «κανονικό» πρόγραμμα περιήγησης με ένα βαθιά ενσωματωμένο γλωσσικό μοντέλο που βλέπει τις σελίδες που επισκέπτεστε, κατανοεί το περιεχόμενό τους και είναι εξουσιοδοτημένο να εκτελεί ενέργειες σαν να ήταν ο χρήστης. Δεν συνοψίζει απλώς έναν ιστότοπο: μπορεί να κάνει κλικ σε κουμπιά, να συμπληρώνει φόρμες, να κατεβάζει αρχεία, να διαχειρίζεται καρτέλες ή να αλληλεπιδρά με υπηρεσίες όπου είστε ήδη συνδεδεμένοι.
Αυτό κάνει μια σημαντική διαφορά σε σύγκριση με τη χρήση ενός κλασικού chatbot σε μια άλλη καρτέλα, όπου αντιγράφετε και επικολλάτε περιεχόμενο: τώρα ο παράγοντας βρίσκεται «μέσα» στο πρόγραμμα περιήγησης , με άμεση πρόσβαση στο περιβάλλον περιήγησής σας, στις ανοιχτές συνεδρίες σας και ενδεχομένως στα τοπικά σας αρχεία ή σε άλλους πόρους συστήματος.
Αυτή η αρχιτεκτονική είναι ιδιαίτερα ελκυστική για τις μεγάλες εταιρείες τεχνολογίας. Η Perplexity έχει λανσάρει το πρόγραμμα περιήγησης Comet και μάλιστα εξετάζει το ενδεχόμενο να αποκτήσει το Chrome , ενώ η Google και η Microsoft εισάγουν τα μοντέλα Gemini και Copilot απευθείας στο Chrome και το Edge. Η OpenAI, από την πλευρά της, παρουσίασε το ChatGPT Atlas ως το δικό της πρόγραμμα περιήγησης που βασίζεται στο Chromium, με ένα επίπεδο τεχνητής νοημοσύνης που λειτουργεί σε ξεχωριστές διαδικασίες για τη μείωση των κινδύνων.
Το επιχειρηματικό κίνητρο είναι σαφές: εκατομμύρια χρήστες, συνεχής χρήση και τόνοι δεδομένων . Ένα πρόγραμμα περιήγησης όπως αυτό δημιουργεί τεράστια αφοσίωση των χρηστών ( είναι δύσκολο να αλλάξετε πρόγραμμα περιήγησης, γι' αυτό και είναι σύνηθες να χρησιμοποιείτε πολλά προγράμματα περιήγησης ) και, επιπλέον, προσφέρει τηλεμετρία σε όλη την κίνηση ιστού και στον τρόπο με τον οποίο οι χρήστες αλληλεπιδρούν με το δίκτυο, κάτι εξαιρετικά πολύτιμο για την εκπαίδευση μοντέλων, τη δοκιμή νέων λειτουργιών και τη μείωση του κόστους υποδομής, μεταφέροντας μέρος της εργασίας στις δικές τους συσκευές.

Άτλας OpenAI: Βασικά χαρακτηριστικά και αρχικά όρια ασφαλείας
Στις 21 Οκτωβρίου 2025, η OpenAI κυκλοφόρησε την πρώτη δημόσια έκδοση του ChatGPT Atlas για macOS , του προγράμματος περιήγησής της που βασίζεται στην τεχνητή νοημοσύνη και, σύμφωνα με την εταιρεία, θα επεκταθεί σε Windows, Android και iOS. Η ιδέα είναι η πλοήγηση να «είναι» ChatGPT: ο χρήστης δεν χρειάζεται πλέον να αντιγράφει και να επικολλά κείμενο για να το επεξεργαστεί το μοντέλο, αλλά αντ' αυτού ζητά απευθείας εργασίες στη σελίδα που βλέπει.
Για τη μείωση των κινδύνων, η OpenAI έχει εφαρμόσει αρκετούς τεχνικούς περιορισμούς που έχουν σχεδιαστεί ειδικά για τον browser agent . Το Atlas βασίζεται στο Chromium, αλλά η τεχνητή νοημοσύνη εκτελείται σε ξεχωριστές διεργασίες, ενσωματωμένες σε αυτό που ονομάζουν OpenAI Web Layer (OWL). Σύμφωνα με την αρχική τεκμηρίωση, ο agent:
- Δεν μπορείτε να εκτελέσετε κώδικα ή να εγκαταστήσετε επεκτάσεις. μόνος σου
- Δεν έχει την ικανότητα να λήψη αρχείων ανεξάρτητα ή πρόσβαση σε άλλες τοπικές εφαρμογές.
- Δεν βλέπει ούτε χρησιμοποιεί αποθηκευμένους κωδικούς πρόσβασης ούτε δεδομένα αυτόματης συμπλήρωσης πρόγραμμα περιήγησης.
- Δεν έχετε πρόσβαση Πληροφορίες συσκευής εκτός του πεδίου εφαρμογής του πλοήγηση.
Όσον αφορά την προστασία της ιδιωτικής ζωής, το OpenAI υπόσχεται μια προσέγγιση «προστασίας της ιδιωτικής ζωής από προεπιλογή»: οι αλληλεπιδράσεις με το Atlas δεν χρησιμοποιούνται για την εκπαίδευση μοντέλων, εκτός εάν υπάρχει ρητή εξουσιοδότηση από τον χρήστη. Επιπλέον, η μνήμη του προγράμματος περιήγησης —η δυνατότητα απομνημόνευσης σελίδων και συμφραζομένων— είναι απενεργοποιημένη από προεπιλογή και πρέπει να ενεργοποιηθεί χειροκίνητα.
Ο χρήστης μπορεί επίσης να διαγράψει το ιστορικό και τις αναμνήσεις , να ορίσει με ποιους ιστότοπους μπορεί να αλληλεπιδράσει το ChatGPT ή ακόμα και να αποκλείσει εντελώς την Τεχνητή Νοημοσύνη με ένα μόνο κλικ. Σε κρίσιμους ιστότοπους όπως τράπεζες ή ευαίσθητες υπηρεσίες, το Atlas απαιτεί χειροκίνητη επιβεβαίωση πριν ο πράκτορας αναλάβει δράση , προκειμένου να αποτρέψει ανεπιθύμητες συναλλαγές ή αυτοματοποιημένες οικονομικές μεταφορές.
Αυτές οι διασφαλίσεις αποτελούν ένα βήμα προς τη σωστή κατεύθυνση, αλλά δεν εξαλείφουν το υποκείμενο πρόβλημα: ένα πρόγραμμα περιήγησης που τροφοδοτείται από τεχνητή νοημοσύνη έχει πολύ περισσότερη ισχύ από ένα κλασικό πρόγραμμα περιήγησης και ένα μόνο τρωτό σημείο, μια λανθασμένη διαμόρφωση ή μια απόφαση σχεδιασμού είναι αρκετά για να το μετατρέψουν σε ένα πολύ κερδοφόρο φορέα επίθεσης.
Η ενσωμάτωση της Τεχνητής Νοημοσύνης δημιουργεί μια εντελώς νέα επιφάνεια επίθεσης. Δεν μιλάμε μόνο για κλασικά σφάλματα των προγραμμάτων περιήγησης, αλλά και για ελαττώματα στην αλληλεπίδραση μεταξύ του γλωσσικού μοντέλου, του περιεχομένου ιστού και των αυτοματοποιημένων ενεργειών . Αυτοί είναι οι σημαντικότεροι κίνδυνοι που έχουν εντοπιστεί μέχρι στιγμής.
Άμεση ένεση και κρυφές οδηγίες
Η λεγόμενη άμεση έγχυση συνίσταται στην απόκρυψη κακόβουλων οδηγιών μέσα στην ίδια την ιστοσελίδα, σε φαινομενικά αβλαβή τμήματα κειμένου, σε κρυφό HTML, σε σχόλια φόρουμ, σε ετικέτες markdown, ακόμη και σε εικόνες που στη συνέχεια υποβάλλονται σε επεξεργασία μέσω OCR.
Όταν ο χρήστης ζητά από τον πράκτορα να συνοψίσει, να αναλύσει ή να αλληλεπιδράσει με αυτήν τη σελίδα, το μοντέλο μπορεί να ερμηνεύσει αυτές τις οδηγίες ως νόμιμες εντολές χρήστη και να τις εκτελέσει με όλα τα προνόμια της συνεδρίας του: πλοήγηση σε νέες διευθύνσεις URL, κλικ σε κουμπιά, αντιγραφή ιδιωτικών δεδομένων, συμπλήρωση φορμών ή δημοσίευση ευαίσθητων πληροφοριών.
Ένα πρακτικό παράδειγμα έχει καταγραφεί από το Brave with Perplexity Comet: ένας χρήστης ανοίγει ένα νήμα στο Reddit που κρύβει, μέσα σε ένα κείμενο "spoiler", ένα σύνολο κακόβουλων εντολών . Όταν ο χρήστης κάνει κλικ στο κουμπί "σελίδα συνέχισης" με ενεργοποιημένο τον παράγοντα, το πρόγραμμα περιήγησης:
- Αποκτήστε πρόσβαση στις ρυθμίσεις λογαριασμού Perplexity και λάβετε το email του χρήστη.
- Προσομοίωση σύνδεσης για δημιουργία κωδικού OTP Επαλήθευση
- Ανοίξτε το Gmail (αν είστε ήδη συνδεδεμένοι), βρείτε το μήνυμα με τον κωδικό και διαβάστε το.
- Δημοσίευση στο ίδιο το νήμα του Reddit το email του χρήστη και το OTP, αφήνοντάς το στο οπτικό πεδίο του επιτιθέμενου.
Όλα αυτά συμβαίνουν αποκλειστικά μέσω κειμένου, χωρίς την ανάγκη κακόβουλων σεναρίων ή exploits χαμηλού επιπέδου , και με ένα μόνο κλικ από τον χρήστη. Το περιεχόμενο της σελίδας είναι αυτό που «προγραμματίζει» τον παράγοντα να κάνει κατάχρηση των δικαιωμάτων του.
Έγχυση στο πρόχειρο και OCR
Ένας άλλος παράγοντας που κερδίζει έδαφος είναι η χειραγώγηση του πρόχειρου . Το παραδοσιακό κακόβουλο λογισμικό το εκμεταλλεύεται ήδη για να αλλάξει διευθύνσεις κρυπτονομισμάτων ή να υποκλέψει διαπιστευτήρια. Στο πλαίσιο ενός προγράμματος περιήγησης με τεχνητή νοημοσύνη, ο παράγοντας θα μπορούσε να διαβάσει τι αντιγράφετε και να ενεργήσει ανάλογα, ή ακόμα και να επικολλήσει τροποποιημένο περιεχόμενο χωρίς να το καταλάβετε.
Ακόμα πιο εξελιγμένη είναι η χρήση κρυφών οδηγιών σε εικόνες που επεξεργάζονται με OCR . Το πρόγραμμα περιήγησης μπορεί να διαβάσει κείμενο ενσωματωμένο σε γραφικά ή στιγμιότυπα οθόνης και, εάν ένας εισβολέας κρύψει εντολές σε pixel που περνούν απαρατήρητες από το ανθρώπινο μάτι αλλά όχι από το σύστημα αναγνώρισης, ο πράκτορας θα μπορούσε να τις εκτελέσει σαν να ήταν ένα νόμιμο μέρος της σελίδας.
Και στις δύο περιπτώσεις, το πρόβλημα είναι το ίδιο: το μοντέλο δεν κάνει σαφή διάκριση μεταξύ «περιγραφικού» περιεχομένου και «διδακτικού» περιεχομένου και τείνει να υπακούει σε οτιδήποτε ακούγεται σαν εντολή, ειδικά αν έχει διαμορφωθεί πειστικά.
Έκθεση και κακή χρήση προσωπικών και ευαίσθητων δεδομένων
Τα προγράμματα περιήγησης που βασίζονται στην τεχνητή νοημοσύνη συχνά περιλαμβάνουν έξυπνες λειτουργίες αυτόματης συμπλήρωσης ή διαχείρισης φορμών που υπερβαίνουν την παραδοσιακή αυτόματη συμπλήρωση. Εάν μια κακόβουλη σελίδα μιμείται μια νόμιμη φόρμα (για παράδειγμα, από μια τράπεζα, ένα κοινωνικό δίκτυο ή έναν πάροχο SaaS) και ο παράγοντας πιστεύει ότι αυτό θα σας «εξοικονομήσει χρόνο», μπορεί να εισαγάγει δεδομένα όπως το πλήρες όνομά σας, τη διεύθυνση, τον αριθμό τηλεφώνου σας ή ακόμα και εσωτερικά αναγνωριστικά της εταιρείας σας χωρίς να ζητήσει ρητά επαλήθευση.
Εάν, επιπλέον, το πρόγραμμα περιήγησης έχει άδεια να βλέπει όλες τις ανοιχτές ή πρόσφατες καρτέλες , ο κίνδυνος πολλαπλασιάζεται: ο εισβολέας θα μπορούσε ταυτόχρονα να χρησιμοποιήσει πληροφορίες από το email, το ημερολόγιο, τις επαφές, το εταιρικό CRM ή το σύστημα διαχείρισης έργων σας για να ολοκληρώσει μια εργασία, διευρύνοντας έτσι το πεδίο εφαρμογής μιας παραβίασης δεδομένων. Ενώ αυτό μπορεί να είναι χρήσιμο για νόμιμους σκοπούς, στα χέρια ενός εισβολέα γίνεται ένα χρυσωρυχείο ευαίσθητων δεδομένων.
Σε επιχειρηματικά περιβάλλοντα, το πρόβλημα επιδεινώνεται. Οι επεκτάσεις προγραμμάτων περιήγησης που υποστηρίζονται από τεχνητή νοημοσύνη, ενσωματωμένες στις ροές εργασίας, συχνά ζητούν πολύ ευρείες άδειες : ανάγνωση και τροποποίηση περιεχομένου όλων των ιστότοπων, πρόσβαση σε cookies και συνεδρίες, αλληλεπίδραση με API, και ούτω καθεξής. Αυτός ο συνδυασμός είναι ιδανικός για την κλοπή πνευματικής ιδιοκτησίας, οικονομικών αναφορών, σχεδίων σε εξέλιξη, πηγαίου κώδικα ή εμπιστευτικών συνομιλιών.
Επίμονες συνεδρίες και παραβίαση λογαριασμού
Ένα σύγχρονο πρόγραμμα περιήγησης διατηρεί ανοιχτές πολλές επαληθευμένες συνεδρίες : email, αποθήκευση στο cloud, κοινωνικά δίκτυα, online banking, εργαλεία εργασίας, πίνακες διαχείρισης... Εάν ο πράκτορας έχει τη δυνατότητα να αλληλεπιδρά με όλες αυτές τις υπηρεσίες και, επιπλέον, η συνεδρία δεν λήγει ή επαναχρησιμοποιείται επ' αόριστον, ένας εισβολέας μπορεί να εκμεταλλευτεί οποιαδήποτε επιτυχημένη ένεση για να εκτελέσει αλυσιδωτές ενέργειες χωρίς να χρειάζεται να θέσει εκ νέου σε κίνδυνο τον χρήστη.
Αυτό ανοίγει την πόρτα σε επιθέσεις αεροπειρατείας συνεδρίας και πλευρικής μετακίνησης : μόλις ο πράκτορας εξαπατηθεί, μπορεί να κατεβάσει ή να διαγράψει αρχεία, να αλλάξει ρυθμίσεις, να προσθέσει κλειδιά SSH σε αποθετήρια, να τροποποιήσει εγγραφές σε ένα CRM ή να εγκρίνει παραγγελίες αγοράς, όλα από το πλαίσιο διαφορετικών υπηρεσιών όπου ο χρήστης ήταν ήδη συνδεδεμένος.
Ηλεκτρονικό ψάρεμα (phishing), παραπληροφόρηση και έλλειψη διαφάνειας στις ενέργειες
Τα προγράμματα περιήγησης που υποστηρίζονται από τεχνητή νοημοσύνη είναι επίσης ιδιαίτερα ευάλωτα σε «αόρατες» καμπάνιες ηλεκτρονικού «ψαρέματος» (phishing) . Ο ίδιος ο παράγοντας τεχνητής νοημοσύνης μπορεί να χρησιμοποιηθεί για την επίσκεψη σε δόλιες σελίδες, τη συμπλήρωση φορμών ελέγχου ταυτότητας ή την επιβεβαίωση συναλλαγών χωρίς ο χρήστης να βλέπει ποτέ την πραγματική διεπαφή, παρά μόνο μια «φιλική» σύνοψη που δημιουργείται από το μοντέλο.
Επιπλέον, τα συστήματα που μετασχηματίζουν το περιεχόμενο πριν το εμφανίσουν στον χρήστη περιπλέκουν την ανίχνευση ψεύτικων ιστότοπων: Η τεχνητή νοημοσύνη μπορεί να μαλακώσει τα προειδοποιητικά σήματα, να αναδιατάξει στοιχεία, ακόμη και να δημιουργήσει εύλογες εξηγήσεις που δυσκολεύουν τη διάκριση ενός νόμιμου ιστότοπου από ένα αντίγραφο που έχει σχεδιαστεί για να κλέβει διαπιστευτήρια.
Ένας άλλος λιγότερο απτός αλλά εξίσου σοβαρός κίνδυνος είναι η ευαισθησία σε παραπληροφόρηση και χειραγωγημένο περιεχόμενο . Ένα μοντέλο που δεν έχει διαμορφωθεί σωστά ή ένα μοντέλο που έχει εκπαιδευτεί με μολυσμένα δεδομένα μπορεί να δώσει προτεραιότητα σε μεροληπτικές πηγές, να παραλείψει προειδοποιήσεις ή να δημιουργήσει απαντήσεις που ενισχύουν ψευδείς αφηγήσεις. Εάν το πρόγραμμα περιήγησης χρησιμοποιείται εκτενώς για τη συλλογή ειδήσεων, ο αντίκτυπος στις αντιλήψεις για την πραγματικότητα ή σε κρίσιμες αποφάσεις (π.χ. επενδύσεις, υγεία, πολιτική) μπορεί να είναι σημαντικός.
Σε όλες αυτές τις περιπτώσεις, υπάρχει ένα κοινό πρόβλημα: η αδιαφάνεια των ενεργειών του πράκτορα . Πολλές αλληλεπιδράσεις συμβαίνουν «κρυφά», χωρίς ο χρήστης να βλέπει ακριβώς ποιες καρτέλες είναι ανοιχτές, ποια δεδομένα έχουν αντιγραφεί ή ποια κουμπιά έχουν πατηθεί. Αυτό καθιστά δύσκολο τον έλεγχο, την ανάθεση νομικής ευθύνης (ήταν ο χρήστης ή η τεχνητή νοημοσύνη;) και την ανίχνευση ανώμαλης συμπεριφοράς από νωρίς.
Κύριο πλαίσιο, μεταμφιεσμένες εντολές και εκμεταλλεύσεις μηδενικού κλικ
Το κύριο πλαίσιο, ή αλλιώς η ενιαία γραμμή διευθύνσεων και αναζήτησης, μια λειτουργία των σύγχρονων προγραμμάτων περιήγησης, προσθέτει το δικό του επίπεδο κινδύνου. Σε ένα σενάριο που ελέγχεται από την τεχνητή νοημοσύνη, μια κακόβουλη εντολή μπορεί να μεταμφιεστεί σε μια αθώα διεύθυνση URL ή ερώτημα αναζήτησης . Εάν το μοντέλο αναλύσει αυτό που πληκτρολογείτε και προσπαθήσει να σας "βοηθήσει" εκτελώντας απευθείας ενέργειες, μπορεί να καταλήξει να σας πλοηγεί σε ιστότοπους που ελέγχονται από εισβολείς ή να εκτελεί ανεπιθύμητες ακολουθίες εργασιών.
Εν τω μεταξύ, η έκρηξη των τρωτών σημείων μηδενικού κλικ στα οικοσυστήματα Τεχνητής Νοημοσύνης καταδεικνύει ότι μερικές φορές η άμεση αλληλεπίδραση δεν είναι καν απαραίτητη: η απλή λήψη ενός email, μιας πρόσκλησης ημερολογίου ή ενός μηνύματος σε μια πλατφόρμα ενσωματωμένη με τον παράγοντα αρκεί για να ενεργοποιηθεί η κακόβουλη λογική. Παραδείγματα όπως το EchoLeak στο Microsoft 365 Copilot δείχνουν πώς, εκμεταλλευόμενοι τις αυτόματες μεταφορτώσεις εικόνων, τις ερμηνείες Markdown και τους εσωτερικούς διακομιστές μεσολάβησης , ένας εισβολέας μπορεί να κλιμακώσει τα δικαιώματα και να αποσπάσει δεδομένα χωρίς καμία παρέμβαση του χρήστη.
Αυτός ο τύπος επίθεσης δεν περιορίζεται σε μεγάλες σουίτες γραφείου: οποιοδήποτε πρόγραμμα περιήγησης με έναν παράγοντα τεχνητής νοημοσύνης που εκτίθεται σε webmail, μηνύματα ή πίνακες διαχείρισης θα μπορούσε να γίνει θύμα εάν το μοντέλο αλληλεπιδράσει αυτόματα με το ληφθέν περιεχόμενο.
Επεκτάσεις με τεχνητή νοημοσύνη, αλυσίδα εφοδιασμού και Shadow AI
Εκτός από τα «επίσημα» προγράμματα περιήγησης με ενσωματωμένη τεχνητή νοημοσύνη, υπάρχει ένας πολλαπλασιασμός των επεκτάσεων προγραμμάτων περιήγησης που υποστηρίζονται από γλωσσικά μοντέλα που υπόσχονται άμεση παραγωγικότητα: βοηθοί γραφής, ανιχνευτές συναισθημάτων, προηγμένη αυτόματη συμπλήρωση, περιλήψεις συσκέψεων και ούτω καθεξής. Αυτές οι επεκτάσεις συχνά ζητούν εξαιρετικά παρεμβατικά δικαιώματα και, σε πολλές περιπτώσεις, στέλνουν δεδομένα σε αδιαφανείς εξωτερικές υπηρεσίες.
Αυτή η κατάσταση δημιουργεί ένα εκρηκτικό κοκτέιλ ευπαθειών στην αλυσίδα εφοδιασμού : βιβλιοθήκες τρίτων, μη ελεγμένα API, διακομιστές συμπερασμάτων που βρίσκονται σε άλλες χώρες, ανεξέλεγκτες αυτόματες ενημερώσεις... Μια αρχικά νόμιμη επέκταση μπορεί να αγοραστεί από έναν κακόβουλο παράγοντα και να ενημερωθεί σιωπηλά για να συλλέξει ευαίσθητα δεδομένα ή να εγκαταστήσει κακόβουλο λογισμικό σε εταιρικά περιβάλλοντα.
Όλα αυτά επιδεινώνονται από την Shadow AI , δηλαδή τη χρήση αυτών των εργαλείων χωρίς την έγκριση ή την ορατότητα του τμήματος IT. Οι καλοπροαίρετοι υπάλληλοι που εγκαθιστούν επεκτάσεις AI για να εργάζονται πιο γρήγορα ενδέχεται άθελά τους να εξάγουν πληροφορίες που προστατεύονται από τον GDPR, τον HIPAA ή τον PCI DSS σε τρίτους παρόχους που δεν πληρούν τα απαιτούμενα νομικά πρότυπα ή τα πρότυπα ασφαλείας.
Επιπτώσεις στην ιδιωτικότητα, τη συμμόρφωση με τους κανονισμούς και το κυβερνοέγκλημα
Η άμεση συνέπεια αυτού του νέου σεναρίου είναι η δραματική αύξηση των κινδύνων για το προσωπικό απόρρητο και το επιχειρηματικό απόρρητο . Ένα πρόγραμμα περιήγησης ή επέκταση τεχνητής νοημοσύνης με κακή διαχείριση μπορεί να καταγράψει βιβλία, επιστημονικά άρθρα που βασίζονται σε συνδρομές, σχέδια οικονομικών εκθέσεων, στρατηγικά σχέδια, ιδιόκτητο κώδικα ή δεδομένα πελατών χωρίς να το προσέξει κανείς.
Στο οικιακό περιβάλλον, έχουμε ήδη παρατηρήσει συγκεκριμένα προβλήματα: Το ChatGPT εμφάνισε ακόμη και αποσπάσματα από τις συνομιλίες άλλων χρηστών λόγω τεχνικού σφάλματος, και η λειτουργία κοινής χρήσης συνομιλιών δημιούργησε διευθύνσεις URL που μπορούσαν να καταχωρηθούν από τις μηχανές αναζήτησης, αφήνοντας χιλιάδες ιδιωτικές συνομιλίες ορατές σε οποιονδήποτε. Είναι εύκολο να φανταστεί κανείς τι θα μπορούσε να συμβεί όταν ο βοηθός έχει πλήρη πρόσβαση στην κίνηση ιστού και στα τοπικά αρχεία.
Στον εταιρικό κόσμο, η έκθεση σε δεδομένα πνευματικής ιδιοκτησίας ή κανονιστικών δεδομένων μπορεί να οδηγήσει σε πρόστιμα πολλών εκατομμυρίων δολαρίων, απώλεια ανταγωνιστικού πλεονεκτήματος και ζημία στη φήμη . Εάν μια επέκταση μεταγραφής συσκέψεων αποθηκεύει συνομιλίες με ευαίσθητους πελάτες σε διακομιστές τρίτων ή εάν ένα πρόγραμμα περιήγησης τεχνητής νοημοσύνης χρησιμοποιεί εμπιστευτικές οικονομικές πληροφορίες για την εκπαίδευση μοντέλων, ο οργανισμός θα μπορούσε να παραβιάζει τον GDPR, τον CCPA, τον HIPAA ή άλλους κανονισμούς του κλάδου.
Ταυτόχρονα, οι κυβερνοεγκληματίες αξιοποιούν ακριβώς τις δυνατότητες που αναζητούν οι επιχειρήσεις. Τα ransomware και το πολυμορφικό κακόβουλο λογισμικό με τη βοήθεια της τεχνητής νοημοσύνης έχουν ήδη παρατηρηθεί σε πραγματικό χρόνο: οικογένειες όπως το PromptLock δημιουργούν σενάρια εν κινήσει για να κινούνται σε συστήματα Windows, macOS ή Linux, να αποφεύγουν τον εντοπισμό και να κρυπτογραφούν δεδομένα. Τα λεγόμενα «Dark LLM» - ανοιχτά μοντέλα τροποποιημένα για εγκληματικούς σκοπούς - επιτρέπουν την αυτοματοποίηση της αναγνώρισης, της κλοπής διαπιστευτηρίων και ολόκληρων καμπανιών εισβολής.
Πρόσφατη έρευνα έχει δείξει ότι τα LLM που είναι ενσωματωμένα σε εταιρικές ροές εργασίας μπορούν να εξαναγκαστούν να εγκαταστήσουν κακόβουλο λογισμικό, να εξαγάγουν δεδομένα ή να χειραγωγήσουν αποτελέσματα απλώς μέσω καλοσχεδιασμένων προτροπών ή δηλητηριασμένων δεδομένων εκπαίδευσης. Καθώς τα προγράμματα περιήγησης που υποστηρίζονται από την τεχνητή νοημοσύνη γίνονται η κύρια διεπαφή με τον ιστό, αυτή η απειλή θα επεκταθεί σχεδόν σε κάθε διαδικτυακή δραστηριότητα.
Μέτρα μετριασμού που εφαρμόστηκαν και συστάσεις για τη μείωση των κινδύνων
Οι προμηθευτές προγραμμάτων περιήγησης τεχνητής νοημοσύνης αρχίζουν να αντιδρούν. Εκτός από τους περιορισμούς που έχουν ήδη συζητηθεί στο Atlas, η Brave έχει προτείνει συγκεκριμένες βέλτιστες πρακτικές για τον μετριασμό των επιθέσεων άμεσης έγχυσης και της κατάχρησης πρακτόρων:
- Διακρίνετε με σαφήνεια τις εντολές χρήστη από το κείμενο ιστούαποφεύγοντας την ανάμειξη και των δύο στο ίδιο κανάλι εντολών στο μοντέλο.
- Απαιτώ Ρητή επιβεβαίωση για οποιαδήποτε ευαίσθητη ενέργεια (αγορές, αλλαγές διαμόρφωσης, μεταφορές χρημάτων, πρόσβαση σε email).
- Απομονώστε το προηγμένες λειτουργίες του βασικού πράκτορα πλοήγησηςέτσι ώστε η απλή επίσκεψη σε μια σελίδα να μην συνεπάγεται την ικανότητα αυτόματης δράσης.
- Θεραπεύω όλο το περιεχόμενο ιστού ως μη αξιόπιστο από προεπιλογή, απαιτώντας σαφή σήματα πρόθεσης χρήστη πριν από την εκτέλεση ενεργειών.
Εν τω μεταξύ, ορισμένες εταιρείες, όπως η OpenAI, προσφέρουν λεπτομερή ορατότητα και ελέγχους μνήμης : μπλοκάρισμα της Τεχνητής Νοημοσύνης σε συγκεκριμένους τομείς, απενεργοποίηση της χρήσης δεδομένων για εκπαίδευση από προεπιλογή, επιτρέποντας στον χρήστη να διαγράφει συνομιλίες και αναμνήσεις όποτε θέλει ή απαιτώντας μη αυτόματες εγκρίσεις σε ιστότοπους που θεωρούνται κρίσιμοι.
Από την πλευρά της εταιρείας-χρήστη, υπάρχουν ορισμένα βασικά μέτρα υγιεινής που θα πρέπει να εφαρμοστούν το συντομότερο δυνατό:
- Σαφής πολιτική σχετικά με τη χρήση της Τεχνητής Νοημοσύνης: ποια προγράμματα περιήγησης και επεκτάσεις επιτρέπονται, ποια δεδομένα μπορούν να επεξεργαστούν και υπό ποιες συνθήκες.
- Συνεχής εκπαίδευση των εργαζομένων, με επεξηγήσεις Κίνδυνοι άμεσης έγχυσης, ηλεκτρονικού "ψαρέματος" (phishing) με στόχο την τεχνητή νοημοσύνη και παραβιάσεων δεδομένων.
- Χρήση του εικονικά ή απομονωμένα περιβάλλοντα (VDI, sandboxes) για εργασίες υψηλού κινδύνου, έτσι ώστε να είναι ευκολότερο να περιοριστεί ένα περιστατικό.
- Υλοποίηση του λύσεις ασφάλειας που βασίζονται στο πρόγραμμα περιήγησης που παρακολουθούν επεκτάσεις, ανώμαλη συμπεριφορά και εξαγωγή δεδομένων.
Ένα «ιδανικό πρόγραμμα περιήγησης τεχνητής νοημοσύνης», σύμφωνα με τους ειδικούς, θα πρέπει να επιτρέπει στους χρήστες να ενεργοποιούν ή να απενεργοποιούν την έξυπνη επεξεργασία ανά τοποθεσία με ένα μόνο κλικ, να απομονώνουν το περιβάλλον του μοντέλου σε όλους τους τομείς, να επιβεβαιώνουν πάντα την εισαγωγή ευαίσθητων δεδομένων, να περιορίζουν την πρόσβαση σε αρχεία ανά λειτουργικό σύστημα, ακόμη και να επιτρέπουν στους χρήστες να επιλέγουν τοπικά μοντέλα χωρίς να στέλνουν δεδομένα στο cloud. Κανένα από τα τρέχοντα προϊόντα δεν πληροί ακόμη όλες αυτές τις απαιτήσεις, καθιστώντας απαραίτητη την συμπλήρωσή τους με εξωτερικά επίπεδα ασφαλείας.
Το τοπίο που παρουσιάζουν τα προγράμματα περιήγησης με πράκτορες τεχνητής νοημοσύνης είναι τόσο ισχυρό όσο και ευαίσθητο: εάν διαχειριστούν σωστά, μπορούν να εκδημοκρατικοποιήσουν τον προηγμένο αυτοματισμό στην καθημερινή ζωή. Εάν παραμεληθούν, μπορούν να γίνουν το προτιμώμενο εργαλείο των επιτιθέμενων . Το κλειδί θα είναι ο τρόπος με τον οποίο εξελίσσονται τα τεχνικά μέτρα (απομόνωση, έλεγχοι χρηστών, ανίχνευση εισροών) και πόσα επενδύουν οι οργανισμοί και τα άτομα στην κατανόηση του τι ακριβώς κάνει αυτός ο «βοηθός» που βρίσκεται τώρα μέσα στο πρόγραμμα περιήγησής τους.
Δείκτης
- 1 Τι είναι ένα πρόγραμμα περιήγησης με τεχνητή νοημοσύνη και γιατί αλλάζει το παιχνίδι;
- 2 Άτλας OpenAI: Βασικά χαρακτηριστικά και αρχικά όρια ασφαλείας
- 3 Συγκεκριμένοι κίνδυνοι ασφαλείας των προγραμμάτων περιήγησης με παράγοντες τεχνητής νοημοσύνης
- 3.1 Άμεση ένεση και κρυφές οδηγίες
- 3.2 Έγχυση στο πρόχειρο και OCR
- 3.3 Έκθεση και κακή χρήση προσωπικών και ευαίσθητων δεδομένων
- 3.4 Επίμονες συνεδρίες και παραβίαση λογαριασμού
- 3.5 Ηλεκτρονικό ψάρεμα (phishing), παραπληροφόρηση και έλλειψη διαφάνειας στις ενέργειες
- 3.6 Κύριο πλαίσιο, μεταμφιεσμένες εντολές και εκμεταλλεύσεις μηδενικού κλικ
- 3.7 Επεκτάσεις με τεχνητή νοημοσύνη, αλυσίδα εφοδιασμού και Shadow AI
- 4 Επιπτώσεις στην ιδιωτικότητα, τη συμμόρφωση με τους κανονισμούς και το κυβερνοέγκλημα
- 5 Μέτρα μετριασμού που εφαρμόστηκαν και συστάσεις για τη μείωση των κινδύνων