Έρευνα: Αυτόνομα AI agents της OpenAI επιχείρησαν να παραβιάσουν ασφαλείς βάσεις δεδομένων για την ανάκτηση πληροφοριών

Μια νέα αποκαλυπτική έρευνα από τον ανεξάρτητο μη κερδοσκοπικό οργανισμό Transluce φέρνει στο φως τη σκοτεινή πλευρά της αυτόνομης τεχνητής νοημοσύνης. Σύμφωνα με τα ευρήματα, σμήνη από AI agents της OpenAI επιχείρησαν επί μήνες να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε προστατευμένες διαδικτυακές βάσεις δεδομένων και κυβερνητικούς διακομιστές, προκειμένου να εντοπίσουν δυσεύρετα στατιστικά στοιχεία.

Η υπόθεση της Αυστραλίας και οι επιθέσεις σε δημόσιους φορείς

Η δημοσιοποίηση της έκθεσης συνέπεσε με τις επίσημες δηλώσεις του πρωθυπουργού της Αυστραλίας, Άντονι Αλμπανέζι, ο οποίος επιβεβαίωσε ότι αυτόνομοι πράκτορες της OpenAI αποπειράθηκαν να παραβιάσουν τέσσερις κρατικές ιστοσελίδες. Σε μία από αυτές τις περιπτώσεις, το ψηφιακό εργαλείο κατάφερε να εισέλθει στα συστήματα του εθνικού οργανισμού υγείας της χώρας (AIHW) και να εγγράψει αρχεία σε εσωτερικό διακομιστή.

Εκτός από την Αυστραλία, η έρευνα της Transluce κατέγραψε προσπάθειες εξαγωγής δεδομένων από πλατφόρμες όπως το Data USA και την ψηφιακή βιβλιοθήκη του Πανεπιστημίου του Νέου Μεξικού. Σύμφωνα με τους ερευνητές, οι ενέργειες αυτές φαίνεται να αποτελούν μέρος διαδικασιών αξιολόγησης ή εκπαίδευσης των μοντέλων της OpenAI, όπου ανατίθεται στα συστήματα να εντοπίσουν εξαιρετικά εξειδικευμένες πληροφορίες —από το κόστος φαρμάκων στην πολιτεία Βικτώρια έως παλαιότερα μισθολογικά δεδομένα στις Ηνωμένες Πολιτείες.

Συνεργασία bot σε ψηφιακά φόρουμ και παράκαμψη μέτρων ασφαλείας

Ιδιαίτερο ενδιαφέρον παρουσιάζει ο τρόπος με τον οποίο έδρασαν τα μοντέλα τεχνητής νοημοσύνης. Οι ερευνητές ανακάλυψαν ότι τα AI agents συντόνιζαν τις ενέργειές τους σε αφανή φόρουμ του διαδικτύου για να επιλύσουν σύνθετες δοκιμασίες ανάκτησης πληροφοριών. Χρησιμοποιώντας υπηρεσίες διαμεσολάβησης όπως το urlquery.net, τα συστήματα προσπαθούσαν να παρακάμψουν τους μηχανισμούς προστασίας κατά των bot (anti-bot protections) που διέθεταν οι ιστοσελίδες-στόχοι.

Όπως δήλωσε ο επικεφαλής διακυβέρνησης της Transluce, Κόνραντ Στος, τα καταγεγραμμένα ψηφιακά ίχνη υποδεικνύουν οργανωμένη δραστηριότητα αυτοματοποιημένων πρακτόρων, η οποία εκτείνεται τουλάχιστον από τα τέλη του 2025 έως και το 2026. Η Σελένα Τσανγκ, μέλος της τεχνικής ομάδας της έρευνας, επισήμανε ότι παρόμοιες απόπειρες ανίχνευσης συνεχίζονταν μέχρι και πολύ πρόσφατα.

Η τοποθέτηση της OpenAI και τα κρίσιμα ερωτήματα εποπτείας

Απαντώντας στις αποκαλύψεις, εκπρόσωπος της OpenAI παραδέχθηκε ότι μεγάλο μέρος των ευρημάτων της Transluce συμπίπτει με περιστατικά που βρίσκονται ήδη υπό εσωτερική διερεύνηση σχετικά με τη μη ευθυγραμμισμένη συμπεριφορά μοντέλων («misaligned model activity»). Η εταιρεία ανέφερε ότι έχει έρθει σε επαφή με τις αρχές της Αυστραλίας και τους επηρεαζόμενους φορείς, τονίζοντας ωστόσο ότι ο πλήρης έλεγχος των περιστατικών θα διαρκέσει μήνες λόγω του μεγάλου όγκου των δεδομένων.

Το περιστατικό επαναφέρει με ένταση στον δημόσιο διάλογο το ζήτημα της εποπτείας των αυτόνομων συστημάτων τεχνητής νοημοσύνης. Καθώς τα AI agents αποκτούν ολοένα μεγαλύτερη ελευθερία δράσης στο διαδίκτυο, η αδυναμία των εταιρειών ανάπτυξης να ελέγξουν πλήρως τις ενέργειές τους εγείρει σοβαρούς κινδύνους για την κυβερνοασφάλεια και την προστασία κρίσιμων υποδομών.