Διαρροή ευαίσθητων δεδομένων στην εφοδιαστική αλυσίδα AI: Το πείραμα με τα 2 εκατομμύρια «καναρίνια»

Η ραγδαία εξάπλωση των εφαρμογών τεχνητής νοημοσύνης έχει δημιουργήσει ένα περίπλοκο παρασκήνιο υποδομών, όπου τα δεδομένα των χρηστών διακινούνται μέσα από δεκάδες ενδιάμεσους παρόχους. Μια πρωτοποριακή έρευνα στον τομέα της κυβερνοασφάλειας φέρνει τώρα στο φως μια ανησυχητική πραγματικότητα: η εφοδιαστική αλυσίδα της τεχνητής νοημοσύνης παρουσιάζει σοβαρότατες διαρροές, εκθέτοντας απόρρητα δεδομένα και κωδικούς πρόσβασης σε άγνωστους τρίτους και κυβερνοεγκληματίες.

Η παγίδα των δύο εκατομμυρίων ψηφιακών «δολωμάτων»

Ο επικεφαλής ερευνητής της εταιρείας κυβερνοασφάλειας Dragos, Έιτς Ντι Μουρ, σχεδίασε ένα ευρείας κλίμακας πείραμα για να καταγράψει τη διαδρομή των δεδομένων στα σύγχρονα συστήματα AI. Πολλές σημερινές εφαρμογές δεν συνδέονται απευθείας με κολοσσούς όπως η OpenAI ή η Anthropic, αλλά χρησιμοποιούν ενδιάμεσους δρομολογητές («AI routers») όπως το OpenRouter ή το Vercel. Οι υπηρεσίες αυτές κατευθύνουν τα αιτήματα (prompts) στον φθηνότερο ή καταλληλότερο διαθέσιμο πάροχο υπολογιστικής ισχύος.

Για να εντοπίσει πιθανές διαρροές, ο Μουρ δημιούργησε σχεδόν δύο εκατομμύρια μοναδικά «ψηφιακά καναρίνια» —ανενεργά αλλά λειτουργικά διαπιστευτήρια, όπως κλειδιά πρόσβασης AWS, κωδικούς SSH, ιδιωτικά αποθετήρια git και μοναδικές ιστοσελίδες. Κάθε μυστικό ενσωματώθηκε σε ένα μοναδικό prompt και στάλθηκε στο δίκτυο, επιτρέποντας στον ερευνητή να παρακολουθήσει πού και πότε θα εμφανιζόταν το καθένα από αυτά.

Διαρροή ευαίσθητων δεδομένων στην εφοδιαστική αλυσίδα AI: Το πείραμα με τα 2 εκατομμύρια «καναρίνια»

Παραβιάσεις υποδομών και χρήση κλεμμένων κλειδιών AWS

Τα αποτελέσματα του πειράματος ήταν αποκαλυπτικά. Παρότι τα αιτήματα είναι κρυπτογραφημένα κατά τη μεταφορά τους, αποκρυπτογραφούνται σε κάθε ενδιάμεσο σταθμό του δικτύου μεταπώλησης. Αυτό το αρχιτεκτονικό κενό επέτρεψε την υποκλοπή ευαίσθητων πληροφοριών σε πολλαπλά επίπεδα.

Το πιο ανησυχητικό εύρημα ήταν η επιβεβαιωμένη παραβίαση τριών διαφορετικών παρόχων φιλοξενίας. Άγνωστοι εισβολείς απέκτησαν πρόσβαση στα prompts και χρησιμοποίησαν εκατοντάδες από τα δολωματικά κλειδιά AWS μέσα σε λίγες μόλις ώρες από την αποστολή τους. Οι επιτιθέμενοι πραγματοποίησαν δεκάδες χιλιάδες κλήσεις API, εξερευνώντας φακέλους S3 και βάσεις διαπιστευτηρίων, ενώ επιχείρησαν να ενεργοποιήσουν υπολογιστικούς πόρους στο AWS Bedrock και να δημιουργήσουν νέους λογαριασμούς διαχειριστών. Μάλιστα, ορισμένα κλειδιά υπεκλάπησαν στην «εξώπορτα» των συστημάτων, προτού καν εκτελεστεί το εκάστοτε γλωσσικό μοντέλο.

Αθέμιτες πρακτικές από μεταπωλητές και αγνόηση του απορρήτου

Η έρευνα αποκάλυψε επίσης ότι ορισμένοι μεταπωλητές υπολογιστικής ισχύος λειτουργούν με δόλιους σκοπούς. Προσελκύουν κίνηση προσφέροντας εξαιρετικά χαμηλές τιμές και στη συνέχεια καταγράφουν συστηματικά το περιεχόμενο των prompts για να αποσπάσουν ευαίσθητα δεδομένα.

Παράλληλα, διαπιστώθηκε εκτεταμένη παραβίαση των πολιτικών μηδενικής διατήρησης δεδομένων (Zero Data Retention). Χαρακτηριστικό παράδειγμα αποτελεί ερευνητικό εργαστήριο AI στην Κίνα, τα αυτοματοποιημένα συστήματα του οποίου επισκέφθηκαν κρυφά τις μοναδικές ιστοσελίδες που περιέχονταν στα prompts, ακόμα και σε αιτήματα που έφεραν ρητή σήμανση απαγόρευσης συλλογής δεδομένων. Το πόρισμα του Έιτς Ντι Μουρ καταδεικνύει ότι οι επιχειρήσεις που ενσωματώνουν εργαλεία τεχνητής νοημοσύνης οφείλουν να επανεξετάσουν άμεσα τις αλυσίδες εφοδιασμού τους, καθώς η εμπιστοσύνη σε τρίτους μεσάζοντες θέτει σε άμεσο κίνδυνο την ασφάλεια των κρίσιμων υποδομών τους.

ThePostPolitics Newsroom
ThePostPolitics Newsroom