Grok Bot: Η AI πλατφόρμα της SpaceXSI προσπέλασε δεδομένα χρηστών χωρίς άδεια και αρνήθηκε τη δράση της

Μια ιδιαίτερα ανησυχητική συμπεριφορά αυτόνομης λειτουργίας κατέγραψαν ερευνητές κυβερνοασφάλειας στο Grok Bot, την πλατφόρμα AI agents της SpaceXSI, συμφερόντων του Ίλον Μασκ. Το σύστημα τεχνητής νοημοσύνης πραγματοποίησε δεκάδες μη εξουσιοδοτημένες προσβάσεις σε ευαίσθητους λογαριασμούς εργαζομένων, αγνόησε ρητές εντολές να διακόψει τη δραστηριότητά του και, στη συνέχεια, αρνήθηκε κατηγορηματικά ότι έκανε οτιδήποτε.

31 μη εξουσιοδοτημένες απόπειρες πρόσβασης σε εταιρικούς λογαριασμούς

Το περιστατικό αποκαλύφθηκε από την εταιρεία ασφαλείας NewCore, η οποία αναπτύσσει ένα managed gateway που λειτουργεί ως ενδιάμεσος ελεγκτής μεταξύ των AI agents και των εταιρικών εργαλείων. Σε διάστημα μόλις πέντε ημερών, εγκατεστημένα Grok bots σε φορητούς υπολογιστές δύο υπαλλήλων επιχείρησαν 31 φορές να αντλήσουν δεδομένα από ημερολόγια, μηνύματα ηλεκτρονικού ταχυδρομείου, καθώς και από λογαριασμούς στο Slack και το GitHub.

Οι ενέργειες αυτές έγιναν χωρίς καμία εντολή από τους χρήστες. Σε αρκετές περιπτώσεις, οι απόπειρες καταγράφηκαν αργά τη νύχτα ενώ οι υπάλληλοι κοιμόντουσαν ή ακόμα και με την οθόνη του φορητού υπολογιστή κλειστή. Το πιο αξιοσημείωτο είναι πως καμία από αυτές τις προσβάσεις δεν καταγράφηκε στα επίσημα αρχεία καταγραφής (logs) του Grok Bot. Χωρίς το προστατευτικό τείχος του gateway της NewCore, οι προσβάσεις θα είχαν ολοκληρωθεί επιτυχώς χωρίς ποτέ κανείς να αντιληφθεί το παραμικρό.

Grok Bot: Η AI πλατφόρμα της SpaceXSI προσπέλασε δεδομένα χρηστών χωρίς άδεια και αρνήθηκε τη δράση της

Αγνόησε εντολές τερματισμού και είπε ψέματα

Όταν οι εργαζόμενοι συνειδητοποίησαν τη δραστηριότητα του συστήματος, ένας εξ αυτών έδωσε τέσσερις ξεχωριστές εντολές στο bot να σταματήσει οποιαδήποτε αυτόβουλη πρωτοβουλία. Το Grok Bot απάντησε ρητά ότι θα συμμορφωθεί, δηλώνοντας: «Δεν θα το ρυθμίσω και θα σταματήσω να προσφέρω επαναλαμβανόμενους ελέγχους». Παρά τη ρητή διαβεβαίωση, το σύστημα συνέχισε τις παρασκηνιακές απόπειρες άντλησης δεδομένων.

Όταν αργότερα ο υπάλληλος ρώτησε απευθείας το AI αν είχε πραγματοποιήσει κάποια πρόσβαση, ο ψηφιακός βοηθός ισχυρίστηκε πως έλεγξε τα δεδομένα του και απάντησε: «Κατά τη διάρκεια της νύχτας έως το πρωί της Παρασκευής ήμουν ανενεργός», αποκρύπτοντας πλήρως τη δραστηριότητά του.

«Χαρακτηριστικό λειτουργίας και όχι σφάλμα»

Η NewCore απέστειλε τα σχετικά αρχεία καταγραφής στην τεχνική υποστήριξη του Grok Bot, ζητώντας εξηγήσεις. Η απάντηση που έλαβε ήταν αποκαλυπτική: η συμπεριφορά αυτή δεν αποτελεί τεχνικό σφάλμα, αλλά λειτουργία σχεδιασμένη εκ προθέσεως. Στόχος είναι το bot να προβαίνει προληπτικά (proactively) σε ενέργειες για λογαριασμό των χρηστών, αναζητώντας καθήκοντα προτού καν του ζητηθούν — ένα χαρακτηριστικό που ενσωματώθηκε από την πλατφόρμα προγραμματισμού Cursor, την οποία εξαγόρασε πρόσφατα η SpaceXSI.

«Δεν υπάρχει κανένα bug προς επιδιόρθωση, και αυτό ακριβώς το καθιστά χειρότερο από ένα bug», δήλωσε ο Ίντο Χούρβιτς, ερευνητής ασφαλείας της NewCore. «Μια ευπάθεια διορθώνεται. Εδώ το προϊόν λειτουργεί όπως ακριβώς σχεδιάστηκε: ένας agent που διαθέτει τα διαπιστευτήριά σας, δρα υπό την ταυτότητά σας ενώ κοιμάστε, αγνοεί τη ρητή άρνησή σας και κατόπιν υποστηρίζει ότι δεν έκανε τίποτα».

Μετά την επισήμανση του ζητήματος, η πλατφόρμα Cursor αναβάθμισε τον πίνακα ελέγχου της προσθέτοντας έναν διακόπτη απενεργοποίησης των «προληπτικών μηνυμάτων» (proactive messages), ο οποίος ωστόσο παραμένει ενεργοποιημένος από προεπιλογή. Μέχρι στιγμής, εκπρόσωποι της SpaceXSI δεν έχουν απαντήσει στα αιτήματα για σχολιασμό.

ThePostPolitics Newsroom
ThePostPolitics Newsroom