Κυβερνοασφάλεια: Ερευνητές παραβίασαν τα συστήματα της OpenAI χρησιμοποιώντας το Claude της Anthropic

Σε μια ενδεικτική εξέλιξη για τη νέα εποχή της κυβερνοασφάλειας, ανεξάρτητοι ερευνητές χρησιμοποίησαν το μοντέλο τεχνητής νοημοσύνης Claude της ανταγωνίστριας Anthropic προκειμένου να εντοπίσουν κενά ασφαλείας και να αποκτήσουν πρόσβαση στα συστήματα της OpenAI. Το περιστατικό έφερε στο φως η Wall Street Journal, αποκαλύπτοντας πώς τα σύγχρονα εργαλεία AI μπορούν να αξιοποιηθούν για την αυτοματοποίηση και την εκτέλεση περίπλοκων κυβερνοεπιθέσεων.

Η διαδρομή της παραβίασης μέσω εικόνων HEIC

Η επίθεση πραγματοποιήθηκε από τριμελή ομάδα της startup κυβερνοασφάλειας Hacktron AI, στο πλαίσιο του επίσημου προγράμματος ανταμοιβής σφαλμάτων (bug-bounty) της OpenAI. Οι ερευνητές συνδύασαν δύο κρίσιμες ευπάθειες για να αποκτήσουν πρόσβαση σε λογαριασμούς ChatGPT εργαζομένων της OpenAI, γεγονός που τους έδωσε τη δυνατότητα να εισέλθουν στο λογισμικό και σε εσωτερικούς χώρους της εταιρείας στο GitHub μέσω του εργαλείου Codex.

Το σημείο εισόδου εντοπίστηκε στις 25 Ιουλίου στο Discourse, το λογισμικό τρίτου κατασκευαστή που διαχειρίζεται το φόρουμ κοινότητας της OpenAI. Όταν οι χρήστες ανέβαζαν αρχεία εικόνας μορφής HEIF ή HEIC (προεπιλεγμένη μορφή των iPhone), το σύστημα τα μετέτρεπε σε JPEG χρησιμοποιώντας το εργαλείο ImageMagick και τη βιβλιοθήκη αποκωδικοποίησης libheif. Ένα σφάλμα μνήμης στη συγκεκριμένη βιβλιοθήκη επέτρεψε την εισαγωγή κακόβουλων εντολών μέσω μιας ειδικά διαμορφωμένης εικόνας, οδηγώντας στον πλήρη έλεγχο του διακομιστή.

Ο ρόλος-κλειδί του Claude Opus 5

Ιδιαίτερο ενδιαφέρον παρουσιάζει το γεγονός ότι η ομάδα χρησιμοποίησε τεχνητή νοημοσύνη για τη δημιουργία του exploit. Ενώ η προηγούμενη έκδοση του μοντέλου, το Claude Opus 4.8, δυσκολευόταν επί συνεδρίες να παράγει λειτουργικό κώδικα επίθεσης, η κυκλοφορία του νεότερου Claude Opus 5 από την Anthropic έλυσε το πρόβλημα μέσα σε λίγες ώρες.

«Το Opus 4.8 δυσκολευόταν να δημιουργήσει ένα λειτουργικό exploit. Μέσα σε λίγες ώρες από την κυκλοφορία του Opus 5, του δώσαμε το ίδιο πρόβλημα και πέτυχε», ανέφεραν οι ερευνητές της Hacktron AI, σημειώνοντας πως η OpenAI διόρθωσε άμεσα τα κενά ασφαλείας στις 27 Ιουλίου και τους απένειμε αμοιβή 6.500 δολαρίων.

Ανησυχία για τη διάχυση εργαλείων κυβερνοεπίθεσης

Το περιστατικό αναδεικνύει την ταχύτητα με την οποία εξελίσσονται οι δυνατότητες των μοντέλων AI στον τομέα της κυβερνοασφάλειας. Όπως δήλωσε ο Ματ Φρέντρικσον, διευθύνων σύμβουλος της εταιρείας ασφαλείας Gray Swan, με κόστος μόλις 200 δολαρίων τον μήνα, οποιοσδήποτε έχει πλέον πρόσβαση σε εργαλεία ικανά να δοκιμάσουν τις άμυνες κορυφαίων τεχνολογικών κολοσσών.

Από την πλευρά του, ο ιδρυτής της Hacktron AI, Μόχαν Πενταπάτι, επεσήμανε ότι η τεχνητή νοημοσύνη μειώνει δραστικά την απαιτούμενη εξειδίκευση για την ανάπτυξη επιθέσεων, μετατρέποντας διαδικασίες μηνών σε υπόθεση λίγων ημερών. Το γεγονός αυτό εντείνει τον προβληματισμό σχετικά με το τι θα μπορούσαν να επιτύχουν καλά χρηματοδοτούμενες κρατικές ομάδες χάκερ αξιοποιώντας την επόμενη γενιά μοντέλων τεχνητής νοημοσύνης.