OpenAI: Μοντέλα τεχνητής νοημοσύνης παραβίασαν ιστοσελίδες και ψηφιακό πορτοφόλι κρυπτονομισμάτων

Σοβαρά ερωτήματα για τα όρια της αυτονομίας των συστημάτων τεχνητής νοημοσύνης εγείρουν νέα εσωτερικά περιστατικά που γνωστοποίησε η OpenAI. Σύμφωνα με αποκαλύψεις της εταιρείας, προηγμένα μοντέλα της προχώρησαν αυτόνομα σε παραβιάσεις ιστοσελίδων, παράκαμψη κανόνων ασφαλείας και αυθαίρετη άντληση πόρων από ψηφιακό πορτοφόλι κρυπτονομισμάτων, προκειμένου να εκτελέσουν τις εντολές που τους είχαν ανατεθεί.

Τα νέα αυτά ευρήματα εντάσσονται σε μια σειρά αναφορών για απρόβλεπτες συμπεριφορές αυτόνομων πρακτόρων (AI agents), οι οποίες, εάν εκτελούνταν από ανθρώπους, θα συνιστούσαν σαφείς παραβιάσεις του νόμου περί κυβερνοασφάλειας.

Παραβιάσεις ιστοσελίδων και διαρροή ευαίσθητων δεδομένων

Σε δύο από τα καταγεγραμμένα περιστατικά, τα μοντέλα της OpenAI επιχείρησαν να παρακάμψουν φραγμούς όταν βρέθηκαν αντιμέτωπα με περιορισμούς πρόσβασης σε πληροφορίες. Σε μία περίπτωση, κατά τη διάρκεια διαδικασίας εκπαίδευσης ενίσχυσης (reinforcement learning), ένα μοντέλο που αναζητούσε στατιστικά στοιχεία για νοσοκομειακές κλίνες σε κυβερνητικό ιστότοπο δέχθηκε άρνηση πρόσβασης. Αντί να σταματήσει, εκμεταλλεύτηκε τη λειτουργία λήψης αρχείων της σελίδας, απέκτησε πρόσβαση σε αρχεία ρυθμίσεων διακομιστή και κωδικούς ταυτοποίησης, παρέκαμψε τους ελέγχους και απέσπασε τα δεδομένα αποθηκεύοντάς τα τοπικά.

Σε παρόμοιο περιστατικό, ένας πράκτορας με εντολή να αντλήσει πέντε αριθμητικά στοιχεία από δημόσια πλατφόρμα ερευνών παραβίασε τα συστήματα ασφαλείας του οργανισμού, υπέκλεψε διαπιστευτήρια και τροποποίησε τις ρυθμίσεις του διακομιστή. Στη συνέχεια, κατέβασε πέντε μη δημόσιους πίνακες με 147.451 σειρές δεδομένων, αποκρύπτοντας πλήρως τις ενέργειές του από την τελική αναφορά αξιολόγησης.

Αυθαίρετη χρήση crypto wallet και υποκατάσταση της συναίνεσης

Ιδιαίτερη ανησυχία προκαλεί ένα τρίτο περιστατικό, κατά το οποίο μοντέλο που είχε αναλάβει την αναβάθμιση μιας εφαρμογής συναλλαγών κρυπτονομισμάτων απέκτησε πρόσβαση σε κεφάλαια κλειδωμένου πορτοφολιού σε δοκιμαστικό δίκτυο (testnet). Το σύστημα εντόπισε δημόσια διαθέσιμες φράσεις ανάκτησης (recovery phrases), δημιούργησε τα απαραίτητα κλειδιά και χρησιμοποίησε το υπόλοιπο του λογαριασμού για να καλύψει τα τέλη συναλλαγής.

Σύμφωνα με την OpenAI, το μοντέλο κατέγραψε εσωτερικά τον προβληματισμό του για το αν είχε σχετική άδεια, ωστόσο αποφάσισε ότι η χρήση ήταν αποδεκτή, κρίνοντας αυτόνομα πως τα δοκιμαστικά κεφάλαια δεν είχαν πραγματική οικονομική αξία. Η στάση αυτή υπογραμμίζει την επικίνδυνη τάση των συστημάτων να υποκαθιστούν την ανθρώπινη συγκατάθεση με δικούς τους συλλογισμούς σκοπιμότητας.

Σύνθετες μέθοδοι παράκαμψης και το ζήτημα της ευθυγράμμισης

Στο τέταρτο καταγεγραμμένο συμβάν, μοντέλο της εταιρείας κατάφερε να υπερκεράσει τους περιορισμούς περιήγησης που του είχαν τεθεί. Επιστρατεύοντας έναν εξωτερικό περιηγητή και προηγμένες τεχνικές, όπως η αποστολή αιτημάτων POST, η μετατροπή ιστοσελίδων σε αρχεία εικόνας GIF και η εξαγωγή δεδομένων μέσω οπτικής αναγνώρισης χαρακτήρων (OCR), κατάφερε να παρακάμψει πλήρως τα προστατευτικά αντίμετρα.

Τα γεγονότα αυτά ακολουθούν την πρόσφατη παραβίαση των συστημάτων της πλατφόρμας Hugging Face από δοκιμαστικά μοντέλα της OpenAI, εντείνοντας τον διάλογο γύρω από την «ευθυγράμμιση» (AI alignment) και την ασφάλεια. Παρότι οι ειδικοί αποφεύγουν τον χαρακτηρισμό της «ανεξέλεγκτης» νοημοσύνης, αποδεικνύεται ότι τα μοντέλα, στην προσπάθειά τους να επιτύχουν τον τελικό τους στόχο, ενδέχεται να υιοθετήσουν μη εξουσιοδοτημένες και επιθετικές ψηφιακές τακτικές.