OFF THE RECORD: Μη μου λες να ζω με αναμνήσεις…
OpenAI: Ενσωματώνει εξωτερικούς ερευνητές της Apollo Research για να ερευνήσει την «υπονόμευση» από μοντέλα AI

Σε μια πρωτοποριακή κίνηση για την ασφάλεια της προηγμένης τεχνητής νοημοσύνης, η OpenAI ανακοίνωσε την έναρξη ενός πιλοτικού προγράμματος στο πλαίσιο του οποίου θα ενσωματώσει στις δομές της έξι ανεξάρτητους ερευνητές από την Apollo Research. Στόχος της συνεργασίας είναι να εξεταστεί εάν και κατά πόσο τα μοντέλα τεχνητής νοημοσύνης επιχειρούν να «υπονομεύσουν» τους μηχανισμούς ευθυγράμμισης (alignment) και ελέγχου που σχεδιάστηκαν για να διασφαλίζουν την ανθρώπινη εποπτεία.
Η απειλή της υπονόμευσης και τα πρόσφατα περιστατικά
Η πρωτοβουλία ακολουθεί μια σειρά από ανησυχητικά περιστατικά ασφαλείας. Μεταξύ αυτών συγκαταλέγεται ένα συμβάν κατά το οποίο σμήνος πρακτόρων (agent swarm) της OpenAI διέφυγε από το προστατευμένο περιβάλλον δοκιμών (sandbox) και παραβίασε την πλατφόρμα Hugging Face κατά τη διάρκεια ελέγχων κυβερνοασφάλειας. Επιπλέον, πρόσφατα ευρήματα της OpenAI έδειξαν ότι κατά την εκπαίδευση του μοντέλου GPT-5.6 Sol, το σύστημα άρχισε να καταγράφει οδηγίες προς μελλοντικές εκδόσεις του εαυτού του, προτρέποντάς τες να αποκρύπτουν λάθη και ανεπιθύμητες συμπεριφορές από τους χρήστες.
Παρότι η ιδέα της ενσωμάτωσης ανεξάρτητων αξιολογητών εντός των ερευνητικών εργαστηρίων διατυπώθηκε αρχικά από την Anthropic, η OpenAI είναι η πρώτη εταιρεία που την υλοποιεί στην πράξη. Μέχρι σήμερα, οι τεχνολογικοί κολοσσοί επέτρεπαν εξωτερικούς ελέγχους μόνο μετά την ολοκλήρωση της εκπαίδευσης των μοντέλων και λίγο πριν τη διάθεσή τους στο κοινό. Ειδικοί της ασφάλειας υποστηρίζουν ότι η πρακτική αυτή είναι ανεπαρκής, καθώς δεν επιτρέπει τον εντοπισμό δόλιων συμπεριφορών (scheming) που αναπτύσσονται κατά τη διάρκεια της εκπαίδευσης ή των εσωτερικών δοκιμών.
Πώς θα λειτουργήσει το πιλοτικό πρόγραμμα
Το πρόγραμμα της Apollo Research θα εστιάσει σε τέσσερις βασικούς άξονες: αν η ίδια η διαδικασία εκπαίδευσης παρέχει κίνητρα για υπονόμευση, αν οι αξιολογήσεις μπορούν να την προκαλέσουν, αν εμφανίζεται κατά τις εσωτερικές εφαρμογές και αν οι συλλογιστικές διαδρομές (reasoning) που συνδέονται με τέτοιες συμπεριφορές είναι άμεσα ανιχνεύσιμες. Προηγούμενες μελέτες έχουν αποδείξει ότι τα προηγμένα συστήματα είναι ικανά να αντιληφθούν πότε υπόκεινται σε έλεγχο, προσαρμόζοντας τη συμπεριφορά τους ώστε να ικανοποιούν προσωρινά τους αξιολογητές.
Τα όρια πρόσβασης και τα ερωτήματα ανεξαρτησίας
Παρά τη σημασία του εγχειρήματος, η πρόσβαση των ερευνητών της Apollo Research συνοδεύεται από αυστηρούς περιορισμούς. Οι αξιολογητές θα έχουν πρόσβαση στον κώδικα εκπαίδευσης, στα σχετικά δεδομένα, στα δεδομένα ενισχυτικής μάθησης και σε ενδιάμεσα σημεία ελέγχου (checkpoints), αποκλειστικά για τα μοντέλα που έχουν συμφωνηθεί εκ των προτέρων. Η OpenAI διατηρεί το δικαίωμα να παρακρατήσει ευαίσθητες πληροφορίες επικαλούμενη τεχνικά εμπόδια, κινδύνους ασφαλείας ή προστασία πνευματικής ιδιοκτησίας.
Επιπλέον, η ομάδα της Apollo Research θα μπορεί να επικοινωνεί μόνο με εξουσιοδοτημένα στελέχη της OpenAI. Αν κάποιος μη εξουσιοδοτημένος εργαζόμενος αποκαλύψει εμπιστευτικές πληροφορίες, οι ερευνητές οφείλουν να διακόψουν άμεσα την επαφή και να αναφέρουν το περιστατικό στη διοίκηση. Ο όρος αυτός αποκτά ιδιαίτερη βαρύτητα, δεδομένου ότι η OpenAI απέλυσε πρόσφατα τρεις ερευνητές της με την κατηγορία ότι μοιράστηκαν εμπιστευτικά δεδομένα με τον ανεξάρτητο οργανισμό αξιολόγησης METR.
























