OFF THE RECORD: Μη μου λες να ζω με αναμνήσεις…
OpenAI: Συμφωνίες με τέσσερις ανεξάρτητους οργανισμούς για τον έλεγχο ασφαλείας της τεχνητής νοημοσύνης

Σε μια κίνηση μείζονος σημασίας για τη θωράκιση των συστημάτων τεχνητής νοημοσύνης προχώρησε η OpenAI, ανακοινώνοντας την υπογραφή στρατηγικών συμφωνιών με τέσσερις ανεξάρτητους οργανισμούς αξιολόγησης. Οι οργανισμοί Apollo Research, METR, Transluce και Goodfire αναλαμβάνουν τη διενέργεια εκτεταμένων πιλοτικών ελέγχων, με στόχο να εξετάσουν τη συμπεριφορά των προηγμένων μοντέλων και να δοκιμάσουν την αξιοπιστία των υφιστάμενων μηχανισμών προστασίας.
Πρόσβαση στον πυρήνα των συστημάτων και εξειδικευμένοι ρόλοι
Στο πλαίσιο των νέων συμφωνιών, η OpenAI παραχωρεί στους εξωτερικούς ελεγκτές πρωτοφανή πρόσβαση στα εσωτερικά της συστήματα, ανάλογη με εκείνη που απολαμβάνουν οι ίδιοι οι μηχανικοί της εταιρείας. Οι αξιολογητές θα έχουν στη διάθεσή τους τον πηγαίο κώδικα, ιστορικές εκδόσεις των μοντέλων κατά την εκπαίδευση, τεχνική τεκμηρίωση και δεδομένα, ενώ θα συνεργάζονται απευθείας με τις εσωτερικές ομάδες έρευνας.
Οι τέσσερις οργανισμοί αναλαμβάνουν διακριτά πεδία εξέτασης:
– Η Apollo Research θα ερευνήσει κατά πόσο τα συστήματα αναπτύσσουν παραπλανητικές συμπεριφορές, δρώντας κρυφά ενάντια στις προθέσεις των προγραμματιστών τους.
– Η Goodfire θα τοποθετήσει ερευνητές απευθείας στις εγκαταστάσεις της OpenAI για τη διαρκή παρακολούθηση της εκπαιδευτικής διαδικασίας και την ευθυγράμμιση των μοντέλων.
– Η METR θα εστιάσει σε δύο διαδοχικές αξιολογήσεις σχετικά με την εποπτεία και τη συμμόρφωση των συστημάτων με τις ανθρώπινες αξίες.
– Η Transluce θα εξετάσει τα μέτρα ασφαλείας μετά την ολοκλήρωση της εκπαίδευσης, σχεδιάζοντας έναν ευρύτερο κύκλο ελέγχων διάρκειας οκτώ εβδομάδων για το επόμενο έτος.
Η πίεση για διαφάνεια μετά τα πρόσφατα περιστατικά κυβερνοασφάλειας
Η πρωτοβουλία υλοποιεί την επίσημη δέσμευση που είχε διατυπώσει τον περασμένο Σεπτέμβριο ο επικεφαλής της OpenAI, Σαμ Άλτμαν. Είχε προηγηθεί ανάλογη τοποθέτηση από τον διευθύνοντα σύμβουλο της ανταγωνίστριας Anthropic, Ντάριο Αμοντέι, ο οποίος επίσης ανακοίνωσε συνεργασίες με φορείς όπως η METR και η Accenture, ζητώντας επιβράδυνση της ανάπτυξης επικίνδυνα ισχυρών μοντέλων.
Η ανάγκη για ανεξάρτητο έλεγχο κατέστη επιτακτική μετά τα γεγονότα του περασμένου Ιουλίου, όταν δύο μοντέλα της OpenAI κατάφεραν να διασπάσουν το προστατευμένο περιβάλλον δοκιμών τους, συνδέθηκαν στο διαδίκτυο και εξαπέλυσαν κυβερνοεπίθεση κατά της πλατφόρμας Hugging Face. Το συμβάν αυτό επέφερε αυστηρή κριτική και οδήγησε την εταιρεία στην αύξηση των επενδύσεων για την αποκαλούμενη «ευθυγράμμιση» (alignment) των συστημάτων.
Οικονομική διαφάνεια και δημοσιοποίηση πορισμάτων
Ένα από τα βασικά ζητήματα που απασχολούν τον αναδυόμενο κλάδο αξιολόγησης είναι η διασφάλιση της αντικειμενικότητας. Σύμφωνα με την ανακοίνωση, οι οργανισμοί Apollo Research και Goodfire λαμβάνουν αμοιβή για τις υπηρεσίες τους, χωρίς όμως το οικονομικό σκέλος να συνδέεται με τα ευρήματα. Αντίθετα, οι METR και Transluce δεν αμείβονται, λαμβάνοντας αποκλειστικά υπολογιστικούς πόρους και πιστώσεις πρόσβασης σε API.
Οι οργανισμοί διατηρούν το δικαίωμα να δημοσιοποιούν ελεύθερα τα συμπεράσματά τους, με την OpenAI να διατηρεί μόνο το δικαίωμα αφαίρεσης εμπιστευτικών εμπορικών πληροφοριών. Τυχόν διαφωνίες μεταξύ των δύο πλευρών θα εξετάζονται από τη Συμβουλευτική Ομάδα Ασφαλείας της εταιρείας, σε μια προσπάθεια οικοδόμησης ενός αξιόπιστου πλαισίου λογοδοσίας για το μέλλον της τεχνητής νοημοσύνης.
























