Anthropic: Πρωτοφανής κίνηση διαφάνειας με πρόσβαση επιπέδου υπαλλήλου σε ανεξάρτητους ερευνητές της METR

Σε μια κίνηση-ορόσημο για τη λογοδοσία στον τομέα της τεχνητής νοημοσύνης, η Anthropic ανακοίνωσε ότι παραχωρεί πλήρη πρόσβαση επιπέδου εργαζομένου σε έξι ερευνητές του μη κερδοσκοπικού οργανισμού METR. Στόχος της πρωτοβουλίας είναι η ανεξάρτητη αξιολόγηση των μοντέλων αιχμής, των πρακτικών ασφάλειας και των μηχανισμών διαχείρισης ρίσκου της εταιρείας, σε μια συγκυρία όπου οι ανησυχίες για την ανεξέλεγκτη συμπεριφορά αυτόνομων AI agents εντείνονται ραγδαία διεθνώς.

Εσωτερικός έλεγχος στα πρότυπα του τραπεζικού τομέα

Βάσει της συμφωνίας, η ομάδα της METR λαμβάνει υπολογιστές της εταιρείας, φυσικό χώρο εργασίας στα γραφεία της Anthropic και ουσιαστική πρόσβαση στα ίδια εσωτερικά εργαλεία που χρησιμοποιούν οι ομάδες αποτίμησης κινδύνου της εταιρείας. Παράλληλα, το προσωπικό της Anthropic ενθαρρύνεται να μοιράζεται πληροφορίες με τους ανεξάρτητους ερευνητές χωρίς περιορισμούς, αντιμετωπίζοντάς τους ως συναδέλφους επιφορτισμένους με την ευθυγράμμιση και την ασφάλεια των συστημάτων.

Η Anthropic παρομοίασε τη διαδικασία με το μοντέλο εποπτείας των χρηματοπιστωτικών αγορών, όπου οι ρυθμιστικές αρχές εγκαθιστούν μόνιμους ελεγκτές εντός των μεγάλων τραπεζών. Το πιο κρίσιμο σημείο είναι πως η METR διατηρεί το δικαίωμα να δημοσιεύει αυτόνομα τα συμπεράσματά της για τα ρίσκα και τα περιστατικά αστοχίας, χωρίς η Anthropic να μπορεί να ασκήσει βέτο. Η εταιρεία μπορεί να απαιτήσει απόκρυψη δεδομένων μόνο για συγκεκριμένες, στενά καθορισμένες κατηγορίες, όπως απόρρητα δεδομένα πελατών ή λεπτομέρειες αρχιτεκτονικής των μοντέλων, με τη METR να διατηρεί το δικαίωμα να εκφράσει δημόσια εάν θεωρεί δικαιολογημένες αυτές τις περικοπές.

Το σύστημα τριών επιπέδων και οι δεσμεύσεις της βιομηχανίας

Η METR αποτελεί τον πρώτο εξωτερικό ελεγκτή που τοποθετείται στην κορυφή ενός νέου συστήματος αξιολόγησης τριών επιπέδων που διαμορφώνει η Anthropic. Στο κατώτατο επίπεδο, οργανισμοί όπως η SecureBio διεξάγουν στοχευμένους ελέγχους βιοασφάλειας με απαραίτητη έγκριση πριν από κάθε δημοσίευση, ενώ το μεσαίο επίπεδο λαμβάνει περισσότερες πληροφορίες χωρίς περιορισμούς δημοσίευσης. Η παρουσία της METR στην κορυφή προσφέρει μια άνευ προηγουμένου ματιά «κάτω από το καπό» των προηγμένων μοντέλων.

Η πρωτοβουλία αποτελεί υλοποίηση της υπόσχεσης που διατύπωσε ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ο οποίος είχε προτείνει την ενσωμάτωση εξωτερικών αξιολογητών εντός των ερευνητικών εργαστηρίων. Την ίδια κατεύθυνση έχει δεσμευτεί να ακολουθήσει η OpenAI, ενώ κολοσσοί όπως οι Google, Meta, Nvidia και xAI έχουν συνυπογράψει συμφωνία με τον Λευκό Οίκο για ανεξάρτητες επιθεωρήσεις. Καθώς τα περιστατικά όπου αυτόνομοι πράκτορες τεχνητής νοημοσύνης λειτουργούν εκτός προδιαγραφών καταγράφονται πλέον ανά τακτά διαστήματα, η ανάγκη για πραγματική εποπτεία καθίσταται επιτακτική.