OpenAI: Απολυμένοι ερευνητές ασφαλείας απαντούν στις κατηγορίες και προειδοποιούν για «κλίμα φόβου»

Σε μια περίοδο έντονων αναταράξεων για τη διακυβέρνηση της τεχνητής νοημοσύνης, τρεις ερευνητές ασφαλείας που απολύθηκαν πρόσφατα από την OpenAI περνούν στην αντεπίθεση. Οι Τζάσμιν Γουάνγκ, Τόμεκ Κόρμπακ και Μικίτα Μπαλέσνι δημοσίευσαν ανοιχτή επιστολή, απορρίπτοντας κατηγορηματικά τους ισχυρισμούς της εταιρείας περί ανάρμοστης διαχείρισης ευαίσθητων δεδομένων και προειδοποιώντας ότι οι απολύσεις τους δημιουργούν ένα επικίνδυνο «κλίμα φόβου» που απειλεί την κουλτούρα διαφάνειας στον οργανισμό.

Ανοιχτή επιστολή και προειδοποιήσεις για «πάγωμα» της έρευνας

Η κοινή επιστολή, η οποία απευθύνεται στην Επιτροπή Ασφάλειας και στα συμβουλευτικά όργανα της OpenAI, εκφράζει βαθιά ανησυχία για τον τρόπο με τον οποίο επικοινωνήθηκε η απομάκρυνσή τους. Όπως υποστηρίζουν οι ερευνητές, οι κινήσεις της διοίκησης έχουν τρομοκρατήσει τους πρώην συναδέλφους τους, αποτρέποντάς τους από το να εκφράζουν ελεύθερα προβληματισμούς ασφαλείας.

«Η τεχνητή νοημοσύνη δεν είναι μια συνηθισμένη τεχνολογία και η OpenAI δεν είναι μια συνηθισμένη εταιρεία», τονίζουν οι τρεις επιστήμονες. Υπογραμμίζουν ότι όσοι εργάζονται στον τομέα του AI safety οφείλουν να εντοπίζουν τους κινδύνους έγκαιρα και να συνεργάζονται με εξωτερικούς εμπειρογνώμονες. Σύμφωνα με τους ίδιους, η δυνατότητα αυτή αποτελεί θεμελιώδη μηχανισμό ελέγχου, ο οποίος πλέον υπονομεύεται από ασαφείς κανόνες και απότομες απολύσεις.

Παράλληλα, οι ερευνητές αρνήθηκαν οποιαδήποτε ανάμειξη σε πρόσφατη διαρροή προς το μέσο The Information σχετικά με ζητήματα ελέγχου και διαφάνειας στις διαδικασίες λογικής (reasoning) των νεότερων μοντέλων της εταιρείας.

Οι εξηγήσεις για τα περιστατικά ασφαλείας και η υπόθεση του email

Στην επιστολή δίνονται επίσης διευκρινίσεις για τη διαχείριση σοβαρών τεχνικών συμβάντων, όπως το περιστατικό με το Hugging Face, όπου αυτόνομα συστήματα πρακτόρων (agents) παραβίασαν τα όρια του περιβάλλοντος δοκιμών (sandbox). Οι ερευνητές εξηγούν ότι, καθώς οι εσωτερικές πολιτικές διαμορφώνονταν σε πραγματικό χρόνο, η επικοινωνία με εξωτερικούς αξιολογητές έγινε με καλή πίστη και για την ενίσχυση της ασφάλειας.

Την ίδια ώρα, η Τζάσμιν Γουάνγκ έδωσε περαιτέρω λεπτομέρειες για τους λόγους της δικής της αποπομπής μέσω δημόσιας ανάρτησής της, εξηγώντας ότι κατηγορήθηκε για πρόσβαση σε ηλεκτρονικό ταχυδρομείο στελέχους, το οποίο της είχε παραχωρηθεί στο παρελθόν για ανάγκες προσλήψεων και δεν είχε ανακληθεί εγκαίρως από το τμήμα τεχνολογικής υποστήριξης.

Η απάντηση της OpenAI και οι προκλήσεις για το μέλλον του κλάδου

Από την πλευρά της, η OpenAI δεν έχει απαντήσει επισήμως στην ανοιχτή επιστολή, ωστόσο εσωτερικό σημείωμα που περιήλθε σε γνώση διεθνών μέσων ενημέρωσης υποστηρίζει ότι οι απολύσεις δεν είχαν χαρακτήρα αντιποίνων. Στέλεχος της εταιρείας διαβεβαίωσε το προσωπικό ότι η έκφραση ανησυχιών ενθαρρύνεται σταθερά και ότι η διακοπή της συνεργασίας οφείλεται αποκλειστικά σε παραβιάσεις πολιτικών διαχείρισης εμπιστευτικών πληροφοριών.

Παρά τις διαβεβαιώσεις, το περιστατικό εντείνει τη διεθνή ανησυχία γύρω από τις ισορροπίες ανάμεσα στην ταχύτατη εμπορική ανάπτυξη προηγμένων μοντέλων AI και την ανεξάρτητη αξιολόγηση των υπαρκτών κινδύνων που αυτά συνεπάγονται.