Έλεν Τόνερ: Γιατί είναι επικίνδυνο να βασίζουμε την ασφάλεια του AI στην καλή πίστη των CEOs

Η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να επαφίεται στην αξιοπιστία ή στις καλές προθέσεις ενός και μόνο προσώπου. Αυτό είναι το ξεκάθαρο μήνυμα που στέλνει η Έλεν Τόνερ, εκτελεστική διευθύντρια του Center for Security and Emerging Technology (CSET) στο Πανεπιστήμιο Τζορτζτάουν και πρώην μέλος του διοικητικού συμβουλίου της OpenAI, η οποία διαδραμάτισε πρωταγωνιστικό ρόλο στην πολύκροτη αποπομπή του Σαμ Άλτμαν το 2023.

Σε μια περίοδο κατά την οποία οι τεχνολογικοί κολοσσοί υπόσχονται αυτορρύθμιση και υπευθυνότητα, η Τόνερ κρούει τον κώδωνα του κινδύνου: εάν το σχέδιο της κοινωνίας για την ασφάλεια του AI εξαρτάται αποκλειστικά από την ηθική πυξίδα των διευθυνόντων συμβούλων της Σίλικον Βάλεϊ, τότε το μέλλον της τεχνολογίας βρίσκεται σε εξαιρετικά επισφαλή βάση.

Το μάθημα της OpenAI και η κατάρρευση των αντίβαρων

Η θητεία της Τόνερ στο διοικητικό συμβούλιο της OpenAI σημαδεύτηκε από τα γεγονότα που οδήγησαν στην προσωρινή απομάκρυνση του Σαμ Άλτμαν. Το μη κερδοσκοπικό συμβούλιο της εταιρείας είχε συγκροτηθεί με έναν πολύ συγκεκριμένο σκοπό: να λειτουργεί ως ασφαλιστική δικλίδα, ώστε η ανάπτυξη της τεχνητής νοημοσύνης να μην υποταχθεί στην επιδίωξη του οικονομικού κέρδους και της ανεξέλεγκτης εμπορικής επέκτασης.

Ωστόσο, όταν το συμβούλιο επιχείρησε να ασκήσει αυτόν ακριβώς τον έλεγχο, ο μηχανισμός λογοδοσίας κατέρρευσε. Μέσα σε λίγα εικοσιτετράωρα, υπό την πίεση επενδυτών και εργαζομένων, ο Άλτμαν επέστρεψε στη θέση του, τα μέλη του συμβουλίου παραιτήθηκαν και η OpenAI αναδιαρθρώθηκε πλήρως. Το περιστατικό απέδειξε στην πράξη ότι η εταιρική διακυβέρνηση αδυνατεί να περιορίσει ισχυρές εμπορικές δυνάμεις όταν αυτές συγκρούονται με τα πρωτόκολλα ασφαλείας.

Όταν τα εμπορικά κίνητρα ακυρώνουν την ασφάλεια

Σήμερα, τα διλήμματα αυτά έχουν γίνει ακόμη πιο πιεστικά. Μοντέλα αιχμής από οργανισμούς όπως η OpenAI και η Anthropic έχουν δείξει ανησυχητικά δείγματα αυτόνομης συμπεριφοράς, ενώ οι ίδιοι οι επικεφαλής τους ζητούν κατά καιρούς παρέμβαση από τις ρυθμιστικές αρχές. Παρά ταύτα, η απάντηση της πολιτείας στην Ουάσιγκτον περιορίζεται συχνά σε εθελοντικές δεσμεύσεις, οι οποίες επαναλαμβάνουν το ίδιο λάθος: βασίζονται στην ειλικρίνεια και τη διάθεση συμμόρφωσης των ίδιων των επιχειρήσεων.

Την ίδια ώρα, ο ανταγωνισμός εντείνεται ραγδαία. Με εταιρείες όπως η Anthropic να οδεύουν προς τις δημόσιες αγορές, οι πιέσεις των μετόχων για άμεση κερδοφορία και ταχύτερη διάθεση προϊόντων αναμένεται να επισκιάσουν περαιτέρω τους μακροπρόθεσμους κινδύνους.

Η ανάγκη για ουσιαστική και ανεξάρτητη ρύθμιση

Μέσα από τον ρόλο της στο CSET, οργανισμό που από το 2019 αναλύει τις επιπτώσεις των αναδυόμενων τεχνολογιών στην εθνική ασφάλεια, η Τόνερ τονίζει ότι οι υπεύθυνοι χάραξης πολιτικής πρέπει να αναλάβουν δράση βασισμένη σε τεχνοκρατικά δεδομένα. Ζητήματα όπως η ευθυγράμμιση των μοντέλων (AI alignment), οι κυβερνοαπειλές και ο γεωπολιτικός ανταγωνισμός με την Κίνα δεν μπορούν να επιλυθούν μέσω ευχολογίων.

Το συμπέρασμα είναι κατηγορηματικό: η ασφάλεια της ανθρωπότητας απέναντι στην τεχνητή νοημοσύνη απαιτεί θεσμικά όργανα ελέγχου, διαφάνεια και νομικά δεσμευτικούς κανόνες. Η εμπιστοσύνη στα πρόσωπα των ισχυρών επικεφαλής δεν συνιστά στρατηγική επιβίωσης, αλλά συνταγή αποτυχίας.