Συναγερμός από 400 κορυφαίους επιστήμονες για την Τεχνητή Νοημοσύνη: Ζητούν διεθνή εποπτεία και αυστηρούς ελέγχους

Σε μια κίνηση μείζονος σημασίας για το μέλλον της τεχνολογίας, περίπου 400 διακεκριμένοι επιστήμονες από 34 χώρες συνυπογράφουν κοινή έκκληση, ζητώντας τη σύσταση ενός διεθνούς φορέα εποπτείας για τα πλέον προηγμένα συστήματα τεχνητής νοημοσύνης. Ανάμεσα στους υπογράφοντες δεσπόζουν τα ονόματα των Τζέφρι Χίντον και Γιόσουα Μπέντζιο, πρωτοπόρων ερευνητών και κατόχων του βραβείου Turing, οι οποίοι θεωρούνται θεμελιωτές της σύγχρονης μηχανικής μάθησης.

Η πρωτοβουλία εκδηλώνεται σε μια περίοδο κατά την οποία τα μοντέλα AI εξελίσσονται ραγδαία από απλά εργαλεία παραγωγής κειμένου σε αυτόνομους πράκτορες (AI agents), ικανούς να εκτελούν πολύπλοκες διεργασίες σε υπολογιστικά δίκτυα, γεγονός που εγείρει σοβαρά ζητήματα κυβερνοασφάλειας.

Η ανάγκη για δεσμευτικούς κανόνες και η πρακτική του «air-gapping»

Το βασικό αίτημα της διεθνούς επιστημονικής κοινότητας εστιάζει στη διαμόρφωση ενιαίων προτύπων ασφαλείας για τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης, ιδιαίτερα για εκείνα που διαθέτουν προηγμένες δυνατότητες εκτέλεσης κυβερνοεπιχειρήσεων. Ένας ανεξάρτητος διεθνής οργανισμός, σύμφωνα με την πρόταση, θα πρέπει να διαθέτει την αρμοδιότητα διεξαγωγής εξωτερικών αξιολογήσεων, θέσπισης δεσμευτικών μέτρων προστασίας και καταγραφής κρίσιμων περιστατικών ασφαλείας.

Κομβικό σημείο της παρέμβασης αποτελεί η απαίτηση για απομόνωση των ισχυρότερων υπό ανάπτυξη συστημάτων από εξωτερικά δίκτυα, πρακτική γνωστή ως «air-gapping». Μέσω αυτής της μεθόδου, ένα μοντέλο που ελέγχεται για την ικανότητά του να εντοπίζει ή να εκμεταλλεύεται ευπάθειες λογισμικού δοκιμάζεται αποκλειστικά σε κλειστό, ελεγχόμενο περιβάλλον, αποτρέποντας την ανεπιθύμητη αλληλεπίδραση με ευαίσθητες κρατικές ή εταιρικές υποδομές.

Το κενό των εθελοντικών δεσμεύσεων και οι αντίθετες φωνές

Αν και τεχνολογικοί κολοσσοί όπως η OpenAI, η Google, η Meta, η Anthropic, η xAI και η Nvidia έχουν ήδη υπογράψει συμφωνίες για εθελοντικά μέτρα ασφαλείας υπό την αιγίδα του Λευκού Οίκου, οι επιστήμονες υπογραμμίζουν ότι τέτοιου είδους πρωτοβουλίες στερούνται μηχανισμών ουσιαστικής επιβολής. Χωρίς ανεξάρτητους ελέγχους και διακρατική συνεργασία, η διασφάλιση της ανθεκτικότητας των συστημάτων επαφίεται αποκλειστικά στην καλή θέληση των εταιρειών.

Παρ’ όλα αυτά, η πρόταση δεν βρίσκει απόλυτα ομόφωνη την τεχνολογική κοινότητα. Ο Γιαν ΛεΚάν, επικεφαλής επιστήμονας τεχνητής νοημοσύνης της Meta και επίσης βραβευμένος με Turing, επέλεξε να μην υπογράψει το κείμενο, υποστηρίζοντας ότι οι σημερινές αδυναμίες αφορούν συνήθεις μηχανικές παραλείψεις λογισμικού και όχι κάποιον ανεξέλεγκτο υπαρξιακό κίνδυνο. Την ίδια στιγμή, από την πλευρά της Ευρωπαϊκής Επιτροπής, η Χένα Βίρκουνεν επισήμανε ότι το ήδη ψηφισμένο ευρωπαϊκό πλαίσιο (EU AI Act) παρέχει τα αναγκαία εργαλεία για τη διαχείριση τέτοιων απειλών.

Από τη θεωρία στη διακυβέρνηση της τεχνολογίας

Η παρέμβαση των 400 επιστημόνων υπογραμμίζει ότι η δημόσια συζήτηση γύρω από την τεχνητή νοημοσύνη εγκαταλείπει σταδιακά τον ενθουσιασμό των τεχνολογικών επιδείξεων και εισέρχεται σε ένα στάδιο ρεαλιστικής εκτίμησης κινδύνου. Καθώς τα νέα συστήματα αποκτούν τη δυνατότητα να συγγράφουν και να εκτελούν κώδικα αυτόνομα, το επίκεντρο μετατοπίζεται πλέον στον θεσμικό έλεγχο των ψηφιακών υποδομών και στην αποτροπή απρόβλεπτων συνεπειών που δεν θα μπορούν να αναστραφούν με μια απλή διακοπή λειτουργίας.