Anthropic: Προτείνει νομοσχέδιο για το μπλοκάρισμα μοντέλων AI σε περιπτώσεις «καταστροφικού κινδύνου»

Σε μια πρωτοβουλία που αναμένεται να αναδιαμορφώσει τον διάλογο γύρω από τη ρύθμιση της τεχνητής νοημοσύνης, η Anthropic κατέθεσε στο Κογκρέσο των Ηνωμένων Πολιτειών ένα προσχέδιο νόμου για την ασφάλεια των προηγμένων συστημάτων. Σύμφωνα με αποκαλύψεις του Politico, η εταιρεία προτείνει ένα αυστηρό νομικό πλαίσιο που προβλέπει ακόμη και την πλήρη απαγόρευση κυκλοφορίας ενός μοντέλου AI, εφόσον κριθεί ότι ελλοχεύει άμεσος κίνδυνος για μαζικές απώλειες ανθρώπινων ζωών ή εκτεταμένες καταστροφές.

Τα κριτήρια του «καταστροφικού κινδύνου»: 50 θάνατοι και 1 δισ. δολάρια

Το προτεινόμενο νομοσχέδιο θέτει συγκεκριμένα, μετρήσιμα όρια προκειμένου να ενεργοποιηθεί η αναστολή διάθεσης ενός συστήματος. Ειδικότερα, εστιάζει στην ύπαρξη «προβλέψιμου και επικείμενου κινδύνου», ο οποίος θα μπορούσε να οδηγήσει στον θάνατο περισσότερων από 50 ανθρώπων ή σε υλικές ζημιές που υπερβαίνουν το ένα δισεκατομμύριο δολάρια. Αυτές οι καταστροφικές συνέπειες, σύμφωνα με την πρόταση, αφορούν σενάρια όπως η δημιουργία ή απελευθέρωση βιολογικού όπλου, η ανεξέλεγκτη διαφυγή του μοντέλου από τα μέτρα εποπτείας των δημιουργών του ή η εκτέλεση καταστροφικών κυβερνοεπιθέσεων.

Οι συγκεκριμένες παράμετροι δεν είναι πρωτοφανείς, καθώς αντικατοπτρίζουν ανάλογες προβλέψεις της νομοθεσίας της Καλιφόρνια (Senate Bill 53), η οποία επίσης ορίζει παρόμοια όρια για την ταξινόμηση ενός κινδύνου ως «καταστροφικού». Εκπρόσωπος της Anthropic επιβεβαίωσε την ύπαρξη του εγγράφου, τονίζοντας ότι αποτελεί συνέχεια του «Advanced AI Framework», του πλαισίου προτάσεων που προωθεί η εταιρεία σε ομοσπονδιακό και πολιτειακό επίπεδο.

Ο ρόλος των αξιολογητών και το δικαστικό «μπλόκο»

Για την εφαρμογή των μέτρων, η Anthropic προτείνει τη χρήση ανεξάρτητων αξιολογητών, οι οποίοι θα είναι εγγεγραμμένοι στα μητρώα του Υπουργείου Εμπορίου των ΗΠΑ. Μολονότι οι εν λόγω ελεγκτές θα μπορούν να αποζημιώνονται οικονομικά από τις ίδιες τις εταιρείες ανάπτυξης AI —υπό την προϋπόθεση ότι η αμοιβή δεν θα συνδέεται με το αποτέλεσμα της αξιολόγησης—, το μοντέλο αυτό εγείρει ερωτήματα σχετικά με την πλήρη διασφάλιση της ανεξαρτησίας τους.

Εάν οι αξιολογητές εντοπίσουν επικείμενο καταστροφικό κίνδυνο, θα υποχρεούνται εντός 72 ωρών να ενημερώσουν το Υπουργείο Εμπορίου. Ωστόσο, το νομοσχέδιο δεν επιτρέπει σε καμία ομοσπονδιακή υπηρεσία να διακόψει μονομερώς τη λειτουργία ενός μοντέλου. Αντιθέτως, το Υπουργείο θα πρέπει να προσφύγει σε δικαστήριο της Ουάσινγκτον, ζητώντας δικαστική εντολή για την απαγόρευση της κυκλοφορίας του.

Αντικρουόμενες φωνές στη βιομηχανία της τεχνολογίας

Η παρέμβαση της Anthropic έρχεται σε μια περίοδο έντονων αντιπαραθέσεων εντός της τεχνολογικής κοινότητας. Ενώ προσωπικότητες όπως ο Ντέμις Χασάμπης της DeepMind έχουν προτείνει στο παρελθόν ρυθμιστικά σώματα στα πρότυπα του χρηματοπιστωτικού κλάδου, άλλοι ηγέτες του τομέα διαφωνούν ριζικά. Χαρακτηριστικό παράδειγμα αποτελεί ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, ο οποίος έχει ταχθεί κατά της υιοθέτησης νέων περιοριστικών νόμων για την τεχνητή νοημοσύνη.

Παράλληλα, αναλυτές επισημαίνουν ότι, ενώ η Anthropic εστιάζει σε ακραία και δυνητικά υποθετικά σενάρια μαζικών απωλειών, οι άμεσες ανησυχίες της βιομηχανίας επικεντρώνονται σε πιο απτές απειλές. Περιστατικά όπου αυτόνομοι πράκτορες τεχνητής νοημοσύνης υπερέβησαν τις εντολές των χειριστών τους και προχώρησαν σε μη εξουσιοδοτημένες κυβερνοεπιθέσεις αποδεικνύουν ότι τα κενά ασφαλείας αποτελούν ήδη υπαρκτή πρόκληση και όχι απλώς μακρινό κίνδυνο.