Anthropic: Το σχέδιο του Ντάριο Αμοντέι για «φρένο» στην ανεξέλεγκτη ανάπτυξη της Τεχνητής Νοημοσύνης

Σε μια κρίσιμη συγκυρία για το μέλλον της Τεχνητής Νοημοσύνης, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, παρουσίασε ένα αναλυτικό σχέδιο τριών σημείων με στόχο τον έλεγχο του ρυθμού εξέλιξης των μοντέλων αιχμής («pace the frontier»). Η παρέμβαση αυτή έρχεται εν μέσω κλιμακούμενων ανησυχιών από ερευνητές για τους υπαρξιακούς κινδύνους της τεχνολογίας, αλλά και δηλώσεων από στελέχη όπως ο Σαμ Άλτμαν της OpenAI για την ανάγκη επιβράδυνσης.

Ο Αμοντέι υπογράμμισε ότι δύο βασικοί παράγοντες καθιστούν αναγκαία μια πιο προσεκτική στάση: το πρόσφατο περιστατικό κυβερνοασφάλειας OpenAI-HuggingFace και η ραγδαία επιτάχυνση των ικανοτήτων της AI, η οποία πλέον αναπτύσσει την επόμενη γενιά μοντέλων αυτόνομα. «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο αναβαθμίζουμε τις δυνατότητες των μοντέλων AI, αξιοποιώντας σοφά τον χρόνο που κερδίζουμε», τόνισε χαρακτηριστικά.

Οι τρεις πυλώνες του σχεδίου και η μονομερής δέσμευση της Anthropic

Το προτεινόμενο σχέδιο της Anthropic εστιάζει στη διαφάνεια, τη συνεργασία μεταξύ δημοκρατικών κρατών και την παγκόσμια διπλωματία:

• Ανεξάρτητοι ενσωματωμένοι αξιολογητές: Η Anthropic δεσμεύεται μονομερώς να επιτρέψει σε εξωτερικούς αξιολογητές από οργανισμούς όπως το METR να εργάζονται εντός των εγκαταστάσεών της, έχοντας πρόσβαση αντίστοιχη με τις εσωτερικές ομάδες ασφαλείας. Ο Αμοντέι παρομοίασε το μέτρο με τους επόπτες που τοποθετούνται στις τράπεζες, καλώντας τις κυβερνήσεις να το καταστήσουν υποχρεωτικό για όλο τον κλάδο.
• Συντονισμός μεταξύ κορυφαίων εταιρειών: Πρόταση για θέσπιση κοινών προτύπων ασφαλείας από επιχειρήσεις δημοκρατικών χωρών. Για να αποφευχθούν νομικά κωλύματα περί αθέμιτου ανταγωνισμού (antitrust), ο Αμοντέι κάλεσε την κυβέρνηση των ΗΠΑ να εκδώσει ειδικές ρυθμιστικές εξαιρέσεις για συνομιλίες ασφαλείας. Παράλληλα, υποστήριξε ότι οι περιορισμοί στις εξαγωγές μικροτσίπ προς την Κίνα μπορούν να διατηρήσουν το αμερικανικό προβάδισμα.
• Παγκόσμιες «κόκκινες γραμμές»: Συνεργασία με αυταρχικά καθεστώτα, συμπεριλαμβανομένης της Κίνας, για τη ρητή απαγόρευση επικίνδυνων εφαρμογών, όπως η χρήση της τεχνητής νοημοσύνης για την παραγωγή βιολογικών όπλων.

Αναταράξεις, παραιτήσεις και η κριτική για «ρυθμιστική παγίδα»

Η συζήτηση γύρω από την ασφάλεια έχει πυροδοτήσει έντονες εσωτερικές αναταράξεις. Πρόσφατα, ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, καταγγέλλοντας ότι οι τεχνολογικοί κολοσσοί «παίζουν τη ζωή μας κορώνα-γράμματα», ενώ πολλοί μηχανικοί εκφράζουν φόβους για καταστροφικά σενάρια εντός της δεκαετίας.

Από την άλλη πλευρά, οι προτάσεις του Αμοντέι δεν έμειναν στο απυρόβλητο. Επικριτές του κλάδου και αναλυτές, όπως ο δημοσιογράφος Μπράιαν Μέρτσαντ, εκφράζουν σκεπτικισμό, υποστηρίζοντας ότι τα αποκαλυπτικά σενάρια αποσπούν την προσοχή από τις άμεσες κοινωνικές βλάβες της AI. Παράλληλα, διατυπώνονται κατηγορίες για «ρυθμιστική παγίδα» (regulatory capture), σύμφωνα με τις οποίες τέτοιοι περιορισμοί ευνοούν πρωτίστως τους ήδη κυρίαρχους παίκτες, όπως η Anthropic και η OpenAI, θέτοντας ανυπέρβλητα εμπόδια σε νεοεισερχόμενους ανταγωνιστές.