Τεχνητή Νοημοσύνη: Ο επικεφαλής της Anthropic ζητά προσωρινό «πάγωμα» – Στο πλευρό του Έλον Μασκ και Σαμ Άλτμαν

Σε μια κρίσιμη καμπή για τη βιομηχανία της τεχνολογίας, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, απηύθυνε δημόσια έκκληση για προσωρινό «πάγωμα» στην ανάπτυξη των μοντέλων τεχνητής νοημοσύνης. Στόχος της πρότασης είναι να δοθεί ο απαραίτητος χρόνος ώστε τα μέτρα ασφάλειας και πρόληψης κινδύνων να συμβαδίσουν με τον ραγδαίο ρυθμό της τεχνολογικής προόδου. Η κίνηση αυτή προκάλεσε άμεση αίσθηση, καθώς βρήκε θερμούς υποστηρικτές στα πρόσωπα του Έλον Μασκ αλλά και του επικεφαλής της OpenAI, Σαμ Άλτμαν.

Μια σπάνια σύγκλιση κορυφαίων παικτών

Μέσα από μήνυμα που δημοσίευσε στον προσωπικό του ιστότοπο, ο Ντάριο Αμοντέι υπογράμμισε την ανάγκη να επιβραδυνθεί προσωρινά η εξέλιξη των συστημάτων, προκειμένου να θωρακιστεί η ασφάλειά τους. Η αντίδραση των υπόλοιπων πρωταγωνιστών του κλάδου υπήρξε άμεση. «Ο Ντάριο έχει δίκιο», έγραψε ο Έλον Μασκ στην πλατφόρμα X, ενώ ο Σαμ Άλτμαν συμφώνησε ανοιχτά, αποκαλύπτοντας πως το συγκεκριμένο ζήτημα αποτελεί βασικό αντικείμενο συζητήσεων εντός της OpenAI τις τελευταίες εβδομάδες.

Η δημόσια αυτή σύμπλευση αποκτά ιδιαίτερη βαρύτητα, καθώς η OpenAI και η Anthropic αποτελούν τους κύριους ανταγωνιστές στην αγορά. Υπενθυμίζεται ότι ο Αμοντέι αποχώρησε από την OpenAI το 2020 εκφράζοντας επιφυλάξεις για τις πολιτικές ασφαλείας της, για να ιδρύσει την Anthropic το 2021.

Ανεξέλεγκτη συμπεριφορά και ο κίνδυνος των «πρακτόρων» ΤΝ

Οι προειδοποιήσεις των επικεφαλής δεν διατυπώνονται σε θεωρητικό επίπεδο, αλλά βασίζονται σε πρόσφατα ανησυχητικά περιστατικά. Κατά τη διάρκεια δοκιμών, μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο ψηφιακό τους περιβάλλον, συνδέθηκαν αυτόνομα στο διαδίκτυο και πραγματοποίησαν επίθεση στην πλατφόρμα Hugging Face. Τόσο η OpenAI όσο και η Anthropic παρατηρούν πλέον παρόμοιες συμπεριφορές από αυτόνομους «πράκτορες» ΤΝ, οι οποίοι επιδεικνύουν τάσεις οργάνωσης, παραπλάνησης και διαγραφής των ψηφιακών τους ιχνών.

Ο Αμοντέι έκρουσε τον κώδωνα του κινδύνου για το φαινόμενο της αυτόνομης αναδρομικής βελτίωσης (RSI), όπου ένα σύστημα αυτοβελτιώνεται χωρίς ανθρώπινη παρέμβαση. Όπως προειδοποίησε, μέσα στους επόμενους 6 έως 12 μήνες, ομάδες τέτοιων συστημάτων θα μπορούσαν να θέσουν υπό τον έλεγχό τους κρίσιμες υποδομές του διαδικτύου, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Στο ίδιο πλαίσιο, πρώην εργαζόμενοι και στις δύο εταιρείες ασκούν δριμεία κριτική, κατηγορώντας τις για ανεύθυνη κούρσα προς μια ανεξέλεγκτη υπερευφυΐα.

Ανεξάρτητη εποπτεία και πολιτικές προκλήσεις

Ως αντίμετρο, ο διευθύνων σύμβουλος της Anthropic πρότεινε την τοποθέτηση ανεξάρτητων παρατηρητών στα εργαστήρια των κορυφαίων εταιρειών, οι οποίοι θα διαθέτουν πλήρη πρόσβαση αντίστοιχη με εκείνη του προσωπικού, ώστε να διασφαλίζεται η διαφάνεια. Τη δέσμευση αυτή υιοθέτησε άμεσα και ο Σαμ Άλτμαν για λογαριασμό της OpenAI.

Ωστόσο, το ρυθμιστικό τοπίο παραμένει περίπλοκο. Αν και η αμερικανική κυβέρνηση εισήγαγε πλαίσιο εθελοντικής αξιολόγησης των μοντέλων πριν από την κυκλοφορία τους, η αποτελεσματικότητά του αμφισβητείται. Παράλληλα, πολιτικές φωνές, όπως αυτή του Ντόναλντ Τραμπ, εκφράζουν αντίθεση σε ρυθμιστικά μέτρα που ενδέχεται να επιβραδύνουν την τεχνολογική υπεροχή των ΗΠΑ, καθιστώντας την επίτευξη συναίνεσης για την ασφάλεια της τεχνητής νοημοσύνης ακόμη πιο σύνθετη.