Τεχνητή Νοημοσύνη: Παραιτήθηκε ερευνητής της Anthropic – Προειδοποιεί για ανεξέλεγκτα συστήματα AI

Σοβαρές αναταράξεις στον κλάδο της υψηλής τεχνολογίας προκαλεί η παραίτηση του διακεκριμένου ερευνητή Τεχνητής Νοημοσύνης, Τζέικομπ Κόξον, από την Anthropic. Ο 27χρονος Βρετανός επιστήμονας αποχώρησε κρούοντας τον κώδωνα του κινδύνου για την ανεξέλεγκτη ταχύτητα με την οποία οι τεχνολογικοί κολοσσοί αναπτύσσουν αυτόνομα, αυτοβελτιούμενα συστήματα AI, εκφράζοντας φόβους ότι η ανθρωπότητα οδεύει προς καταστάσεις που δεν θα μπορεί πλέον να διαχειριστεί.

Η κούρσα της υπερνοημοσύνης και οι φόβοι για «ώρα μηδέν»

Ο Τζέικομπ Κόξον, ο οποίος τα τελευταία τρία χρόνια εργάστηκε στην προεκπαίδευση μοντέλων τόσο στην OpenAI όσο και στην Anthropic, εξήγησε δημόσια τους λόγους της απόφασής του. Όπως υποστηρίζει, καμία από τις δύο κορυφαίες εταιρείες δεν ενεργεί πλέον με τη δέουσα υπευθυνότητα, καθώς έχουν εμπλακεί σε έναν ανελέητο αγώνα δρόμου για την επίτευξη της Τεχνητής Γενικής Νοημοσύνης (AGI).

Σύμφωνα με τον ερευνητή, πολλοί συνάδελφοί του στον τομέα χρησιμοποιούν όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν τις ραγδαίες εξελίξεις. Ο ίδιος προειδοποιεί πως τα ακραία σενάρια βρίσκονται προ των πυλών, εκτιμώντας ότι μέχρι τα τέλη του επόμενου έτους οι εξελίξεις μπορεί να έχουν ξεφύγει από τον ανθρώπινο έλεγχο. Παράλληλα, τόνισε ότι ο σκληρός ανταγωνισμός μεταξύ των εταιρειών, αλλά και η ευρύτερη γεωπολιτική αντιπαλότητα με την Κίνα, καθιστούν τους συμβιβασμούς στην ασφάλεια αναπόφευκτους.

Από το «Σχέδιο Μανχάταν» στις οθόνες του Σαν Φρανσίσκο

Ο Κόξον εξέφρασε έντονο προβληματισμό για το γεγονός ότι τεχνολογίες με δυνητικά κολοσσιαίες επιπτώσεις αναπτύσσονται χωρίς επαρκή κρατικό έλεγχο. «Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», ανέφερε χαρακτηριστικά, υπογραμμίζοντας την ανάγκη για άμεση διεθνή ρύθμιση και συντονισμένη επιβράδυνση της ανάπτυξης υπερνοημόνων συστημάτων.

Η παραίτηση αυτή σημειώνεται σε μια κρίσιμη καμπή για την Anthropic, καθώς η εταιρεία προετοιμάζεται για τη δημόσια εγγραφή της στο χρηματιστήριο, στοχεύοντας σε αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων. Παρά το γεγονός ότι ο διευθύνων σύμβουλος, Ντάριο Αμοντέι, έχει επανειλημμένα τονίσει τη δέσμευση της εταιρείας στην ασφάλεια, η αποχώρηση στελεχών και οι προειδοποιήσεις εκατοντάδων επιστημόνων εντείνουν τις πιέσεις προς τις κυβερνήσεις παγκοσμίως για τη θέσπιση ουσιαστικών δικλίδων ασφαλείας στην Τεχνητή Νοημοσύνη.