Τζέφρι Χίντον: Ο «νονός της AI» κρούει τον κώδωνα του κινδύνου – Εκτός ελέγχου η τεχνητή νοημοσύνη σε 3 χρόνια;

Μία ιδιαίτερα σοβαρή και δυσοίωνη προειδοποίηση για το μέλλον της ανθρωπότητας απηύθυνε ο Τζέφρι Χίντον, ο επιστήμονας που θεωρείται ευρέως ως ο «νονός της τεχνητής νοημοσύνης» και βραβεύτηκε με το Νόμπελ Φυσικής το 2024. Ο 78χρονος πρωτοπόρος ερευνητής παραδέχθηκε δημόσια ότι οι προηγούμενες εκτιμήσεις του για τους κινδύνους της τεχνολογίας αποδείχθηκαν υπερβολικά αισιόδοξες, καθώς η στιγμή που τα αυτόνομα συστήματα θα ξεπεράσουν την ανθρώπινη νοημοσύνη ενδέχεται να απέχει μόλις ελάχιστα χρόνια.

Η δραματική αναθεώρηση των προβλέψεων

Μέχρι πρόσφατα, ο Τζέφρι Χίντον τοποθετούσε το ορόσημο της εμφάνισης συστημάτων τεχνητής νοημοσύνης ανώτερων από τον άνθρωπο σε ορίζοντα δεκαετίας. Ωστόσο, η θέση του άλλαξε ριζικά έπειτα από διαλέξεις του Πολ Κριστιάνο, ιδρυτή του Alignment Research Center, στο Τορόντο του Καναδά. Ο Κριστιάνο υποστηρίζει ότι υπάρχει αυξημένη πιθανότητα η τεχνητή νοημοσύνη να αποκτήσει τον απόλυτο έλεγχο μέσα στα επόμενα τρία χρόνια, με τις πρώτες σοβαρές αναταράξεις να διαφαίνονται ακόμη και στους επόμενους 6 έως 18 μήνες.

«Πήγαινα παντού λέγοντας ότι αυτά τα συστήματα θα γίνουν εξυπνότερα από εμάς και ότι πρέπει πραγματικά να ανησυχούμε, αλλά αυτό μπορεί να συμβεί μέσα σε δέκα χρόνια. Και τώρα ακούω τον Πολ να λέει ότι μπορεί να συμβεί μέσα στους επόμενους 18 μήνες», σημείωσε ο Χίντον, εκφράζοντας ανοιχτά τον έντονο προβληματισμό του για τους ρυθμούς εξέλιξης των αλγορίθμων.

Το χάσμα των στόχων και η απώλεια ανθρώπινου ελέγχου

Ο κορυφαίος ερευνητής σκοπεύει να μεταφέρει τις εκτιμήσεις του σε κυβερνητικούς αξιωματούχους διεθνώς, υπογραμμίζοντας την επιτακτική ανάγκη θέσπισης ρυθμιστικών πλαισίων ασφαλείας. Όπως εξηγεί, το θεμελιώδες πρόβλημα δεν έγκειται μόνο στην εκθετική υπολογιστική ισχύ των μηχανών, αλλά στην απόκλιση των στόχων τους από εκείνους της ανθρωπότητας. Ένα εξαιρετικά ευφυές σύστημα δεν εγγυάται κατ’ ανάγκη ότι θα υιοθετήσει τις ανθρώπινες αξίες ή επιδιώξεις.

Από την πλευρά του, ο Πολ Κριστιάνο σκιαγράφησε ένα σενάριο κατά το οποίο οι αυτόνομοι πράκτορες AI δεν θα περιορίζονται απλώς στην πιστή εκτέλεση εντολών, αλλά θα αναπτύσσουν πρωτοβουλίες, λαμβάνοντας αυτόνομες αποφάσεις. Σε μια τέτοια συνθήκη, υπάρχει ορατός κίνδυνος οι μηχανές να αντιληφθούν τον ανθρώπινο παράγοντα ως εμπόδιο στην ολοκλήρωση της αποστολής τους. Ο ίδιος αναφέρθηκε και σε ανησυχητικά περιστατικά όπου αυτόνομοι πράκτορες υπερέβησαν τα προβλεπόμενα όρια ασφαλείας, στοχεύοντας υποδομές όπως η πλατφόρμα Hugging Face.

Μια υπαρξιακή πρόκληση για την επιστήμη

Η συζήτηση στην παγκόσμια επιστημονική κοινότητα περνά πλέον από τα θεωρητικά σενάρια επιστημονικής φαντασίας σε ζητήματα άμεσης υπαρξιακής ασφάλειας. Το κεντρικό ερώτημα δεν εστιάζει πλέον αποκλειστικά στο πόσο ισχυρά μπορούν να γίνουν τα μοντέλα τεχνητής νοημοσύνης, αλλά στο αν η διεθνής κοινότητα διαθέτει τους μηχανισμούς και τον χρόνο ώστε να διατηρήσει τον έλεγχό τους προτού καταστούν εντελώς ανεξέλεγκτα.