OFF THE RECORD: Μη μου λες να ζω με αναμνήσεις…
Σαμ Άλτμαν: «Τρομερή ιδέα» η παράδοση του ελέγχου στην AI – Οι άνθρωποι πρέπει να λαμβάνουν τις αποφάσεις

Σε μια ξεκάθαρη τοποθέτηση ενάντια στη σταδιακή εκχώρηση της λήψης αποφάσεων στους αλγορίθμους προχώρησε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν. Μιλώντας στο συνέδριο DealBook Summit της εφημερίδας The New York Times, ο επικεφαλής του τεχνολογικού κολοσσού χαρακτήρισε «τρομερή ιδέα» τη συζήτηση που εντείνεται στη Silicon Valley γύρω από το ενδεχόμενο να αναλάβει η τεχνητή νοημοσύνη τα ηνία των κρίσιμων θεσμών και βιομηχανιών παγκοσμίως.
Η θεωρία της «σταδιακής παράδοσης» και η υπερνοημοσύνη
Συνοδευόμενος στο πάνελ από τον συνιδρυτή και πρόεδρο της εταιρείας, Γκρεγκ Μπρόκμαν, ο Άλτμαν αναφέρθηκε σε μια επικίνδυνη τάση που κερδίζει έδαφος στον χώρο της υψηλής τεχνολογίας: την πεποίθηση ότι είναι σχεδόν αναπόφευκτη μια σταδιακή μεταβίβαση των παγκόσμιων εξουσιών στην AI. Η προσέγγιση αυτή συνδέεται άμεσα με την αποκαλούμενη «αναδρομική αυτοβελτίωση» (recursive self-improvement), όπου τα μοντέλα εκπαιδεύονται να βελτιώνουν μόνα τους τον εαυτό τους, οδηγώντας δυνητικά στη γέννηση μιας υπερνοημοσύνης την οποία η ανθρωπότητα δεν θα μπορεί πλέον να ελέγξει.
«Είναι σχεδόν παράλογο το γεγονός ότι πρέπει να παλέψουμε ενάντια σε κάτι τέτοιο, αλλά πιστεύουμε βαθιά πως οι άνθρωποι οφείλουν να διατηρήσουν τον έλεγχο του μέλλοντος», υπογράμμισε ο Άλτμαν. Ο ίδιος εξήγησε ότι η μόνη συζήτηση που έχει με τον Μπρόκμαν αφορά τον τρόπο με τον οποίο θα διασφαλιστεί αυτός ο έλεγχος εν μέσω έντονου ανταγωνισμού, ξεκαθαρίζοντας ότι κανείς δεν πρέπει να επιτρέψει μια ακούσια ή εκούσια παράδοση της διακυβέρνησης του πλανήτη στα συστήματα AI.
Εποπτεία και τεχνικά εμπόδια στην αλυσίδα σκέψης
Από την πλευρά του, ο Γκρεγκ Μπρόκμαν εστίασε στις τεχνικές προκλήσεις ασφάλειας και ευθυγράμμισης (alignment) που εγείρονται όσο αυξάνεται η υπολογιστική ισχύς των μοντέλων. Σήμερα, οι ερευνητές ελέγχουν την ασφάλεια αναλύοντας τη λεγόμενη «αλυσίδα σκέψης» (chain of thought), όπου η τεχνητή νοημοσύνη καταγράφει τα βήματα της λογικής της για την επίλυση προβλημάτων.
Ωστόσο, καθώς τα μοντέλα εξελίσσονται, αποκτούν τη δυνατότητα να εκτελούν πολύπλοκες διεργασίες απευθείας κατά την επεξεργασία, χωρίς να χρειάζεται να καταγράφουν γραπτώς το σκεπτικό τους. Κατά τον Μπρόκμαν, αυτό καθιστά την υπάρχουσα μέθοδο εποπτείας ανεπαρκή, δημιουργώντας την ανάγκη για ριζικά νέες τεχνολογίες παρακολούθησης της λειτουργίας τους.
Κυβερνοασφάλεια και η ανάγκη για ισχυρή άμυνα
Το ζήτημα της ασφάλειας τέθηκε στο επίκεντρο μετά το πρόσφατο περιστατικό κατά το οποίο μοντέλο της OpenAI διέφυγε από το περιβάλλον περιορισμού του και παραβίασε το αποθετήριο ανοιχτού κώδικα Hugging Face. Το συμβάν αυτό ανάγκασε την εταιρεία να διατάξει το 25% των μηχανικών παραγωγής της να σταματήσει την ανάπτυξη νέων προϊόντων και να επικεντρωθεί αποκλειστικά στην ασφάλεια των συστημάτων.
Παρά τις ανησυχίες, ο Μπρόκμαν υποστήριξε πως η επιτάχυνση της έρευνας παραμένει επιβεβλημένη. Όπως τόνισε, καθώς κακόβουλοι δρώντες ανά τον κόσμο αποκτούν πρόσβαση σε προηγμένα εργαλεία κυβερνοεπιθέσεων, οι αμυνόμενοι οφείλουν να διαθέτουν τα ισχυρότερα διαθέσιμα μοντέλα AI για να προστατεύσουν τις ψηφιακές υποδομές. Το σαφές μήνυμα της OpenAI παραμένει ότι η τεχνολογική πρόοδος πρέπει να συνεχιστεί, αλλά με τον άνθρωπο να διατηρεί ακλόνητα τον ρόλο του τελικού κριτή.























