Η πλάνη της μηχανικής σκέψης: Γιατί τα μεγάλα γλωσσικά μοντέλα αδυνατούν να παράγουν πραγματική λογική

Τον Μάρτιο του 2016 στη Σεούλ, ο κόσμος της τεχνολογίας παρακολούθησε άναυδος την 37η κίνηση στη δεύτερη παρτίδα Go ανάμεσα στο πρόγραμμα AlphaGo και τον θρυλικό Νοτιοκορεάτη πρωταθλητή Λι Σεντόλ. Η συγκεκριμένη κίνηση φάνηκε αρχικά τόσο παράλογη, ώστε πολλοί σχολιαστές υπέθεσαν ότι επρόκειτο για σφάλμα κώδικα. Στην πραγματικότητα, οδήγησε σε μια ιστορική νίκη με 4-1 και ερμηνεύτηκε ευρέως ως μια σπάνια έκλαμψη καθαρής μηχανικής «διαίσθησης». Ωστόσο, η πραγματικότητα ήταν εντελώς διαφορετική: το AlphaGo εφάρμοσε αυθεντική συλλογιστική σκέψη (reasoning) – μια ικανότητα που απουσιάζει σχεδόν ολοκληρωτικά από τα σημερινά μεγάλα γλωσσικά μοντέλα (LLMs).

Το μάθημα του AlphaGo και η γνωστική δυαδικότητα

Σε αντίθεση με το Deep Blue, το οποίο το 1997 νίκησε τον Γκάρι Κασπάροφ στο σκάκι βασιζόμενο σε ωμή υπολογιστική ισχύ και αυστηρά προκαθορισμένους κανόνες, το Go απαιτεί απείρως μεγαλύτερη συνθετότητα. Για να επικρατήσει, το AlphaGo συνδύασε δύο διακριτούς μηχανισμούς, αντικατοπτρίζοντας τη διάσημη θεωρία του ψυχολόγου Ντάνιελ Κάνεμαν για την ανθρώπινη νόηση.

Το πρώτο σκέλος (Σύστημα 1) ήταν το δίκτυο πολιτικής, το οποίο παρήγαγε γρήγορες, διαισθητικές εκτιμήσεις βάσει προτύπων. Το δεύτερο σκέλος (Σύστημα 2) ήταν ένας μηχανισμός δομημένης αναζήτησης, ο οποίος εξέταζε αργά και μεθοδικά τις μελλοντικές συνέπειες κάθε κίνησης μέσα σε ένα εκτενές δέντρο πιθανοτήτων. Η κίνηση 37 δεν ήταν αποτέλεσμα επιφανειακής πιθανολόγησης, αλλά προϊόν βαθιάς διερεύνησης. Χωρίς τη συνδυασμένη δράση διαίσθησης και εξονυχιστικής αξιολόγησης, το σύστημα δεν θα είχε επιτύχει ποτέ αυτό το αποτέλεσμα.

Η επιφανειακή ευχέρεια των LLMs

Στον αντίποδα, τα σημερινά LLMs, όπως αυτά που τροφοδοτούν το ChatGPT, λειτουργούν σχεδόν αποκλειστικά ως εκδοχές του Συστήματος 1. Η βασική λειτουργία τους περιορίζεται στην πρόβλεψη της επόμενης λέξης (next-token prediction), επιτυγχάνοντας εντυπωσιακή συσχέτιση μοτίβων αλλά καμία πραγματική κατανόηση των αιτίων και των αποτελεσμάτων. Ακόμη και οι πρόσφατες τεχνικές όπως η «αλυσίδα σκέψης» (chain of thought), αν και βελτιώνουν τις επιδόσεις στα μαθηματικά ή στον προγραμματισμό, δεν αποτελούν ανεξάρτητο μηχανισμό συλλογισμού. Πρόκειται απλώς για την ίδια επαναληπτική πρόβλεψη συμβόλων, η οποία απλώνεται σε περισσότερα βήματα πριν καταλήξει σε συμπέρασμα.

Τρία θεμελιώδη εμπόδια για την κρίσιμη εφαρμογή της AI

Η αδυναμία των LLMs να επιτελέσουν επιστημονική συλλογιστική συνοψίζεται σε τρεις κύριες ελλείψεις:

• Απουσία γνωσιακής κατάστασης: Τα μοντέλα δεν διατηρούν ένα ρητό, διαφανές αρχείο των υποθέσεων που εξετάζουν, των βαθμών βεβαιότητας ή των στοιχείων που σταθμίζουν, ώστε να τα αναθεωρούν συστηματικά καθώς προκύπτουν νέα δεδομένα.
• Σύγχυση γνώσης και λογικής: Η αποθηκευμένη γνώση και οι κανόνες διαχείρισής της είναι άρρηκτα συνυφασμένοι στα βάρη του νευρωνικού δικτύου, χωρίς σαφή διαχωρισμό μεταξύ δεδομένων και λογικής επεξεργασίας.
• Εκ των υστέρων εκλογίκευση: Πολλές έρευνες καταδεικνύουν ότι τα μοντέλα συχνά «εφευρίσκουν» τα ενδιάμεσα βήματα της σκέψης τους αφού έχουν ήδη προκαθορίσει την απάντηση, κατασκευάζοντας ένα επιφανειακό αφήγημα λογικοφάνειας.

Σε τομείς υψηλής ευθύνης, όπως η ιατρική, η μηχανική και η επιστημονική έρευνα, η αξιοπιστία δεν εξαρτάται μόνο από το τελικό αποτέλεσμα, αλλά από τη διαφανή και επαληθεύσιμη διαδρομή που οδήγησε σε αυτό. Όσο τα συστήματα Τεχνητής Νοημοσύνης στερούνται πραγματικών εργαλείων συλλογισμού, η εμπιστοσύνη στις αποφάσεις τους παραμένει ένα επικίνδυνο στοίχημα.