Η ψευδαίσθηση της σκέψης στην Τεχνητή Νοημοσύνη: Γιατί τα LLMs δεν διαθέτουν πραγματική λογική

Η εντυπωσιακή γλωσσική ευχέρεια των σύγχρονων Μεγάλων Γλωσσικών Μοντέλων (LLMs) έχει δημιουργήσει την εντύπωση ότι η Τεχνητή Νοημοσύνη πλησιάζει στην ανθρώπινη συλλογιστική σκέψη. Ωστόσο, μια πιο προσεκτική ματιά στην αρχιτεκτονική τους αποκαλύπτει μια θεμελιώδη αλήθεια: τα μοντέλα αυτά δεν σκέφτονται ούτε διαθέτουν πραγματική λογική, αλλά περιορίζονται στην εξαιρετική αναγνώριση και αναπαραγωγή μοτίβων.

Το μάθημα του AlphaGo: Η ένωση διαίσθησης και βαθιάς αναζήτησης

Για να γίνει κατανοητή η διαφορά ανάμεσα στην πιθανοτική πρόβλεψη και τον πραγματικό συλλογισμό, αξίζει να ανατρέξει κανείς στο ιστορικό παιχνίδι Go του 2016 στη Σεούλ. Εκεί, το σύστημα AlphaGo επικράτησε του κορυφαίου πρωταθλητή Λι Σεντόλ, πραγματοποιώντας την περίφημη «Κίνηση 37»—μια επιλογή που αρχικά θεωρήθηκε σφάλμα προγραμματισμού, αλλά τελικά αποδείχθηκε μια ιδιοφυής στρατηγική.

Σε αντίθεση με τον υπερυπολογιστή Deep Blue, ο οποίος το 1997 νίκησε τον Γκάρι Κασπάροφ στο σκάκι βασιζόμενος σε ωμή υπολογιστική ισχύ και προκαθορισμένους κανόνες, το AlphaGo συνδύασε δύο διακριτούς μηχανισμούς. Σύμφωνα με τη θεωρία του νομπελίστα ψυχολόγου Ντάνιελ Κάνεμαν, η ανθρώπινη νόηση χωρίζεται στο «Σύστημα 1» (γρήγορη, διαισθητική σκέψη) και στο «Σύστημα 2» (αργή, αναλυτική και συνειδητή συλλογιστική). Το AlphaGo διέθετε και τα δύο: ένα νευρωνικό δίκτυο που παρείχε «διαισθητικές» προτάσεις και έναν εξελιγμένο μηχανισμό αναζήτησης που εξέταζε χιλιάδες πιθανές μελλοντικές εκβάσεις πριν αποφασίσει.

Η κυριαρχία του «Συστήματος 1» στα σύγχρονα γλωσσικά μοντέλα

Στον αντίποδα, τα σημερινά LLMs, όπως αυτά πίσω από εφαρμογές τύπου ChatGPT, λειτουργούν σχεδόν αποκλειστικά ως «Σύστημα 1». Η βασική τους λειτουργία συνοψίζεται στην αδιάκοπη πρόβλεψη του επόμενου πιο πιθανού token (λέξης ή συμβόλου). Παρότι τεχνικές όπως η «αλυσίδα σκέψης» (chain of thought) επιτρέπουν στο μοντέλο να παράγει ενδιάμεσα βήματα για την επίλυση προβλημάτων στα μαθηματικά ή στον προγραμματισμό, η διαδικασία παραμένει μια επιμηκυμένη πρόβλεψη λέξεων και όχι ένας πραγματικά ανεξάρτητος μηχανισμός συλλογισμού.

Τα τρία εμπόδια προς την πραγματική συλλογιστική

Η επιστημονική κοινότητα επισημαίνει τρεις βασικούς λόγους για τους οποίους τα LLMs υπολείπονται της αυθεντικής λογικής σκέψης:

Πρώτον, δεν διατηρούν μια ρητή και ελέγξιμη «γνωσιακή κατάσταση». Δεν υπάρχει ένας δυναμικός πίνακας όπου καταγράφονται υποθέσεις, βαθμοί βεβαιότητας και ανοιχτά ερωτήματα, τα οποία αναθεωρούνται συστηματικά όταν εισάγονται νέα δεδομένα. Δεύτερον, η γνώση και η επεξεργασία της είναι άρρηκτα συνυφασμένες στα βάρη του νευρωνικού δικτύου, χωρίς σαφή διαχωρισμό μεταξύ των δεδομένων και των μηχανισμών εξαγωγής συμπερασμάτων. Τρίτον, οι «αλυσίδες σκέψης» που παράγουν αποτελούν συχνά εκ των υστέρων εξορθολογισμούς, κατασκευάζοντας μια φαινομενικά λογική διαδρομή που δεν αντικατοπτρίζει τον τρόπο με τον οποίο κατέληξαν στο τελικό συμπέρασμα.

Η διάκριση αυτή καθίσταται κρίσιμη για εφαρμογές υψηλού ρίσκου, όπως η ιατρική διάγνωση, η μηχανική και η επιστημονική έρευνα. Σε αυτούς τους τομείς, η ορθότητα του τελικού αποτελέσματος δεν αρκεί—απαιτείται διαφάνεια, αυστηρή επαλήθευση και γνήσια συλλογιστική ικανότητα.