Το παράδοξο της γλώσσας: Γιατί τα παιδιά μαθαίνουν πιο αποδοτικά από τα ισχυρότερα μοντέλα AI

Εδώ και τουλάχιστον 100.000 χρόνια, η ανθρώπινη γλώσσα αποτελεί το βασικό μέσο επικοινωνίας του είδους μας, με ένα μόνο ον στον πλανήτη να καταφέρνει να την κατακτήσει με απόλυτη ευχέρεια: το ανθρώπινο παιδί. Σήμερα, τέσσερα χρόνια μετά την κυκλοφορία του ChatGPT, συνομιλούμε καθημερινά με εξελιγμένα μεγάλα γλωσσικά μοντέλα (LLMs) όπως το Claude, το DeepSeek και τα συστήματα της OpenAI. Ωστόσο, πίσω από αυτή την ψηφιακή ευγλωττία κρύβεται ένα δυσεπίλυτο επιστημονικό παράδοξο: η διδασκαλία μιας μηχανής απαιτεί έναν εξωπραγματικό όγκο δεδομένων, την ώρα που ένα νήπιο κατακτά τη μητρική του γλώσσα σχεδόν αβίαστα.

Το τεράστιο «χάσμα αποδοτικότητας δεδομένων»

Στον χώρο της γνωστικής επιστήμης και της τεχνητής νοημοσύνης, αυτή η απόκλιση ονομάζεται «χάσμα αποδοτικότητας δεδομένων» (data efficiency gap). Ενώ ένα σύγχρονο LLM μπορεί να καταναλώσει εκατοντάδες χιλιάδες φορές περισσότερες λέξεις από όσες θα ακούσει ένας άνθρωπος σε ολόκληρη τη ζωή του, ένα νήπιο αρχίζει να σχηματίζει γραμματικά ορθές προτάσεις έχοντας εκτεθεί σε μόλις 10 έως 30 εκατομμύρια λέξεις.

Όπως επισημαίνει ο Μάικλ Κ. Φρανκ, γνωστικός επιστήμονας στο Πανεπιστήμιο Στάνφορντ, η πρόσφατη πρόοδος της τεχνητής νοημοσύνης είναι εντυπωσιακή, αλλά για να αναδημιουργηθεί το ορόσημο που πετυχαίνει ένα παιδί στο σαλόνι του μέσα σε έναν χρόνο, απαιτείται η ψηφιακή «καύση» ολόκληρου του συνόλου της ανθρώπινης γνώσης. Αν εκπαιδεύαμε το GPT-2 με 30 εκατομμύρια λέξεις, το αποτέλεσμα θα ήταν μια ασυνάρτητη γεννήτρια λέξεων και όχι ένα λειτουργικό σύστημα.

Μηχανές που «καταπίνουν» βιβλιοθήκες έναντι παιδικού εγκεφάλου

Η διαφορά κλίμακας είναι χαώδης. Το ανοιχτού κώδικα μοντέλο Llama 3.1 της Meta εκπαιδεύτηκε σε 15 τρισεκατομμύρια tokens (τμήματα λέξεων). Σύμφωνα με τον Ίθαν Γκότλιμπ Γουίλκοξ, γλωσσολόγο στο Πανεπιστήμιο Τζορτζτάουν, μοντέλα όπως το Claude έχουν «δει» τόση γλώσσα όση θα βίωνε μια ολόκληρη πόλη στη διάρκεια μιας γενιάς. Εάν τυπώνονταν σε χαρτί τα δεδομένα εκπαίδευσης ενός σύγχρονου LLM, η στοίβα θα ξεπερνούσε σε ύψος τον Διεθνή Διαστημικό Σταθμό, ενώ οι 100 εκατομμύρια λέξεις ενός προεφήβου θα έφταναν μόλις τα 20 μέτρα.

Το ζήτημα αποκτά επείγοντα χαρακτήρα, καθώς τα διαθέσιμα δεδομένα υψηλής ποιότητας στο διαδίκτυο ενδέχεται να εξαντληθούν έως τη δεκαετία του 2030. Η αποκωδικοποίηση του τρόπου με τον οποίο μαθαίνουν τα παιδιά αποτελεί το «ιερό δισκοπότηρο» για τη δημιουργία πιο αποδοτικών αλγορίθμων, οι οποίοι θα μπορούν να λειτουργούν με λιγότερη ενέργεια και να υποστηρίζουν γλώσσες με περιορισμένη ψηφιακή παρουσία.

Το μυστήριο της ανθρώπινης σύνταξης

Το πώς ακριβώς τα μωρά κατορθώνουν αυτό το επίτευγμα παραμένει ένα από τα μεγαλύτερα μυστήρια. Η ανθρώπινη σύνταξη βασίζεται σε αναδρομικές, σύνθετες δομές που επιτρέπουν την έκφραση άπειρων ιδεών μέσα από ένα περιορισμένο λεξιλόγιο. Παρότι τα νήπια κινούνται μόνο στα «ρηχά» ενός αχανούς γλωσσικού ωκεανού, καταφέρνουν από μια απλή σταγόνα εμπειρίας να εξάγουν τους θεμελιώδεις κανόνες της γλώσσας, αφήνοντας την επιστήμη να αναζητά ακόμη τις απαντήσεις.