Γιατί τα παιδιά νικούν την Τεχνητή Νοημοσύνη στη μάθηση: Το μυστήριο της γλωσσικής ανάπτυξης

Για περισσότερα από 100.000 χρόνια, υπήρχε μόνο ένας οργανισμός στον πλανήτη που μπορούσε να κατακτήσει μια ανθρώπινη γλώσσα με απόλυτη ευχέρεια: το ανθρώπινο παιδί. Σήμερα, τέσσερα χρόνια μετά την κυκλοφορία του ChatGPT, θεωρούμε δεδομένο ότι μπορούμε να συνομιλούμε φυσικά με υπολογιστές. Μοντέλα όπως το Claude, το DeepSeek και τα μοντέλα GPT της OpenAI εμφανίζουν εκπληκτική ευχέρεια. Ωστόσο, πίσω από την ψηφιακή κουρτίνα κρύβεται μια σκληρή αλήθεια: για να μάθει ένας υπολογιστής ανθρώπινη γλώσσα, απαιτείται μια εξωπραγματική ποσότητα δεδομένων. Ένα Μεγάλο Γλωσσικό Μοντέλο (LLM) καταναλώνει εκατοντάδες χιλιάδες φορές περισσότερες λέξεις από όσες θα ακούσει ποτέ ένας άνθρωπος στη ζωή του.

Το χάσμα αποδοτικότητας δεδομένων μεταξύ ανθρώπου και μηχανής

Αυτή η τεράστια απόκλιση μεταξύ παιδιών και μηχανών ονομάζεται «χάσμα αποδοτικότητας δεδομένων» (data efficiency gap). Τα σύγχρονα μοντέλα AI γίνονται όλο και καλύτερα, κυρίως επειδή γίνονται όλο και μεγαλύτερα. Για παράδειγμα, το μοντέλο ανοιχτού κώδικα Llama 3.1 της Meta εκπαιδεύτηκε σε 15 τρισεκατομμύρια tokens (μονάδες κειμένου). Σύμφωνα με τον Ίθαν Γκότλιμπ Γουίλκοξ, γνωστικό επιστήμονα και γλωσσολόγο στο Πανεπιστήμιο Georgetown, τα κορυφαία μοντέλα της αγοράς εκπαιδεύονται πλέον σε δεκαπλάσια δεδομένα. Όμως, το διαθέσιμο περιεχόμενο στο διαδίκτυο δεν είναι άπειρο, και οι ειδικοί εκτιμούν ότι η «δεξαμενή» δεδομένων ενδέχεται να στερέψει ακόμη και μέσα στη δεκαετία του 2030.

Στον αντίποδα, ένα παιδί που μεγαλώνει σε ένα πλούσιο γλωσσικό περιβάλλον θα ακούσει περίπου 100 εκατομμύσεις λέξεις μέχρι την εφηβεία του. «Το Claude έχει δει τόση γλώσσα όση θα βιώσει μια ολόκληρη πόλη σε μια γενιά», εξηγεί παραστατικά ο Γουίλκοξ. Αν τυπώναμε τις λέξεις που χρειάζεται ένα LLM, η στοίβα θα έφτανε πέρα από τον Διεθνή Διαστημικό Σταθμό, ενώ οι λέξεις ενός παιδιού θα σχημάτιζαν μια στοίβα μόλις 20 μέτρων.

Το «θαύμα» της παιδικής μάθησης και η πρόκληση για την AI

Τα νήπια ξεκινούν να παράγουν γραμματικά σωστές προτάσεις έχοντας ακούσει μόλις 10 έως 30 εκατομμύρια λέξεις. «Είναι ένα πραγματικό θαύμα», αναφέρει ο Μάικλ Κ. Φρανκ, γνωστικός επιστήμονας στο Πανεπιστήμιο Stanford. «Αν εκπαιδεύσεις το GPT-2 σε 30 εκατομμύρια λέξεις, θα πάρεις μια γεννήτρια ασυναρτησιών, όχι ένα παιδί». Η ικανότητα των μωρών να κατανοούν τη σύνταξη και τους κανόνες της γλώσσας από τόσο περιορισμένα ερεθίσματα παραμένει ένα από τα μεγαλύτερα μυστήρια της επιστήμης.

Το πώς ακριβώς το καταφέρνουν αυτό οι άνθρωποι παραμένει άγνωστο. Γεννιόμαστε με ένα έμφυτο γλωσσικό ένστικτο ή μαθαίνουμε αποκλειστικά από την εμπειρία; Η απάντηση σε αυτό το ερώτημα δεν έχει μόνο φιλοσοφική αξία, αλλά και πρακτική εφαρμογή στην ανάπτυξη της τεχνολογίας.

Αντίστροφη μηχανική: Προς μια πιο πράσινη και αποδοτική AI

Μελετώντας τον τρόπο με τον οποίο μαθαίνουν τα παιδιά, οι ερευνητές ελπίζουν να σχεδιάσουν πιο αποδοτικά μοντέλα AI. Αυτό θα μπορούσε να επιτρέψει τη δημιουργία chatbots για λιγότερο διαδεδομένες γλώσσες, όπου τα διαθέσιμα ψηφιακά δεδομένα είναι περιορισμένα, ή τη βελτίωση της εκπαιδευτικής διαδικασίας των μοντέλων σε βίντεο. Παράλληλα, η μείωση της ανάγκης για τεράστιες υπολογιστικές υποδομές θα περιόριζε το τεράστιο περιβαλλοντικό αποτύπωμα της τεχνολογίας. Όπως επισημαίνει ο Φρανκ, αυτή τη στιγμή «πρέπει να κάψουμε ένα δάσος και να ξύσουμε τον πάτο ολόκληρης της ανθρώπινης γνώσης για να αναδημιουργήσουμε ένα ορόσημο που συμβαίνει καθημερινά στα σαλόνια μας μέσα σε έναν χρόνο».