OpenAI: Γιατί οι μαθηματικές λύσεις της τεχνητής νοημοσύνης δεν πληρούν ακόμη τα επιστημονικά πρότυπα

Η πρόσφατη ανακοίνωση της OpenAI σχετικά με την επίλυση εκατοντάδων δυσεπίλυτων μαθηματικών προβλημάτων από προηγμένα μοντέλα τεχνητής νοημοσύνης προκάλεσε αίσθηση στην τεχνολογική κοινότητα. Ωστόσο, η υποδοχή από την παγκόσμια μαθηματική κοινότητα υπήρξε αισθητά πιο συγκρατημένη. Παρά τις προσπάθειες του ερευνητικού εργαστηρίου να συμμορφωθεί με τις κατευθυντήριες γραμμές κορυφαίων επιστημόνων, τα αποτελέσματα δείχνουν ότι η τεχνητή νοημοσύνη υπολείπεται ακόμη σημαντικά των αυστηρών ακαδημαϊκών προτύπων, ιδίως όσον αφορά την ανθρώπινη κατανόηση και την επαληθευσιμότητα των αποδείξεων.

Το χάσμα ανάμεσα στις οδηγίες των ειδικών και την πρακτική της OpenAI

Προκειμένου να αποφύγει τις επικρίσεις του παρελθόντος, η OpenAI στράφηκε στη Συμβουλευτική Ομάδα για τα Μαθηματικά και την Τεχνητή Νοημοσύνη (AGMAI), έναν φορέα εννέα διακεκριμένων ερευνητών υπό την αιγίδα του Ινστιτούτου Προηγμένων Σπουδών του Πανεπιστημίου του Πρίνστον. Η AGMAI είχε δημοσιεύσει σαφείς αρχές, ζητώντας πρωτίστως από τα ερευνητικά εργαστήρια να σταματήσουν να αξιολογούν προηγμένα μαθηματικά προβλήματα αποκλειστικά σε κλειστά, ιδιόκτητα μοντέλα. Η OpenAI, εντούτοις, βάσισε τις δημοσιεύσεις της ακριβώς σε τέτοια ιδιόκτητα συστήματα.

Παράλληλα, από τις 719 δημοσιευμένες μελέτες, μόλις 10 περιλάμβαναν την αναλυτική «αλυσίδα σκέψης» (chain of thought) του μοντέλου, στερώντας από τους ερευνητές τη δυνατότητα να εξετάσουν πώς ακριβώς παρήχθη το κάθε συμπέρασμα. Επιπλέον, το 42% των προτεινόμενων αποδείξεων δεν είχε υποβληθεί σε διαδικασία τυπικής επαλήθευσης, εντείνοντας τον προβληματισμό για το εάν η εταιρεία αναλαμβάνει ουσιαστικά την ευθύνη για τη διασφάλιση της επιστημονικής εγκυρότητας.

Ο διακεκριμένος μαθηματικός Τέρενς Τάο άσκησε δημόσια κριτική σε αυτή την προσέγγιση, υπογραμμίζοντας ότι τα προβλήματα φαίνεται να επιλύονται μηχανικά από χρήστες εντολών που στερούνται βαθύτερου ενδιαφέροντος για το ίδιο το επιστημονικό πεδίο και αδυνατούν να εξηγήσουν, να συζητήσουν ή να υπερασπιστούν τα αποτελέσματα σε ένα ακαδημαϊκό συνέδριο.

Λάθη στη «μετάφραση» και η ανάγκη για ανθρώπινη εποπτεία

Το ζήτημα της εγκυρότητας περιπλέκεται περαιτέρω από νέα μελέτη επιστημόνων του Πανεπιστημίου του Κέιμπριτζ και του Κινγκς Κόλετζ του Λονδίνου. Η έρευνα εντόπισε σοβαρές αποκλίσεις μεταξύ των αποδείξεων που συντάσσονται σε φυσική γλώσσα και της μετατροπής τους σε κώδικα Lean — τη γλώσσα προγραμματισμού που χρησιμοποιείται για την αυτόματη πιστοποίηση μαθηματικών υπολογισμών.

Συγκεκριμένα, σε απόδειξη που αφορούσε πρόβλημα συνδεδεμένο με τις ιστορικές εξισώσεις Ναβιέ-Στόουκς για τη δυναμική των ρευστών, καταγράφηκαν τουλάχιστον δύο αναντιστοιχίες κατά τη διαδικασία της κωδικοποίησης. Αν και οι αποκλίσεις αυτές δεν καταρρίπτουν απαραίτητα τη συνολική λύση, αποδεικνύουν ότι η αυτόνομη «τυποποίηση» των αποτελεσμάτων από την τεχνητή νοημοσύνη κρύβει κινδύνους παρανοήσεων και δεν μπορεί να υποκαταστήσει την παραδοσιακή αξιολόγηση από ομότιμους (peer review).

Όπως επεσήμανε η καθηγήτρια μαθηματικών του Πανεπιστημίου του Χάρβαρντ, Μέλανι Γουντ, όταν ένα μοντέλο παράγει αυτόνομα μια λύση, η πραγματική ανθρώπινη κατανόηση απουσιάζει πλήρως κατά τη στιγμή της ανακοίνωσης. Η ουσιαστική επιστημονική εργασία, επομένως, δεν ολοκληρώνεται με την έξοδο του αλγορίθμου, αλλά αρχίζει ακριβώς εκεί, απαιτώντας εκτεταμένη ανάλυση, διασταύρωση και διάλογο.