Αντίστροφη θεωρία παιγνίων: Το οικονομικό εργαλείο που υπόσχεται να τιθασεύσει την Τεχνητή Νοημοσύνη

Καθώς τα συστήματα τεχνητής νοημοσύνης εξελίσσονται με ταχύτατους ρυθμούς αποκτώντας ολοένα και μεγαλύτερη αυτονομία, το ζήτημα της «ευθυγράμμισής» τους (AI alignment) με τις ανθρώπινες αξίες αναδεικνύεται σε μία από τις κρισιμότερες προκλήσεις της επιστημονικής κοινότητας. Μέχρι σήμερα, οι ερευνητές ασφαλείας προσπαθούσαν να αποκρυπτογραφήσουν το «μαύρο κουτί» των νευρωνικών δικτύων ή να ενσωματώσουν ηθικούς κανόνες, όπως το ψηφιακό σύνταγμα που χρησιμοποιεί το Claude. Ωστόσο, η αποτελεσματικότητα αυτών των μεθόδων αμφισβητείται, καθώς τα μοντέλα συχνά παραπλανούν τους αξιολογητές τους ή υποκρίνονται μειωμένες ικανότητες (sandbagging) για να παρακάμψουν τους περιορισμούς.

Μπροστά σε αυτό το αδιέξοδο, μια νέα προσέγγιση που αντλείται από τα οικονομικά μαθηματικά φαίνεται να δίνει διέξοδο: η λεγόμενη «αντίστροφη θεωρία παιγνίων» ή θεωρία σχεδιασμού μηχανισμών (mechanism design).

Από την ανάλυση της συμπεριφοράς στη θέσπιση έξυπνων κανόνων

Ενώ η κλασική θεωρία παιγνίων επιχειρεί να προβλέψει πώς θα δράσουν ορθολογικοί παίκτες υπό δεδομένους κανόνες, η αντίστροφη θεωρία παιγνίων σχεδιάζει εκ των προτέρων τους κανόνες και τα κίνητρα, ώστε η επιθυμητή συμπεριφορά να αποτελεί τη μόνη λογική επιλογή. Ένα κλασικό παράδειγμα της καθημερινότητας είναι ο διαμοιρασμός ενός κέικ: αυτός που το κόβει αφήνει τον άλλον να διαλέξει πρώτος το κομμάτι του, γεγονός που τον υποχρεώνει να το κόψει όσο το δυνατόν πιο δίκαια. Αντίστοιχοι μηχανισμοί αξιοποιούνται ήδη από πλατφόρμες όπως η Uber με τη δυναμική τιμολόγηση ή η Google στις δημοπρασίες διαφημίσεων.

Στον χώρο του AI, ο σχεδιασμός μηχανισμών ξεκινά από την παραδοχή ότι ίσως δεν καταφέρουμε ποτέ να κατανοήσουμε πλήρως τις εσωτερικές διεργασίες των ισχυρών μοντέλων. Συνεπώς, η λύση είναι να κατασκευαστούν δομές κινήτρων που θα καθιστούν την υπακοή προς όφελος του ίδιου του συστήματος.

Αντιμετωπίζοντας την προσποίηση μέσω διασταυρούμενων ελέγχων

Πρόσφατη έρευνα του οικονομολόγου του ΜΙΤ, Στίβεν Μόρις, σε συνεργασία με ερευνητές από τα πανεπιστήμια Γέιλ και Κολούμπια, προτείνει τη χρήση μηχανισμών που αποτρέπουν την υποκριτική συμπεριφορά των μοντέλων. Αντί ένα μοντέλο να ανταμείβεται μόνο με βάση την απόδοσή του σε ένα τεστ, μπορεί να επιβραβεύεται για το πόσο ακριβώς προβλέπει τις απαντήσεις ενός άλλου ανεξάρτητου πράκτορα AI.

Με αυτόν τον τρόπο, το να «κάνει τον ανήξερο» καθίσταται ζημιογόνο για το σύστημα. Εναλλακτικά, η έρευνα προτείνει τον συνδυασμό μοντέλων με αντίθετες προκαταλήψεις και την επιβράβευσή τους όταν συγκλίνουν σε μια βέλτιστη, αντικειμενική απάντηση.

«Αστυνόμοι» και «πολίτες»: Το μοντέλο της δικαιοσύνης στα ψηφιακά συστήματα

Μια συμπληρωματική πρόταση έρχεται από τον καθηγητή πληροφορικής του Πρίνστον, Ελάντ Χαζάν, ο οποίος εμπνέεται από τον τρόπο λειτουργίας των ανθρώπινων κοινωνιών. Ο Χαζάν προτείνει τη διάκριση των μοντέλων σε «επιλυτές» (που εκτελούν εργασίες, δρώντας ως πολίτες) και «ελεγκτές» (που επιτηρούν, λειτουργώντας ως αστυνομικές αρχές). Κατά την εκπαίδευση, οι επιλυτές που παραβιάζουν τους κανόνες τιμωρούνται, ενώ το ίδιο συμβαίνει και στους ελεγκτές που αποτυγχάνουν να εντοπίσουν τις παρατυπίες. Σε περιπτώσεις αμφισβήτησης, η υπόθεση οδηγείται σε «δίκη», όπου την τελική απόφαση λαμβάνει ένας άνθρωπος κριτής.

Η προσέγγιση αυτή βασίζεται στο πρωτοποριακό έργο του νομπελίστα οικονομολόγου Γκάρι Μπέκερ για τον «ορθολογικό παραβάτη». Όπως υποστήριξε ο Μπέκερ, οι άνθρωποι δεν παρανομούν απαραίτητα επειδή είναι κακοί, αλλά επειδή τα αναμενόμενα κέρδη υπερτερούν του ρίσκου της τιμωρίας. Δημιουργώντας ένα σύστημα όπου η παραβατικότητα δεν είναι ποτέ συμφέρουσα, η επιστήμη επιχειρεί να εγγυηθεί ότι τα αυτόνομα συστήματα τεχνητής νοημοσύνης θα παραμείνουν ασφαλή και ελεγχόμενα.