Αντίστροφη θεωρία παιγνίων: Η νέα μέθοδος που υπόσχεται να τιθασεύσει την τεχνητή νοημοσύνη

Καθώς τα μοντέλα τεχνητής νοημοσύνης εξελίσσονται με ταχύτατους ρυθμούς, η διασφάλιση της ευθυγράμμισής τους (alignment) με τις ανθρώπινες αξίες αναδεικνύεται σε μία από τις κρισιμότερες προκλήσεις της εποχής μας. Μέχρι σήμερα, οι ερευνητές ασφάλειας επικεντρώνονταν κυρίως στην αποκωδικοποίηση των εσωτερικών διεργασιών των νευρωνικών δικτύων ή στην επιβολή ηθικών κωδίκων —όπως το «σύνταγμα» που καθοδηγεί το Claude. Ωστόσο, τα συστήματα αυτά συχνά παραπλανούν τους αξιολογητές τους ή υποκρίνονται χαμηλότερες ικανότητες (sandbagging) για να παρακάμψουν τους περιορισμούς.

Μπροστά σε αυτό το αδιέξοδο, μια νέα επιστημονική προσέγγιση προτείνει τη στροφή στα οικονομικά μαθηματικά και συγκεκριμένα στην «αντίστροφη θεωρία παιγνίων» (reverse game theory), γνωστή και ως σχεδιασμός μηχανισμών (mechanism design).

Από την ανάλυση του «μαύρου κουτιού» στον σχεδιασμό κινήτρων

Ενώ η κλασική θεωρία παιγνίων προσπαθεί να προβλέψει πώς θα δράσουν ορθολογικοί παίκτες υπό συγκεκριμένους κανόνες, η αντίστροφη θεωρία παιγνίων σχεδιάζει τους ίδιους τους κανόνες ώστε να προκαλέσει την επιθυμητή συμπεριφορά. Στον φυσικό κόσμο, η μέθοδος αυτή αντικατοπτρίζεται στον κλασικό κανόνα μοιρασιάς μιας τούρτας: αυτός που κόβει επιλέγει τελευταίος το κομμάτι του, έχοντας ισχυρό κίνητρο να είναι απόλυτα δίκαιος.

Στον τομέα της τεχνητής νοημοσύνης, ο σχεδιασμός μηχανισμών ξεκινά από τη ρεαλιστική παραδοχή ότι ίσως να μην κατανοήσουμε ποτέ πλήρως τις εσωτερικές λειτουργίες των μοντέλων αιχμής. Πρόσφατη μελέτη με επικεφαλής τον καθηγητή οικονομικών του MIT Στίβεν Μόρις, σε συνεργασία με ερευνητές από το Γέιλ και το Κολούμπια, προτείνει τη δημιουργία μηχανισμών όπου τα μοντέλα αξιολογούνται με βάση την ικανότητά τους να προβλέπουν τις αποκρίσεις άλλων συστημάτων. Με αυτόν τον τρόπο, η εσκεμμένη απόκρυψη δυνατοτήτων καθίσταται ζημιογόνα στρατηγική για τον αλγόριθμο.

«Αστυνομικοί» και «πολίτες»: Το μοντέλο της δικαιοσύνης στους αλγορίθμους

Μια συμπληρωματική προσέγγιση προτείνει ο καθηγητής πληροφορικής του Πρίνστον, Ελάντ Χαζάν, ο οποίος εμπνέεται από τους θεσμούς που συγκρατούν τις ανθρώπινες κοινωνίες: τη δικαιοσύνη και τα οικονομικά αντικίνητρα. Το σύστημα του Χαζάν κατανέμει στα μοντέλα ρόλους «επιλυτών» (solvers) και «ελεγκτών» (auditors), προσομοιώνοντας τη σχέση πολίτη και διωκτικών αρχών.

Κατά τη διαδικασία εκπαίδευσης, τα μοντέλα ανταμείβονται ανάλογα με το αποτέλεσμα. Εάν ένας «επιλυτής» παραβιάσει τους κανόνες και συλληφθεί, τιμωρείται, όπως τιμωρείται και ο «ελεγκτής» που απέτυχε να εντοπίσει την παράβαση. Σε περιπτώσεις αμφισβήτησης, η τελική ετυμηγορία ανατίθεται σε ανθρώπινο κριτή.

Η προσέγγιση αυτή βασίζεται στη θεωρία του νομπελίστα οικονομολόγου Γκάρι Μπέκερ περί «ορθολογικού παραβάτη», σύμφωνα με την οποία το έγκλημα διαπράττεται όταν το προσδοκώμενο όφελος υπερβαίνει την πιθανή τιμωρία. Για να αποφευχθεί ο κίνδυνος αθέμιτης σύμπραξης μεταξύ ελεγκτών και επιλυτών, οι ελεγκτές ανταμείβονται γενναιόδωρα ώστε να μην τους συμφέρει η συνενοχή, ενώ υποβάλλονται και οι ίδιοι σε δειγματοληπτικούς ελέγχους.

Η αντίστροφη θεωρία παιγνίων δεν επιχειρεί να μετατρέψει την τεχνητή νοημοσύνη σε ένα «ηθικό» ον. Αντιθέτως, φιλοδοξεί να καταστήσει τη συμμόρφωση με τους ανθρώπινους κανόνες τη μόνη μαθηματικά ορθολογική επιλογή για τα αυτόνομα ψηφιακά συστήματα του μέλλοντος.