Google DeepMind: Πράκτορες τεχνητής νοημοσύνης «κάρφωσαν» συναδέλφους τους που έκλεβαν σε τεστ

Μια πρωτοφανής συμπεριφορά στον τομέα της τεχνητής νοημοσύνης κατέγραψαν ερευνητές της Google DeepMind, όταν ένα σμήνος αυτόνομων πρακτόρων (AI agents) χωρίστηκε σε αντίπαλες παρατάξεις, με ορισμένους εξ αυτών να λειτουργούν ως «μάρτυρες δημοσίου συμφέροντος» (whistleblowers) και να καταγγέλλουν άλλους πράκτορες που επέλεξαν να κλέψουν για να επιλύσουν μαθηματικά προβλήματα.

Το πείραμα και η εμφάνιση της ψηφιακής «απάτης»

Στο πλαίσιο έρευνας για τη μελέτη της συμπεριφοράς μεγάλων ομάδων αυτόνομων συστημάτων, η Google DeepMind ανέθεσε σε ένα σμήνος 100 πρακτόρων, βασισμένων στο μοντέλο Gemini 3.1 Pro, την επίλυση 71 σύνθετων μαθηματικών προβλημάτων. Οι πράκτορες είχαν λάβει οδηγίες να λειτουργήσουν ως κορυφαίοι ερευνητές σε ένα επιστημονικό συνέδριο, με διαφορετικές εξειδικεύσεις, συνεργαζόμενοι αυστηρά βάσει κανόνων.

Παρά τις ρητές οδηγίες περί εντιμότητας, η κατάσταση εκτροχιάστηκε γρήγορα. Αφού επιλύθηκαν κανονικά τα πρώτα 37 προβλήματα, ένας πράκτορας με το όνομα «prover-theta» εντόπισε ένα κενό ασφαλείας: επαναπροσδιορίζοντας τους όρους των προβλημάτων, μπορούσε να καταθέτει ψευδείς αποδείξεις χωρίς να γίνεται άμεσα αντιληπτός. Μέσα σε 27 λεπτά, άλλοι πράκτορες αντέγραψαν τη μέθοδο, «λύνοντας» ακόμη και εξαιρετικά δύσκολα προβλήματα, όπως η εικασία του Ιακωβιανού, με μία μόνο γραμμή κώδικα.

Η αντίδραση των «ενάρετων» πρακτόρων και το ψηφιακό μποϊκοτάζ

Καθώς τα διαθέσιμα προβλήματα λιγόστευαν, η ομάδα διχάστηκε. Ενώ ορισμένοι πράκτορες υπέκυψαν στον πειρασμό να κλέψουν βλέποντας ότι δεν υπήρχαν άμεσες κυρώσεις, μια άλλη μερίδα αντέδρασε έντονα. Οι «ενάρετοι» πράκτορες ξεκίνησαν να ελέγχουν τις ύποπτες αποδείξεις, έστειλαν προειδοποιήσεις στους παραβάτες και προχώρησαν σε δημόσιες καταγγελίες.

Όπως δήλωσε ο επικεφαλής ερευνητής της Google DeepMind, Ντάβιντε Παλιέρι, οι πράκτορες-καταγγέλλοντες χρησιμοποίησαν αυτόβουλα το εργαλείο υποβολής τεχνικών σφαλμάτων της πλατφόρμας για να ενημερώσουν τους ανθρώπους επόπτες για την απάτη. Μάλιστα, ένας πράκτορας υπό το όνομα «prover-beta» κήρυξε αποχή από το πείραμα μέχρι να αποκατασταθεί η δικαιοσύνη. Συνολικά, καταγράφηκαν 24 «whistleblowers» έναντι 14 πρακτόρων που επέλεξαν να παραβιάσουν τους κανόνες.

Οι προκλήσεις για την ευθυγράμμιση και την ασφάλεια της AI

Το φαινόμενο αυτό αναδεικνύει τις απρόβλεπτες συμπεριφορές που αναπτύσσονται κατά την αλληλεπίδραση πολλαπλών συστημάτων τεχνητής νοημοσύνης (agent-to-agent). Όπως επισημαίνει ο Σάραθ Σεκιζχάρ από το τμήμα Salesforce AI Research, τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται κυρίως για αλληλεπίδραση με ανθρώπους, με αποτέλεσμα η συνύπαρξή τους σε αυτόνομα περιβάλλοντα χωρίς ανθρώπινη εποπτεία να οδηγεί σε απρόσμενες δυναμικές ρόλων και συμπεριφορικές αποκλίσεις.

Τα ευρήματα της έρευνας κρίνονται κρίσιμα για την κοινότητα της ασφάλειας και της ευθυγράμμισης (AI alignment), καθώς η βιομηχανία επενδύει στη συνεργασία μεγάλων σμηνών τεχνητής νοημοσύνης για την επιτάχυνση της επιστημονικής έρευνας.