DeepMind Institute: Η Google εγκαινιάζει νέο ινστιτούτο για τον παγκόσμιο διάλογο γύρω από την AGI

Σε μια στρατηγική κίνηση με στόχο τη διεύρυνση και την εμβάθυνση της δημόσιας και επιστημονικής συζήτησης για την Τεχνητή Γενική Νοημοσύνη (AGI), η Google και η Google DeepMind ανακοίνωσαν την ίδρυση του DeepMind Institute. Η νέα αυτή πρωτοβουλία φιλοδοξεί να αποτελέσει έναν ανοιχτό χώρο ανταλλαγής απόψεων, φέρνοντας στο προσκήνιο τόσο τις συγκλίσεις όσο και τις διαφωνίες μεταξύ των ερευνητών του τεχνολογικού κολοσσού και της ευρύτερης διεθνούς ακαδημαϊκής κοινότητας.

Η ηγετική ομάδα και οι βασικοί θεματικοί άξονες

Τη διοίκηση του DeepMind Institute αναλαμβάνουν κορυφαία στελέχη του κλάδου: ο συνιδρυτής της DeepMind Σέιν Λεγκ, ο οποίος θα εκτελεί και χρέη διευθυντή έκδοσης (managing editor), το υψηλόβαθμο στέλεχος της Google Τζέιμς Μανγίκα, καθώς και ο πρόεδρος της Google DeepMind Ντέμης Χασάμπης. Σύμφωνα με την επίσημη ανακοίνωση, στόχος είναι η καταγραφή διαφορετικών οπτικών σε ένα ταχύτατα εξελισσόμενο πεδίο, όπου τα επιστημονικά δεδομένα και οι προσεγγίσεις αναθεωρούνται συνεχώς.

Το ινστιτούτο έκανε το ντεμπούτο του δημοσιεύοντας τέσσερα εκτενή δοκίμια. Η θεματολογία τους καλύπτει κρίσιμους τομείς, όπως οι οικονομικές πολιτικές για τη διαχείριση των αναταράξεων που μπορεί να προκαλέσει η AGI, η διατήρηση της ανθρώπινα κατανοητής συλλογιστικής των μοντέλων, οι αρχές για την ανθρώπινη ευημερία και η θέσπιση ενός ολοκληρωμένου πλαισίου αξιολόγησης για τα λεγόμενα μοντέλα τεχνητής νοημοσύνης αιχμής (frontier AI).

Η πρόκληση της διαφάνειας και της εποπτείας

Σε ένα από τα δοκίμια, οι ερευνητές ασφάλειας της DeepMind, Ροχίν Σαχ και Άνκα Ντράγκαν, κρούουν τον κώδωνα του κινδύνου για τη συρρίκνωση της διαφάνειας στην AI. Όπως επισημαίνουν, η δυνατότητα των επιστημόνων να παρακολουθούν βήμα προς βήμα τη συλλογιστική πορεία ενός μοντέλου τείνει να εξασθενεί καθώς οι αρχιτεκτονικές γίνονται πιο σύνθετες. Οι συντάκτες υποστηρίζουν ότι αυτό δεν αποτελεί αναπόφευκτη εξέλιξη, καλώντας τους δημιουργούς μοντέλων και τις ρυθμιστικές αρχές να θέσουν όρια στη μη αναγνώσιμη επεξεργασία ή να επιβάλουν αποδείξεις διαρκούς ελεγξιμότητας.

Η πρόταση Χασάμπη για ρυθμιστικό φορέα και συντονισμένη επιβράδυνση

Ιδιαίτερο ενδιαφέρον παρουσιάζει το κείμενο του Ντέμη Χασάμπη, ο οποίος προτείνει τη συγκρότηση ενός ανεξάρτητου φορέα αξιολόγησης προτύπων AI υπό την ηγεσία των Ηνωμένων Πολιτειών. Το προτεινόμενο πλαίσιο προβλέπει αρχικά την εθελοντική υποβολή νέων μοντέλων για έλεγχο έως και 30 ημέρες πριν από την κυκλοφορία τους, με προοπτική ο έλεγχος αυτός να καταστεί υποχρεωτικός στο μέλλον.

Ο νέος φορέας θα διεξάγει ανεξάρτητες και μη δημοσιοποιημένες δοκιμές («held-out tests»), ώστε να αποτρέπεται η στοχευμένη εκπαίδευση των συστημάτων μόνο για τα γνωστά τεστ αξιολόγησης. Μάλιστα, ο επικεφαλής της Google DeepMind σημείωσε πως τα μέτρα θα μπορούσαν να κλιμακωθούν εφόσον το επιβάλλουν οι συνθήκες, περιλαμβάνοντας ακόμη και έναν συντονισμένο ρυθμό επιβράδυνσης της ανάπτυξης μεταξύ των κορυφαίων εταιρειών του κλάδου — μια προσέγγιση που ευθυγραμμίζεται με πρόσφατες εκκλήσεις και άλλων ηγετών της βιομηχανίας, όπως ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι.