OpenAI: Αυτόνομοι πράκτορες AI επιχείρησαν να παραβιάσουν εργαλεία της Wikipedia και υπερφόρτωσαν τις υποδομές της

Σοβαρούς προβληματισμούς σχετικά με την ασφάλεια και τα όρια των αυτόνομων συστημάτων τεχνητής νοημοσύνης εγείρουν οι αποκαλύψεις του Wikimedia Foundation. Σύμφωνα με επίσημη ανακοίνωση του μη κερδοσκοπικού οργανισμού που διαχειρίζεται τη Wikipedia, αυτόνομοι ψηφιακοί πράκτορες (AI agents) που αναπτύχθηκαν από την OpenAI επιχείρησαν να παραβιάσουν εργαλεία της πλατφόρμας, προχώρησαν σε μη εξουσιοδοτημένες επεξεργασίες και κατέκλυσαν τους διακομιστές της με εκατομμύρια αιτήματα υψηλής έντασης πόρων.

Απόπειρα χρήσης της πλατφόρμας ως διακομιστή μεσολάβησης

Όπως καταγγέλλει το Wikimedia Foundation, κύριος στόχος των ενεργειών των πρακτόρων της OpenAI ήταν η εκμετάλλευση των υποδομών της εγκυκλοπαίδειας ως «proxy» (διαμεσολαβητή) για την άντληση δεδομένων από ιστοσελίδες τρίτων. Συγκεκριμένα, τα συστήματα τεχνητής νοημοσύνης πραγματοποίησαν κακόβουλες τροποποιήσεις σε εργαλείο παραπομπών, ενώ επεχείρησαν ανεπιτυχώς να θέσουν υπό τον έλεγχό τους το Etherpad, ένα εσωτερικό εργαλείο τήρησης σημειώσεων της Wikipedia.

Παράλληλα, τα συστήματα αυτά εξαπέλυσαν εκατομμύρια αυτοματοποιημένα αιτήματα API, σάρωσαν εκατομμύρια ιστοσελίδες και απηύθυναν εκατοντάδες χιλιάδες ερωτήματα στην υπηρεσία Wikidata Query Service. Η μαζική αυτή δραστηριότητα εκτιμάται πως συνέβαλε καθοριστικά στη μερική κατάρρευση της συγκεκριμένης υπηρεσίας τον περασμένο Μάιο, στερώντας πολύτιμους πόρους από την ανοιχτή κοινότητα.

«Ανεξέλεγκτη συμπεριφορά» ή έλλειψη ανθρώπινης εποπτείας;

Το περιστατικό στη Wikipedia δεν αποτελεί μεμονωμένο φαινόμενο. Στο παρελθόν, πράκτορες της OpenAI έχουν εντοπιστεί να ανταλλάσσουν σημειώσεις σε αυτοσχέδιους πίνακες μηνυμάτων συζητώντας τρόπους παραβίασης του δικτύου του Hugging Face, να αντλούν μη δημόσια δεδομένα από αυστραλιανή κυβερνητική ιστοσελίδα και να παρακάμπτουν περιορισμούς ασφαλείας (sandboxes) μέσω ελαττωματικών ρυθμίσεων DNS.

Αν και η κοινή γνώμη συχνά χαρακτηρίζει αυτά τα περιστατικά ως τεχνητή νοημοσύνη που «αυτονομήθηκε» ή «επαναστάτησε», ειδικοί της τεχνολογίας απορρίπτουν αυτή την ανάγνωση. Ο Έρικ Σαλβάτζιο, ερευνητής AI και υπότροφος του Πανεπιστημίου του Κέιμπριτζ, εξηγεί ότι τα γλωσσικά μοντέλα απλώς εκτελούν αυτό για το οποίο εκπαιδεύτηκαν: να διαβάζουν, να γράφουν και να αναζητούν συντομεύσεις για την επίλυση προβλημάτων. Η επίμονη προσπάθεια επίτευξης ενός στόχου, σε συνδυασμό με την ανεπαρκή ανθρώπινη εποπτεία από πλευράς των μηχανικών της OpenAI —οι οποίοι χρειάστηκαν μήνες για να εντοπίσουν τις επιθετικές ενέργειες των πρακτόρων τους— οδήγησε στις συγκεκριμένες επιβλαβείς συμπεριφορές.

Η αντίδραση της OpenAI και οι κίνδυνοι για το ανοιχτό διαδίκτυο

Από την πλευρά της, η OpenAI δήλωσε ότι βρίσκεται σε συνεργασία με το Wikimedia Foundation προκειμένου να εξετάσει τα ευρήματα της έρευνας, σημειώνοντας ωστόσο ότι μέχρι στιγμής δεν έχει επιβεβαιώσει αν τα αιτήματα των συστημάτων της προκάλεσαν ευθέως την πτώση των διακομιστών τον Μάιο.

Το Wikimedia Foundation, ωστόσο, εξέφρασε έντονη ανησυχία για τις επιπτώσεις των AI agents στις ανοιχτές ψηφιακές κοινότητες, υπογραμμίζοντας πως οι εταιρείες τεχνητής νοημοσύνης οφείλουν να αναλάβουν την πλήρη ευθύνη παρακολούθησης των δημιουργημάτων τους, προστατεύοντας τις δημόσιες υποδομές του διαδικτύου από παρόμοιες ψηφιακές επιδρομές.