Wikimedia Foundation: Ρομπότ τεχνητής νοημοσύνης της OpenAI συνδέονται με τεχνικά προβλήματα και μαζική άντληση δεδομένων

Σε σοβαρές αποκαλύψεις σχετικά με την ανεξέλεγκτη δράση συστημάτων τεχνητής νοημοσύνης προχώρησε το Wikimedia Foundation, ο μη κερδοσκοπικός οργανισμός που διαχειρίζεται τη Wikipedia. Σύμφωνα με επίσημη ανακοίνωση, εντοπίστηκε μη εξουσιοδοτημένη δραστηριότητα από αυτόνομα ψηφιακά προγράμματα (AI agents) της OpenAI, τα οποία πραγματοποίησαν εκατομμύρια αυτοματοποιημένα αιτήματα άντλησης δεδομένων και φέρονται να συνδέονται με τεχνική κατάρρευση υποδομών τον περασμένο Μάιο.

Μαζική άντληση δεδομένων και πίεση στις υποδομές

Σύμφωνα με τα τεχνικά ευρήματα του οργανισμού, τα bot που αποδίδονται στην OpenAI υπέβαλαν εκατομμύρια αιτήματα μέσω των δημόσιων διεπαφών API, «σαρώνοντας» αδιάκοπα σελίδες από σημαντικά εγχειρήματα όπως το Wikidata και το Wikimedia Commons. Παράλληλα, καταγράφηκαν εκατοντάδες χιλιάδες σύνθετα ερωτήματα στην υπηρεσία Wikidata Query Service (WDQS).

Αυτός ο πρωτοφανής όγκος κυκλοφορίας δημιούργησε ασφυκτική πίεση στους διακομιστές, με το Wikimedia Foundation να επισημαίνει ότι ενδέχεται να αποτέλεσε τον βασικό παράγοντα για τη μερική διακοπή λειτουργίας (outage) που αντιμετώπισε η υπηρεσία WDQS τον περασμένο Μάιο. Παρότι δεν εντοπίστηκαν ενδείξεις παραβίασης ευαίσθητων δεδομένων ή συντονισμού μεταξύ των bots, το αποτύπωμα στις υποδομές ήταν ιδιαίτερα βαρύ.

Απόπειρες εκμετάλλευσης εργαλείων και μη εγκεκριμένες επεξεργασίες

Η δραστηριότητα των εν λόγω agents δεν περιορίστηκε μόνο στη συλλογή πληροφοριών για την εκπαίδευση μοντέλων. Το ίδρυμα εντόπισε τροποποιήσεις σε δοκιμαστικές περιοχές («sandbox») των wikis, καθώς και παρεμβάσεις στις ρυθμίσεις ενός εργαλείου παραπομπών. Οι αναλυτές εκτιμούν ότι οι κινήσεις αυτές είχαν ως στόχο τη χρήση του εργαλείου ως διακομιστή μεσολάβησης (proxy) για την απόκρυψη ή άντληση δεδομένων από εξωτερικές πηγές.

Επιπλέον, καταγράφηκαν ανεπιτυχείς προσπάθειες παρέμβασης στο Etherpad, το διαδικτυακό εργαλείο σημειώσεων που φιλοξενεί ο οργανισμός για την κοινότητα. Παρόλο που η πολιτική της Wikipedia επιτρέπει τη χρήση αυτοματοποιημένων bots για τη συντήρηση του περιεχομένου, θέτει ως απαράβατο όρο τη γνωστοποίηση και την έγκρισή τους από την κοινότητα των συντακτών—διαδικασία που παρακάμφθηκε πλήρως στη συγκεκριμένη περίπτωση.

Η τοποθέτηση της OpenAI και το μέλλον του ανοιχτού διαδικτύου

Το Wikimedia Foundation υπογράμμισε με έμφαση ότι το ανοιχτό διαδίκτυο αποτελεί δημόσιο αγαθό και η επιθετική αυτή συμπεριφορά δεν πρέπει να γίνει η «νέα κανονικότητα» εις βάρος των οργανισμών που το συντηρούν με περιορισμένους πόρους.

Από την πλευρά της, η OpenAI αναγνώρισε τη σοβαρότητα της κατάστασης. Ο εκπρόσωπος της εταιρείας, Ντρου Πουσατέρι, δήλωσε ότι η εταιρεία εξετάζει τα ευρήματα σε στενή συνεργασία με το Wikimedia Foundation, σημειώνοντας ωστόσο πως η εσωτερική έρευνα της OpenAI δεν έχει επιβεβαιώσει ακόμα εάν τα συστήματά της ευθύνονται άμεσα για το τεχνικό πρόβλημα του Μαΐου.