OFF THE RECORD: Στη χώρα του "ξέρεις ποιος είμαι εγώ" θα κάνουμε συνταγματική Αναθεώρηση;
Σοβαρά ερωτήματα σχετικά με την ασφάλεια και την ηθική χρήση της τεχνητής νοημοσύνης εγείρει νέα έκθεση του ευρωπαϊκού οργανισμού AI Forensics, σύμφωνα με την οποία η δημοφιλής ανοιχτής πηγής πλατφόρμα Hugging Face αξιοποιείται για τη δημιουργία μη συναινετικών deepfake εικόνων, συμπεριλαμβανομένων περιστατικών που αφορούν παιδιά.
Σύμφωνα με τα ευρήματα της έρευνας, η πλατφόρμα στερείται επαρκών δικλείδων ασφαλείας σε επίπεδο υποδομής. Ενώ τα mainstream μοντέλα παραγωγικής τεχνητής νοημοσύνης, όπως το Gemini της Google και το ChatGPT της OpenAI, διαθέτουν αυστηρούς μηχανισμούς φιλτραρίσματος που αποτρέπουν την παραγωγή σεξουαλικού περιεχομένου ή την ψηφιακή αφαίρεση ρούχων (undressing), κάτι αντίστοιχό δεν φαίνεται να ισχύει για τα εργαλεία που φιλοξενούνται και δοκιμάστηκαν στο Hugging Face.
Ο Πολ Μπουσό (Paul Bouchaud), επικεφαλής ερευνητής στην AI Forensics, τόνισε χαρακτηριστικά ότι «δεν εφαρμόζονται απολύτως καμία ασφαλιστική δικλείδα σε επίπεδο πλατφόρμας», επισημαίνοντας πως η ερευνητική ομάδα δεν χρειάστηκε καν να καταφύγει σε τεχνικές παράκαμψης ή εξεζητημένες προτροπές (prompts) για να φτάσει στο επιθυμητό αποτέλεσμα.
Στο πλαίσιο της έρευνας, οι ειδικοί δημιούργησαν ειδικούς χώρους (Spaces) επεξεργασίας εικόνας στην πλατφόρμα ως «δολώματα» (honeypots), προκειμένου να καταγράψουν τη ζήτηση και τη φύση των αιτημάτων. Αν και οι εφαρμογές αυτές είχαν σχεδιαστεί ώστε να μην παράγουν εικόνες, μέσα σε διάστημα επτά ημερών δέχθηκαν περισσότερα από 1.000 αιτήματα και αρχεία. Σύμφωνα με τα στοιχεία, το 73% των αιτημάτων ήταν σεξουαλικού χαρακτήρα. Εξ αυτών, το 83% αφορούσε την προσπάθεια αφαίρεσης ρούχων από υπάρχουσες φωτογραφίες —με το 95% να στοχεύει γυναίκες— ενώ σχεδόν το 7% των σεξουαλικών αιτημάτων αφορούσε ανήλικα παιδιά.
«Οι περισσότεροι από τους χώρους που δοκιμήθηκαν μπορούν να χρησιμοποιηθούν για τη δημιουργία μη συναινετικών intimate εικόνων, και οι χρήστες όντως τις αξιοποιούν για αυτούς τους σκοπούς», σημείωσε ο Μπουσό.
Η AI Forensics κατέθεσε συγκεκριμένες προτάσεις προς τη διοίκηση του Hugging Face, ζητώντας την άμεση εφαρμογή φίλτρων σε επίπεδο προτροπών (prompt-level filtering) και μηχανισμών σάρωσης αποτελεσμάτων (output-level scanning). Στόχος είναι ο αποκλεισμός αιτημάτων σεξουαλικής επεξεργασίας και επιβλαβούς περιεχομένου σε όλες τις εφαρμογές που παράγουν εικόνες και βίντεο. Ωστόσο, ειδικοί επισημαίνουν ότι ακόμα και η υιοθέτηση αυτών των μέτρων αποτελεί απλώς ένα πρώτο βήμα για μια πλατφόρμα που μέχρι στιγμής έχει δεχθεί έντονη κριτική για την ελαστική πολιτική της.
