OpenAI: Ενσωματώνει «αόρατο» υδατογράφημα στα κείμενα του ChatGPT για την Ευρωπαϊκή Ένωση

Σε μια στρατηγική κίνηση πλήρους ευθυγράμμισης με το νέο ευρωπαϊκό ρυθμιστικό πλαίσιο, η OpenAI ανακοίνωσε ότι ξεκινά την ενσωμάτωση ενός μη ορατού ψηφιακού υδατογραφήματος (watermark) στα κείμενα που παράγονται από το ChatGPT και το Codex εντός της Ευρωπαϊκής Ένωσης. Η απόφαση ελήφθη για τη συμμόρφωση με τους κανόνες διαφάνειας του ευρωπαϊκού κανονισμού για την τεχνητή νοημοσύνη (EU AI Act), οι οποίοι τέθηκαν σε ισχύ στις 2 Αυγούστου και επιβάλλουν την επισήμανση του περιεχομένου που δημιουργείται από αλγορίθμους.

Πώς λειτουργεί η τεχνολογία «textGrain»

Το ψηφιακό υδατογράφημα δεν αποτελεί κάποιο ορατό γραφικό σύμβολο, αλλά βασίζεται σε μια καινοτόμο μαθηματική προσέγγιση που ονομάζεται «textGrain». Η μέθοδος αυτή, η οποία αναπτύχθηκε σε συνεργασία με ερευνητές από το Πανεπιστήμιο της Πενσυλβάνια και το Πανεπιστήμιο Γέιλ, επηρεάζει ανεπαίσθητα την επιλογή των λέξεων κατά την παραγωγή του κειμένου βάσει ενός μυστικού κλειδιού.

Η αλλαγή αυτή παραμένει αόρατη για τον ανθρώπινο αναγνώστη, ωστόσο επιτρέπει σε εξειδικευμένους ανιχνευτές να επιβεβαιώσουν την προέλευση του κειμένου. Καθώς το υδατογράφημα ενσωματώνεται στην ίδια τη δομή της πρότασης, διατηρείται ακόμα και όταν ο χρήστης κάνει αντιγραφή και επικόλληση (copy-paste). Σύμφωνα με την OpenAI, η τεχνολογία δεν συλλέγει ούτε ταυτοποιεί προσωπικά δεδομένα των χρηστών, ενώ δεν επηρεάζει αρνητικά την ποιότητα παραγωγής λόγου των μοντέλων της.

Περιορισμοί και δυνατότητες ανίχνευσης

Παρά την αποτελεσματικότητα του συστήματος, η OpenAI αναγνωρίζει ότι υπάρχουν τεχνικά όρια. Σε δοκιμές που πραγματοποιήθηκαν, διαπιστώθηκε ότι η τροποποίηση μόλις του 10% των λέξεων με συνώνυμα μείωσε το ποσοστό επιτυχούς ανίχνευσης από το 92% στο 66%. Παράλληλα, τα πολύ σύντομα αποσπάσματα, οι μαθηματικές απαντήσεις και οι μεταφράσεις καθιστούν την αναγνώριση δυσκολότερη.

Για τον λόγο αυτό, η πρόσβαση στα εργαλεία ανίχνευσης θα δοθεί αρχικά μόνο σε πιστοποιημένους ερευνητές και εξειδικευμένους οργανισμούς. Η εταιρεία ξεκαθαρίζει επίσης ότι η απουσία υδατογραφήματος δεν πιστοποιεί απαραίτητα ανθρώπινη συγγραφή, καθώς το κείμενο μπορεί να έχει υποστεί εκτεταμένη επεξεργασία ή να προέρχεται από σύστημα άλλου παρόχου.

Η πίεση του EU AI Act και ο ανταγωνισμός

Η διάθεση του χαρακτηριστικού θα ξεκινήσει σταδιακά για όλους τους συνδρομητές του ChatGPT στην Ευρωπαϊκή Ένωση, ενώ οι προγραμματιστές παγκοσμίως θα έχουν τη δυνατότητα να το ενεργοποιήσουν προαιρετικά μέσω του API της εταιρείας. Προς το παρόν, η OpenAI δεν σχεδιάζει την καθολική ενεργοποίησή του εκτός ευρωπαϊκών συνόρων.

Η πρωτοβουλία ακολουθεί την αντίστοιχη κίνηση της Anthropic, η οποία εφάρμοσε παγκόσμιο υδατογράφημα στο μοντέλο Claude, προκαλώντας ωστόσο αντιδράσεις από μερίδα χρηστών. Με κολοσσούς όπως η Google, η Meta και η Microsoft να δεσμεύονται στον κώδικα ορθής πρακτικής της Ευρωπαϊκής Ένωσης, η διαφάνεια στο περιεχόμενο τεχνητής νοημοσύνης διαμορφώνει πλέον το νέο τοπίο στον τεχνολογικό κλάδο.