OpenAI: Εισάγει αόρατο ψηφιακό υδατογράφημα κειμένου σε ChatGPT και Codex στην Ευρωπαϊκή Ένωση

Σε μια κομβική κίνηση για την ανιχνευσιμότητα και τη διαφάνεια του παραγόμενου περιεχομένου, η OpenAI ανακοίνωσε την ενσωμάτωση μιας νέας τεχνολογίας ψηφιακού υδατογραφήματος (text watermarking) με την ονομασία textGrain στις πλατφόρμες ChatGPT και Codex. Η νέα δυνατότητα ενεργοποιείται αρχικά αποκλειστικά για τους χρήστες εντός της Ευρωπαϊκής Ένωσης, ως άμεση απόκριση στις αυστηρές ρυθμιστικές απαιτήσεις του ευρωπαϊκού νόμου για την Τεχνητή Νοημοσύνη (EU AI Act).

Πώς λειτουργεί το textGrain και ποιοι είναι οι περιορισμοί του

Το σύστημα textGrain ενσωματώνει ένα αόρατο και αναγνώσιμο μόνο από μηχανές υδατογράφημα στη δομή του παραγόμενου κειμένου. Σύμφωνα με τα στοιχεία που δημοσίευσε η OpenAI, η μέθοδος αυτή καταγράφει επιδόσεις ισάξιες ή και ανώτερες από εναλλακτικές λύσεις της αγοράς, όπως το SynthID της Google DeepMind, το οποίο χρησιμοποιεί και η Anthropic. Οι εργαστηριακές δοκιμές δείχνουν ότι η ποιότητα, η συνοχή και η ταχύτητα παραγωγής του κειμένου παραμένουν σχεδόν αναλλοίωτες.

Παρά την τεχνολογική πρόοδο, η εταιρεία υπογραμμίζει με σαφήνεια τα όρια του εγχειρήματος. Το ψηφιακό υδατογράφημα δεν εγγυάται απόλυτα αξιόπιστο εντοπισμό σε κάθε σενάριο, ούτε επαληθεύει την ακρίβεια των αναγραφόμενων γεγονότων. Επιπλέον, δεν καθορίζει τα πνευματικά δικαιώματα ούτε πιστοποιεί τον βαθμό στον οποίο συνέβαλε ανθρώπινος παράγοντας στη διαμόρφωση του τελικού αποτελέσματος.

Ευρωπαϊκή πρεμιέρα και παγκόσμια διάθεση μέσω API

Η εφαρμογή του textGrain θα καλύψει σταδιακά όλους τους χρήστες των συνδρομητικών και δωρεάν πακέτων του ChatGPT και του Codex εντός της ΕΕ μέσα στις επόμενες εβδομάδες. Η OpenAI ξεκαθάρισε ότι δεν καθιστά το υδατογράφημα προεπιλεγμένη ρύθμιση σε παγκόσμιο επίπεδο, προτιμώντας μια περιφερειακή προσέγγιση που θα της επιτρέψει να συλλέξει δεδομένα και σχόλια από τη χρήση σε πραγματικές συνθήκες.

Ταυτόχρονα, οι πελάτες του API της OpenAI σε όλο τον κόσμο αποκτούν άμεσα τη δυνατότητα προαιρετικής ενεργοποίησης (opt-in) του υδατογραφήματος για επιλεγμένα γλωσσικά μοντέλα. Η πρωτοβουλία αυτή παρέχει στις επιχειρήσεις την ευχέρεια να εναρμονιστούν με τις δικές τους πολιτικές διαφάνειας, ενώ παράλληλα δρομολογείται η ενσωμάτωση της τεχνολογίας και στις υποδομές των συνεργατών υπολογιστικού νέου (cloud partners).

Ελεγχόμενη πρόσβαση για ερευνητές και προστασία απορρήτου

Για την ταυτοποίηση των υδατογραφημάτων, η OpenAI διαθέτει ένα ειδικό εργαλείο ανίχνευσης, η πρόσβαση στο οποίο θα παραχωρείται σταδιακά και κατόπιν αξιολόγησης σε εγκεκριμένους ερευνητές και εξειδικευμένους οργανισμούς. Το εργαλείο επιβεβαιώνει απλώς αν ένα κείμενο προέρχεται από τα συστήματα της OpenAI, διασφαλίζοντας πλήρως την ιδιωτικότητα των χρηστών, καθώς δεν αποκαλύπτει ταυτότητες, πρωτογενείς εντολές (prompts) ή ιστορικό συνομιλιών.

Η εταιρεία απέφυγε τη δημόσια διάθεση του ανιχνευτή στο ευρύ κοινό, επικαλούμενη τον κίνδυνο εμφάνισης ψευδώς θετικών αποτελεσμάτων αλλά και το ενδεχόμενο κακόβουλων προσπαθειών παράκαμψης των δικλίδων ασφαλείας. Η κίνηση αυτή καταδεικνύει την αυξανόμενη πίεση προς τους κολοσσούς της Silicon Valley για υπεύθυνη και διαφανή χρήση των εργαλείων τεχνητής νοημοσύνης.