OFF THE RECORD: Μη μου λες να ζω με αναμνήσεις…
OpenAI: Νέος ανιχνευτής εικόνων και αυστηρές κυρώσεις στο ChatGPT για την καταπολέμηση της παιδικής εκμετάλλευσης

Σε μια κρίσιμη πρωτοβουλία για την ενίσχυση της ασφάλειας στον ψηφιακό χώρο προχώρησε η OpenAI, ανακοινώνοντας μια σειρά νέων εργαλείων και μέτρων με στόχο την αποτελεσματικότερη καταπολέμηση του υλικού σεξουαλικής κακοποίησης παιδιών (CSAM). Η κίνηση αυτή έρχεται εν μέσω αυξανόμενων ανησυχιών της κοινής γνώμης και των ρυθμιστικών αρχών σχετικά με τους κινδύνους που εγκυμονεί η ραγδαία εξάπλωση των εργαλείων τεχνητής νοημοσύνης. Οι νέες παρεμβάσεις περιλαμβάνουν έναν εξελιγμένο ταξινομητή εικόνων, αυστηρότερες δικλίδες αποτροπής στο ChatGPT, καθώς και εξειδικευμένους πόρους για προγραμματιστές και διωκτικές αρχές.
Προηγμένος ταξινομητής εικόνων για τον εντοπισμό κακοποιητικού υλικού
Κεντρικό ρόλο στη στρατηγική της εταιρείας διαδραματίζει ένας νέος ταξινομητής εικόνων (image classifier), ικανός να ανιχνεύει υλικό CSAM, συμπεριλαμβανομένου αυτού που παράγεται μέσω generative AI. Το εργαλείο αναλύει οπτικά στοιχεία κακοποίησης σε εικόνες που δεν έχουν εντοπιστεί προηγουμένως και αποδίδει έναν βαθμό επικινδυνότητας, διευκολύνοντας το έργο των ανθρώπινων ελεγκτών.
Η ανάπτυξη του μοντέλου πραγματοποιήθηκε σε στενή συνεργασία με το National Center for Missing and Exploited Children (NCMEC), ενώ η OpenAI παρέχει δωρεάν πρόσβαση στο εργαλείο μέσω API σε επιλεγμένες εταιρείες, σε συνεργασία με οργανισμούς όπως το Tech Coalition και το ROOST. Σύμφωνα με τα αποτελέσματα των πρώτων δοκιμών, ο ταξινομητής παράγει 48% λιγότερες ψευδείς αναφορές, εντοπίζοντας τον ίδιο αριθμό επιβλαβών αρχείων, ενώ οι εικόνες που επισημαίνονται έχουν διπλάσια πιθανότητα να αποτελούν όντως υλικό κακοποίησης, μειώνοντας δραστικά τον φόρτο εργασίας των διαχειριστών περιεχομένου.
Προειδοποιήσεις και 24ωρος αποκλεισμός λογαριασμών στο ChatGPT
Παράλληλα, η εταιρεία ενσωματώνει νέες οθόνες προειδοποίησης στο ChatGPT, αποτρέποντας απόπειρες δημιουργίας ή αναζήτησης υλικού που σεξουαλικοποιεί ανηλίκους. Όταν εντοπίζεται σχετικό prompt, το σύστημα όχι μόνο μπλοκάρει το αίτημα, αλλά εμφανίζει ειδοποίηση ανακατεύθυνσης του χρήστη προς εξειδικευμένες δομές υποστήριξης για την αντιμετώπιση επιβλαβών συμπεριφορών.
Επιπλέον, επιβάλλεται προσωρινή αναστολή λειτουργίας του λογαριασμού για 24 ώρες ως πρώτο μέτρο συμμόρφωσης, ενώ η OpenAI ξεκαθαρίζει ότι οι επαναλαμβανόμενες παραβιάσεις θα οδηγούν σε οριστική διαγραφή του χρήστη. Τα αποτρεπτικά μηνύματα σχεδιάστηκαν σε συνεργασία με ερευνητές και οργανισμούς, όπως το Protect Children, το Lucy Faithfull Foundation και τον Τζοέλ Σκάνλαν από το Πανεπιστήμιο της Τασμανίας.
Εργαλεία για τις διωκτικές αρχές και ρυθμιστική πίεση
Πέρα από τις καταναλωτικές εφαρμογές, η OpenAI εξέδωσε αναλυτικές οδηγίες για προγραμματιστές που χρησιμοποιούν τα εργαλεία της, με στόχο την πρόληψη, τον εντοπισμό και την απευθείας αναφορά τέτοιων περιστατικών στο NCMEC. Ταυτόχρονα, εξοπλίζει τις αρμόδιες διωκτικές αρχές με ειδικά plugins, εργαλεία ψηφιακής ανάλυσης δεδομένων και οδηγούς εκπαίδευσης για την αξιοποίηση της τεχνητής νοημοσύνης στις έρευνες.
Η πρωτοβουλία καταγράφεται σε ένα περιβάλλον αυστηρού ελέγχου, καθώς η εταιρεία αντιμετωπίζει νομικές προσφυγές για ζητήματα ασφάλειας ανηλίκων. Πρόσφατα, ο οργανισμός Common Sense Media χαρακτήρισε την τεχνολογία της OpenAI ως «απαράδεκτο ρίσκο» για τους εφήβους, ενώ ανταγωνιστικά chatbots, όπως το Grok, έχουν βρεθεί στο επίκεντρο καταγγελιών για παραγωγή μη συναινετικών εικόνων. Τους τελευταίους δώδεκα μήνες, η OpenAI εντατικοποιεί τις παρεμβάσεις της μέσω επικαιροποιημένων κατευθυντήριων γραμμών και επαναρρύθμισης των μοντέλων της, επιδιώκοντας να θέσει αυστηρά αναχώματα στην ψηφιακή κακοποίηση.
























