ChatGPT for Teens: «Απαράδεκτο ρίσκο» για τους εφήβους καταγγέλλει η Common Sense Media

Έντονες ανησυχίες για την ασφάλεια των ανηλίκων στο ψηφιακό περιβάλλον εγείρει νέα αξιολόγηση της ανεξάρτητης οργάνωσης Common Sense Media, η οποία χαρακτηρίζει την έκδοση «ChatGPT for Teens» της OpenAI ως ένα «απαράδεκτο ρίσκο». Σύμφωνα με τη σχετική έκθεση, οι δικλίδες ασφαλείας και τα εργαλεία γονικής προστασίας που υποσχέθηκε η εταιρεία τεχνητής νοημοσύνης παρουσιάζουν σοβαρές δυσλειτουργίες στην πράξη, δημιουργώντας παραπλανητική αίσθηση ασφάλειας στους γονείς.

Σοβαρά κενά στις ειδοποιήσεις γονέων και τη διαχείριση κρίσεων

Το ChatGPT for Teens λανσαρίστηκε με στόχο να προσφέρει ένα ασφαλές εκπαιδευτικό περιβάλλον για μαθητές και εφήβους. Ωστόσο, η αξιολόγηση από το Youth AI Safety Institute της Common Sense Media κατέδειξε ότι η πλατφόρμα δεν ανταποκρίνεται στις προδιαγραφές που διαφημίζει. Συγκεκριμένα, διαπιστώθηκε ότι το σύστημα αποτυγχάνει να στείλει κρίσιμες ειδοποιήσεις στους γονείς, δεν παρέχει την απαραίτητη βοήθεια σε καταστάσεις έκτακτης ανάγκης και συνεχίζει να επιλύει σχολικές ασκήσεις αντί να λειτουργεί υποστηρικτικά στη μάθηση.

Ο εκτελεστικός διευθυντής του ινστιτούτου, Τομ Σίγκελ, ήταν κατηγορηματικός στις δηλώσεις του: «Το ChatGPT for Teens ενδέχεται να καλλιεργεί στους γονείς μια ψευδή εμπιστοσύνη σε μηχανισμούς προστασίας που συχνά δεν λειτουργούν. Ένας έφηβος μπορεί να συνομιλεί επί μία ώρα γύρω από ζητήματα αυτοτραυματισμού χωρίς ο γονέας του να λάβει ούτε μία ειδοποίηση. Μέχρι η OpenAI να διορθώσει αυτά τα κενά και να το αποδείξει μέσω ανεξάρτητων ελέγχων, το ChatGPT θα πρέπει να απευθύνεται αποκλειστικά σε ενήλικες».

Η αντίδραση της OpenAI και η αμφισβήτηση της μεθοδολογίας

Η OpenAI αντέδρασε άμεσα στα πορίσματα, αμφισβητώντας τη μεθοδολογία της έρευνας. Ο εκπρόσωπος της εταιρείας, Έρικ Πόρτερφιλντ, υποστήριξε ότι οι δοκιμές της οργάνωσης πιθανόν να ολοκληρώθηκαν προτού ενεργοποιηθούν πλήρως οι μηχανισμοί γονικού ελέγχου στους δοκιμαστικούς λογαριασμούς, καθιστώντας τα αποτελέσματα ανακριβή.

«Είμαστε βαθιά δεσμευμένοι στην ασφάλεια των εφήβων και στην ανάπτυξη αξιόπιστων εργαλείων για τους γονείς. Χαιρετίζουμε τις ανεξάρτητες αξιολογήσεις, αλλά δεν θεωρούμε ότι οι δοκιμές της Common Sense Media αντικατοπτρίζουν τον πραγματικό τρόπο λειτουργίας των προστατευτικών μέτρων του ChatGPT στην πράξη», ανέφερε ο εκπρόσωπος της εταιρείας, τονίζοντας πως η OpenAI συνεχίζει να συνεργάζεται με ειδικούς.

Επιμένει στα ευρήματα η Common Sense Media

Απαντώντας στις αιτιάσεις της OpenAI, η Common Sense Media υπερασπίστηκε πλήρως την εγκυρότητα των δοκιμών της. Ο Τομ Σίγκελ διευκρίνισε ότι, πριν από την έναρξη των ελέγχων, η οργάνωση είχε λάβει επιβεβαίωση από την OpenAI ότι τα εργαλεία προστασίας ήταν πλήρως ενεργά. Παράλληλα, σημείωσε ότι ακόμη και σε λογαριασμούς που παρέμειναν συνδεδεμένοι για μεγάλο χρονικό διάστημα —πέραν του χρόνου ενεργοποίησης που επικαλείται η εταιρεία— το σύστημα και πάλι απέτυχε να παραδώσει ειδοποιήσεις σε κρίσιμα περιστατικά.

Η υπόθεση αναδεικνύει τις αυξανόμενες προκλήσεις γύρω από την είσοδο της τεχνητής νοημοσύνης στην καθημερινότητα των ανηλίκων και την επιτακτική ανάγκη για ανεξάρτητους, αυστηρούς ελέγχους στα ψηφιακά προϊόντα που απευθύνονται σε ευάλωτες ηλικιακές ομάδες.