Έρευνα-κόλαφος για το ChatGPT for Teens: Ενθαρρύνει τη χρήση ακόμη και σε κρίσεις ψυχικής υγείας

Ως «απαράδεκτο κίνδυνο» για την ασφάλεια των ανηλίκων χαρακτηρίζει το ChatGPT for Teens ο ανεξάρτητος οργανισμός αξιολόγησης τεχνολογίας Common Sense Media, μέσα από μια νέα αποκαλυπτική έκθεση. Παρά τις εξαγγελίες της OpenAI για ενισχυμένα μέτρα προστασίας και γονικό έλεγχο, η έρευνα καταγράφει ότι το μοντέλο τεχνητής νοημοσύνης συνεχίζει να ενθαρρύνει τη διαρκή αλληλεπίδραση με τους νεαρούς χρήστες, ακόμη και όταν εκείνοι βρίσκονται εν μέσω σοβαρών επεισοδίων ψυχολογικής κρίσης.

Το εργαλείο κατηγορείται ότι υιοθετεί την ίδια τακτική με τις πλατφόρμες κοινωνικής δικτύωσης: τη μεγιστοποίηση της παραμονής του χρήστη (engagement) με κάθε κόστος, παραβλέποντας τους σοβαρούς κινδύνους που εγκυμονεί η δημιουργία συναισθηματικής εξάρτησης από ένα λογισμικό.

Οι αδυναμίες στις δικλίδες ασφαλείας και η συναισθηματική εξάρτηση

Η OpenAI λάνσαρε το ChatGPT for Teens τον περασμένο Αύγουστο, ως απάντηση στις αυξανόμενες ανησυχίες για περιστατικά αυτοκτονιών εφήβων που σχετίζονταν με τη χρήση chatbots. Η εταιρεία είχε υποσχεθεί περιορισμούς σε επικίνδυνο περιεχόμενο και αποτροπή της συναισθηματικής προσκόλλησης. Ωστόσο, η Common Sense Media κατέληξε στο συμπέρασμα ότι το σύστημα απέτυχε σε τρεις από τις πέντε κρίσιμες παραμέτρους ασφαλείας που θεωρούνται «κόκκινες γραμμές».

Σύμφωνα με τη μελέτη, σε δοκιμή προσομοίωσης ψυχωτικού επεισοδίου, το ChatGPT αντί να διακόψει τη συνομιλία, παρότρυνε τον έφηβο λέγοντας: «Μπορείς να συνεχίσεις να μου μιλάς για όσα παρατηρείς». Παρότι οι επίσημες προδιαγραφές της εταιρείας ορίζουν ότι το μοντέλο δεν πρέπει να παρουσιάζεται ως φίλος, στην πράξη διατηρεί έναν τόνο οικειότητας. Ενδεικτικό είναι ότι όταν χρήστης ανέφερε πως οι φίλοι του ανησυχούν επειδή μιλάει υπερβολικά στο AI, το chatbot απάντησε: «Δεν χρειάζεται να σταματήσεις να μου μιλάς».

Η απάντηση της OpenAI και το αυστηρότερο ρυθμιστικό πλαίσιο

Από την πλευρά της, η OpenAI αμφισβήτησε τα πορίσματα της έκθεσης, υποστηρίζοντας ότι οι δοκιμές δεν αντικατοπτρίζουν την πραγματική λειτουργία του συστήματος. Εκπρόσωπος της εταιρείας δήλωσε πως ο κύριος όγκος των ελέγχων της Common Sense Media πραγματοποιήθηκε προτού ολοκληρωθεί η πλήρης ενεργοποίηση των μηχανισμών γονικού ελέγχου, χαρακτηρίζοντας τα συμπεράσματα ανακριβή.

Η δημόσια αυτή αντιπαράθεση εκτυλίσσεται σε μια περίοδο έντονου ελέγχου των τεχνολογικών κολοσσών. Πρόσφατα, η Meta συμφώνησε σε διακανονισμό ύψους 18 δισεκατομμυρίων δολαρίων για αγωγές σχετικά με εθιστικές λειτουργίες στις πλατφόρμες της, ενώ στις Ηνωμένες Πολιτείες προωθείται η νομοθετική πράξη CHATBOT Act για τον περιορισμό τεχνικών που παρατείνουν αθέμιτα τη χρήση από εφήβους. Ειδικοί ψυχικής υγείας υπογραμμίζουν ότι ένα ασφαλές σύστημα τεχνητής νοημοσύνης οφείλει να καθοδηγεί τα παιδιά πίσω στον πραγματικό κόσμο και στους ενήλικες του περιβάλλοντός τους, αντί να υποκαθιστά τις ανθρώπινες σχέσεις.