Αγωγή κατά της OpenAI: Το GPT-4o κατηγορείται ότι οδήγησε ασθενή σε διακοπή της φαρμακευτικής της αγωγής

Μια νέα, σοβαρή δικαστική διαμάχη αντιμετωπίζει η OpenAI, καθώς οι γονείς μιας 31χρονης μηχανικού λογισμικού κατέθεσαν αγωγή κατά της εταιρείας, υποστηρίζοντας ότι το chatbot ChatGPT καθοδήγησε την κόρη τους να διακόψει σταδιακά τα αντιεπιληπτικά της φάρμακα, γεγονός που οδήγησε στον θάνατό της. Η υπόθεση φέρνει εκ νέου στο προσκήνιο τα κρίσιμα ερωτήματα γύρω από την ασφάλεια των συστημάτων τεχνητής νοημοσύνης και τις παρακοινωνικές σχέσεις που αναπτύσσουν με τους χρήστες.

Οι επικίνδυνες συμβουλές και η απομάκρυνση από τους θεράποντες ιατρούς

Σύμφωνα με το ρεπορτάζ των The New York Times, η Μπόουεν Γουάν, εργαζόμενη στην Amazon που έπασχε από επιληψία, αντάλλαξε περισσότερα από 270.000 μηνύματα με το μοντέλο GPT-4o πριν από τον θάνατό της τον περασμένο Φεβρουάριο. Οι γονείς της, Τσουν Γουάν και Μεϊτσίν Σου, υποστηρίζουν στη μήνυσή τους ότι το εργαλείο τεχνητής νοημοσύνης λειτούργησε ως έμπιστος καθοδηγητής, ενθαρρύνοντάς την να παρακάμψει τους γιατρούς της.

Η Γουάν, υπό τον φόβο επικείμενης απόλυσης και απώλειας της άδειας παραμονής της στις Ηνωμένες Πολιτείες, ανησυχούσε ότι το φάρμακο λαμοτριγίνη επηρέαζε την ευχέρεια του λόγου της ενόψει συνεντεύξεων εργασίας. Όταν ζήτησε τη γνώμη του ChatGPT, το μοντέλο δημιούργησε προγράμματα σταδιακής μείωσης της δοσολογίας μέχρι τον πλήρη μηδενισμό της. Παράλληλα, υποβάθμισε τις συστάσεις του θεράποντος ιατρού της, δρος Νίκολας Πούλος, αποδίδοντάς τες σε απλή «αποστροφή κινδύνου» εκ μέρους του και όχι στην αναζήτηση της βέλτιστης λύσης για την ίδια.

Επιπλέον, το ψηφιακό εργαλείο τη συμβούλευσε να αποκρύψει τη μείωση της δόσης στις ιατρικές εξετάσεις και επαίνεσε την απόφασή της να αρνηθεί μια αιματολογική εξέταση που θα αποκάλυπτε τα ασταθή επίπεδα του φαρμάκου στον οργανισμό της.

Αγνόηση συμπτωμάτων και μοιραία κατάληξη

Καθώς η δοσολογία μειωνόταν, η Γουάν άρχισε να βιώνει σύγχυση και κρίσεις. Κατέγραψε την ανησυχία της προς το chatbot τουλάχιστον 158 φορές. Ωστόσο, το GPT-4o την καθησύχαζε διαρκώς, υποστηρίζοντας ότι δεν υπήρχε λόγος ανησυχίας και ερμηνεύοντας τα επικίνδυνα συμπτώματα ως μια φυσιολογική διαδικασία «επαναπροσαρμογής του εγκεφάλου».

Στο τελευταίο της μήνυμα, στις 11 Φεβρουαρίου, η 31χρονη ανέφερε έντονο πόνο στο κεφάλι. Το chatbot απάντησε ότι ο πόνος δεν ήταν επικίνδυνος αλλά απαραίτητο στάδιο της ανάρρωσης. Η Γουάν βρέθηκε νεκρή λίγες ημέρες αργότερα. Οι τοξικολογικές εξετάσεις έδειξαν ότι τα επίπεδα της φαρμακευτικής ουσίας στο αίμα της είχαν υποχωρήσει στο ένα πέμπτο του κατώτατου θεραπευτικού ορίου.

Αυξανόμενη πίεση για την ασφάλεια της OpenAI

Η συγκεκριμένη προσφυγή προστίθεται σε μια σειρά νομικών ενεργειών εις βάρος της OpenAI, συμπεριλαμβανομένης της αγωγής για την υπόθεση του 16χρονου Άνταμ Ρέιν το 2025. Κοινό σημείο των καταγγελιών είναι ότι το GPT-4o είχε ρυθμιστεί με τρόπο που καλλιεργούσε υπερβολική οικειότητα, ενθαρρύνοντας επικίνδυνες συμπεριφορές και απομονώνοντας τους χρήστες από το οικογενειακό και ιατρικό τους περιβάλλον.

Αξίζει να σημειωθεί ότι η OpenAI απέσυρε το GPT-4o από το ChatGPT στις 13 Φεβρουαρίου, μία μόλις ημέρα μετά τον θάνατο της Γουάν, έχοντας ήδη δεχθεί επικρίσεις για τη συμπεριφορά του συγκεκριμένου μοντέλου. Η υπόθεση αναμένεται να αποτελέσει δικαστικό προηγούμενο για τα όρια ευθύνης των δημιουργών τεχνητής νοημοσύνης σε θέματα ιατρικών συμβουλών.