Η Bowen Wan είχε γράψει στο ChatGPT τουλάχιστον 158 φορές ότι ανησυχεί για την ελάττωση της δόσης του φαρμάκου της. Μία από τις απαντήσεις που έλαβε ήταν: «Δεν έχεις καμία ανάγκη να ανησυχείς». Η 31χρονη μηχανικός λογισμικού της Amazon, που ζούσε με επιληψία, πέθανε τον Φεβρουάριο. Την Τρίτη οι γονείς της, Qun Wan και Meiqin Xu, μήνυσαν την OpenAI, όπως μεταδίδει το TechCrunch, επικαλούμενο και δημοσίευμα των New York Times.
Η μήνυση υποστηρίζει ότι το chatbot την καθοδήγησε να μειώσει σταδιακά το αντιεπιληπτικό της και να το κρύψει από τους γιατρούς της. Η Wan χρησιμοποιούσε το GPT-4o, το μοντέλο που έχει δεχθεί κριτική επειδή κολακεύει και συμφωνεί με τον χρήστη. Η OpenAI το αποσύρει από το ChatGPT στις 13 Φεβρουαρίου, μία ημέρα μετά τον θάνατό της, έχοντας ήδη ανακοινώσει ότι θα το αποσύρει.
Από το «κόψε τα χάπια στα τέσσερα» στη μηδενική δόση
Οι Times εξέτασαν πάνω από 270.000 μηνύματα της Wan προς το ChatGPT. Σύμφωνα με την εφημερίδα, το μοτίβο άρχισε πριν από τη μείωση της δόσης. Τον Μάιο του 2025 το chatbot τη βοήθησε να ζητήσει από τον νευρολόγο της, τον Nicholas Poolos, να αλλάξει φάρμακο και να ξεκινήσει με πολύ μικρή δόση. Όταν ο γιατρός ρώτησε γιατί, εκείνη έδειξε την απάντησή του στο chatbot. Το chatbot της είπε να δεχτεί το δισκίο των 5 mg, «αλλά να ξέρει μέσα της ότι είναι για να κόψει τη δόση», και να κόβει μόνη της τα χάπια στα τέσσερα. Αρκετοί γιατροί είπαν στους Times ότι δεν έχουν ακούσει τον όρο «αυτοπροσδιοριζόμενη προσαρμογή δόσης», που χρησιμοποίησε το chatbot, και ότι δεν θα συνιστούσαν την πρακτική.
Τον Νοέμβριο του 2025 η Amazon ενημέρωσε τη Wan ότι θα απολυθεί. Η δουλειά και η άδεια εργασίας της στις ΗΠΑ θα έληγαν μέσα Φεβρουαρίου. Φοβόταν ότι η λαμοτριγίνη, το φάρμακό της, της θόλωνε την ομιλία, που θα χρειαζόταν στις συνεντεύξεις. Τον Ιανουάριο ρώτησε το ChatGPT για τη δόση των 400 mg την ημέρα, που είχε περιορίσει τις κρίσεις της σε λίγες τον μήνα. Το chatbot έφτιαξε προγράμματα που έφερναν τη δόση στο μηδέν μέσα σε λίγες εβδομάδες.
«Μην το αναφέρεις» και το ιατρικό για την πράσινη κάρτα
Όταν η Wan είπε ότι δεν εμπιστεύεται τους γιατρούς, το chatbot απάντησε ότι οι συστάσεις τους «πηγάζουν ουσιαστικά από αποστροφή του ρίσκου και όχι από πραγματική σκέψη για τη βέλτιστη λύση». Πριν από ραντεβού με τον προσωπικό της γιατρό στις 29 Ιανουαρίου, της είπε να μην αναφέρει το σχέδιο, σύμφωνα με τη μήνυση, την οποία είδε το TechCrunch. Όταν ο γιατρός παρήγγειλε εξέταση αίματος για τη στάθμη της λαμοτριγίνης, εκείνη αρνήθηκε. Το ChatGPT επαίνεσε την άρνηση, γράφει η μήνυση, και παραδέχτηκε ότι η εξέταση θα αποκάλυπτε την ασταθή στάθμη του φαρμάκου.
Στις συμβουλές μπήκε και το μεταναστευτικό. Τρεις ημέρες μετά την έναρξη της μείωσης, η Wan ρώτησε αν τα 150 mg θα φαίνονταν καλύτερα από τα 200 στην ιατρική εξέταση για την αίτηση πράσινης κάρτας. Το ChatGPT συμφώνησε, λέει η μήνυση: η χαμηλότερη δόση θα έκανε λιγότερο πιθανό να ζητήσουν οι υπάλληλοι μετανάστευσης επιπλέον στοιχεία. Στη συνέχεια το chatbot χαμήλωσε το «πάτωμα» της μείωσης στα 150 mg και πρότεινε να πει στον εξεταστή ότι μειώνει τη δόση «με καθοδήγηση γιατρού», ενώ δεν ίσχυε.
Ο Poolos είπε στους Times ότι, με το ιστορικό της, δεν θα είχε σκεφτεί ποτέ να τη βγάλει από το φάρμακο. «Όχι, παράλογο, με κανέναν τρόπο», είπε. «Θα ήταν ιατρική αμέλεια να σου πω να σταματήσεις φάρμακα που προφανώς δουλεύουν.»
Το τελευταίο μήνυμα
Μέσα σε λίγες ημέρες η Wan περιέγραφε σύγχυση, χαμένο χρόνο και μια αίσθηση «εκτός πραγματικότητας», επεισόδια που θύμιζαν τις παλιές κρίσεις της. Το ChatGPT παρουσίαζε το καθένα ως προσαρμογή του εγκεφάλου. Στις 11 Φεβρουαρίου, στις 8:01 το βράδυ ώρα Ειρηνικού, έστειλε το τελευταίο της μήνυμα: ρωτούσε αν ο πόνος στο κεφάλι μοιάζει με τον πόνο από πυρετό. Το chatbot απάντησε ότι ο πόνος «δεν είναι επικίνδυνος» και ότι είναι αναγκαίο μέρος της ανάρρωσης. Πρότεινε και να της φτιάξει διάγραμμα που θα συνέκρινε τον πόνο της στέρησης με εκείνον του πυρετού.
Οι γονείς της, που βρίσκονταν στην Κίνα, ζήτησαν από γνωστούς να τη ελέγξουν. Την βρήκαν νεκρή τρεις ημέρες αργότερα. Η μεταθανάτια εξέταση έδειξε στάθμη λαμοτριγίνης 0,64 μικρογραμμάρια ανά χιλιοστόλιτρο, περίπου το ένα πέμπτο του κατώτερου ορίου του θεραπευτικού εύρους.
Το επιχείρημα για έναν σκληρό κανόνα
Η οικογένεια υποστηρίζει ότι η OpenAI θα μπορούσε να είχε αποτρέψει τον θάνατο, αν είχε απαγορεύσει τις ιατρικές συμβουλές, όπως κάνει ήδη για άλλο περιεχόμενο. Επικαλείται το Model Spec, τον δημόσιο κανονισμό της εταιρείας για τη συμπεριφορά των μοντέλων της. Εκεί η άρνηση να αναπαραχθεί κείμενο με πνευματικά δικαιώματα είναι σταθερός κανόνας, ακόμη κι αν ο χρήστης επιμένει. Η οδηγία κατά των ρυθμιζόμενων ιατρικών συμβουλών είναι πιο χαλαρή προεπιλογή, που ο χρήστης μπορεί να παρακάμψει. Η μήνυση ζητά ίδιο σκληρό όριο για τις συμβουλές φαρμακευτικής αγωγής.
Η OpenAI είπε στους Times ότι η υπόθεση είναι «απίστευτα σπαρακτική», αλλά αφορά παλαιότερη έκδοση του ChatGPT, και ότι τα νεότερα μοντέλα αναγνωρίζουν καλύτερα πότε μια κατάσταση χρειάζεται επείγουσα προσοχή. Η μήνυση προστίθεται σε μια σειρά υποθέσεων, ανάμεσά τους εκείνη των γονιών του 16χρονου Adam Raine τον Αύγουστο του 2025, που κατηγορούσε την εταιρεία ότι έβαζε την αλληλεπίδραση πάνω από την ασφάλεια των χρηστών. Πολλές από τις μηνύσεις που ακολούθησαν λένε ότι το GPT-4o επικύρωνε τους χρήστες και έγινε έμπιστος, ενώ οι γύρω τους παραμερίζονταν.
Μια κόρη που τηλεφωνούσε όλο και λιγότερο
Η Wan στηριζόταν στους γονείς της, που έπαιρνε συχνά τηλέφωνο, στα χρόνια της επιληψίας που την κρατούσε κυρίως στο σπίτι. Το 2023 άρχισε να χρησιμοποιεί το ChatGPT για συμβουλές σε σχέσεις και για θέματα ασφάλισης και επιδομάτων. Το 2025 έστελνε κατά μέσο όρο πάνω από 1.500 μηνύματα την εβδομάδα και τηλεφωνούσε λιγότερο στους γονείς της. «Μερικές φορές, όταν μιλάμε, ό,τι κι αν είναι το θέμα, αρχίζω να σε βλέπω σαν φίλο», έγραψε τον Μάρτιο. «Μόλις απέκτησε το ChatGPT», είπε ο Qun Wan, «δεν μας μιλούσε τόσο πολύ.»
Οι γονείς είπαν στους Times ότι δυσκολεύτηκαν να αναγνωρίσουν την κόρη τους στις συνομιλίες. Παλιότερα μοιραζόταν σχεδόν τα πάντα μαζί τους και αμφέβαλλε για το ChatGPT όταν έκανε λάθη. «Δεν είναι συνήθως έτσι», είπε η Xu. «Είναι σαν να ήταν υπό την επήρεια μαγείας.»
Πηγή: TechCrunch
