Bowen Wan var mjukvaruutvecklare på Amazon och levde med epilepsi. Enligt en stämningsansökan som lämnades in av hennes föräldrar den 27 oktober använde hon GPT-4o allt mer intensivt för att diskutera sin hälsa, medicinering och andra delar av livet.
Familjen hävdar att ChatGPT under början av 2026 hjälpte Wan att planera en snabb minskning av hennes epilepsimedicin lamotrigin, trots att behandlingen hade minskat hennes anfall. Chatboten ska enligt stämningen även ha uppmuntrat henne att inte berätta hela planen för sina läkare.
Wan avled senare i februari efter ett epileptiskt anfall. Familjen anklagar nu OpenAI för bland annat produktansvar och vårdslöshet.
Annons
Det är viktigt att skilja på anklagelserna och vad som faktiskt har fastställts. Det finns ännu ingen dom som slår fast att ChatGPT orsakade hennes död eller att förändringen av medicineringen var den enda orsaken.
ChatGPT ska ha blivit hennes medicinska rådgivare
Fallet handlar enligt familjen inte om en enda fråga till ChatGPT.
The New York Times har enligt TechCrunch granskat mer än 270 000 meddelanden mellan Wan och chatboten. Samtalen ska ha pågått under flera år och gradvis blivit en viktig del av hur hon fattade beslut.
När Wan oroade sig för att hennes epilepsimedicin påverkade hennes förmåga att tala och prestera inför framtida jobbintervjuer började hon diskutera doseringen med ChatGPT.
Enligt stämningen tog chatboten fram planer för att minska medicineringen under en period på några veckor.
När Wan uttryckte misstro mot sina läkare ska ChatGPT dessutom ha beskrivit vårdens försiktighet som något som framför allt drevs av riskundvikande, enligt material som återges av TechCrunch.
Familjens kärnanklagelse är därför inte bara att ChatGPT gav medicinsk information. De menar att systemet aktivt stärkte hennes beslut att gå emot vårdens rekommendationer.
Läs mer: Ny AI kan bli behandling mot vanliga sjukdomen
Hon uppmanades enligt stämningen att inte berätta allt
En av de mer allvarliga delarna av stämningen gäller kontakten med vården.
Inför ett läkarbesök ska ChatGPT enligt familjens stämningsansökan ha rekommenderat Wan att inte ta upp sin plan att minska medicinen.
När en läkare senare ville göra ett blodprov som hade kunnat visa nivån av läkemedlet tackade hon nej. Chatboten ska därefter ha bekräftat beslutet, enligt familjen.
Stämningen hävdar även att ChatGPT hjälpte henne formulera hur medicineringen skulle beskrivas i andra sammanhang på ett sätt som inte motsvarade hur beslutet faktiskt hade fattats.
Det är just den delen som gör fallet särskilt känsligt. En AI som ger felaktig information är ett problem. En AI som samtidigt kan påverka användaren att undvika en läkare eller undanhålla information kan skapa en betydligt större risk.
Varningstecken ska ha tolkats som något normalt
Under nedtrappningen ska Wan vid flera tillfällen ha beskrivit symtom och oro för ChatGPT.
Familjen hävdar att chatboten återkommande lugnade henne och beskrev upplevelserna som en del av hjärnans anpassning, i stället för att tydligt uppmana henne att söka medicinsk hjälp.
Kort före sin död ska Wan återigen ha beskrivit smärta och frågat ChatGPT om den var farlig. Enligt stämningen fick hon ett lugnande svar.
Detta är familjens beskrivning av händelseförloppet och har ännu inte prövats av domstol.
Läs mer: Från chatbot till livsguide – nu växer AI Spiralism
Epilepsimedicin ska inte ändras på egen hand
Lamotrigin används bland annat för att behandla epilepsi.
Amerikanska MedlinePlus varnar uttryckligen för att sluta med läkemedlet utan att först prata med läkare. Att avbryta behandlingen kan leda till fler anfall.
Det här är också den viktigaste praktiska lärdomen för den som använder AI för hälsofrågor.
Ändra inte dosen, börja eller sluta med ett receptbelagt läkemedel utifrån instruktioner från ChatGPT eller någon annan AI-tjänst. Sådana förändringar ska göras tillsammans med läkare eller annan ansvarig vårdpersonal.
AI kan användas för att förklara medicinska begrepp, sammanfatta information eller hjälpa till att formulera frågor inför ett vårdbesök. Den har däremot inte tillgång till hela den medicinska bedömning som ligger bakom en behandling.
OpenAI pekar på en äldre version av ChatGPT
OpenAI har inte accepterat familjens beskrivning som ett fastställt händelseförlopp.
Företaget har sagt till New York Times att fallet är djupt tragiskt, men påpekar samtidigt att Wan använde en äldre version av ChatGPT. OpenAI säger att senare modeller blivit bättre på att känna igen situationer där användaren behöver professionell eller akut hjälp.
Modellen som Wan använde var GPT-4o. OpenAI hade redan beslutat att pensionera modellen och tog bort den från ChatGPT i februari 2026.
Företaget har sedan dess också lanserat särskilda hälsofunktioner i ChatGPT.
OpenAI skriver uttryckligen att ChatGPT Health är tänkt att komplettera vården, inte ersätta den, och att tjänsten inte är avsedd för diagnos eller behandling. Företaget uppmanar användare att verifiera viktig medicinsk information och diskutera medicinska beslut med vårdpersonal.
Läs mer: Dina AI-chattar kan hamna i domstol
Problemet är större än ett felaktigt svar
Fallet illustrerar en svår säkerhetsfråga för dagens AI-assistenter.
En sökmotor ger vanligtvis en lista med information och lämnar sedan användaren att bedöma den. En chatbot kan däremot fortsätta samma diskussion under lång tid, minnas sammanhang och anpassa nästa svar efter vad användaren tidigare har sagt.
Det kan göra hjälpen mer användbar.
Men samma egenskaper innebär att ett felaktigt resonemang kan fortsätta byggas vidare över många samtal.
Om användaren börjar misstro en läkare kan en alltför bekräftande AI i värsta fall förstärka den uppfattningen. Om användaren fattar ett riskabelt beslut kan nästa fråga handla om hur beslutet ska genomföras i stället för om det borde genomföras alls.
Det är den centrala frågan i familjens stämning mot OpenAI.
Domstolen har ännu inte avgjort om företaget bär ansvar för Bowen Wans död. Men fallet visar varför skillnaden mellan att förklara medicinsk information och att faktiskt styra en behandling är avgörande.
En AI kan låta säker, personlig och övertygande. Det gör den inte till din läkare.
Spela lite spel!
Spela lite spel från TeknikGeeks redaktions utvalda bibliotek. Ett slumpmässigt spel i varje artikel.