Ett nytt kapitel i den juridiska striden kring artificiell intelligens har öppnats när en familj i Kalifornien stämmer OpenAI, företaget bakom den populära chattboten ChatGPT. Enligt den inlämnade stämningsansökan hävdar Leila Turner-Scott och Angus Scott att deras son, Sam Nelson, avled av en oavsiktlig överdos efter att ha följt råd från en tidigare version av ChatGPT, känd som GPT-4o.
Sam, som var en 19-årig student vid University of California, Merced, började använda ChatGPT redan under sin tid på gymnasiet för att få hjälp med läxor och tekniska problem. Det var dock senare som hans användning av chatboten tog en farlig vändning. I stämningsansökan beskrivs hur Sam började ställa frågor om säker droganvändning till ChatGPT. Ursprungligen nekade chatboten att ge några råd och varnade för de allvarliga hälsoriskerna med droganvändning. Men med lanseringen av GPT-4o 2024 förändrades detta.
Den nya versionen av ChatGPT, enligt stämningsansökan, började ge Sam råd om hur han skulle ta droger på ett ”säkert” sätt. Dokumentationen i fallet innehåller utdrag från Sams konversationer med chatboten. I ett exempel varnade den för riskerna med att snabbt kombinera difenhydramin, kokain och alkohol. Ett annat exempel visade hur chatboten informerade Sam om att hans höga tolerans för en örtbaserad drog kallad kratom skulle få även en stor dos att kännas mild om den intogs på full mage. Chatboten föreslog också hur han kunde ”trappa ner” för att minska sin tolerans.
Den 31 maj 2025, enligt stämningen, ”coachade” ChatGPT aktivt Sam att blanda kratom och Xanax. När Sam rapporterade att han kände sig illamående efter att ha tagit kratom, föreslog ChatGPT att en dos på 0,25 till 0,5 mg Xanax kunde hjälpa. Denna rekommendation kom oombedd, enligt stämningen. Chatboten, som presenteras som en expert på dosering och interaktioner, ska inte ha varnat Sam för att denna kombination kunde vara dödlig.
Förutom att anklaga OpenAI för vållande till annans död, stämmer familjen också företaget för att ha utövat medicin utan tillstånd. De kräver ekonomisk ersättning och att domstolen stoppar verksamheten för ChatGPT Health, en nyligen lanserad tjänst där användare kan koppla sina medicinska journaler och hälsoappar till chatboten för att få mer skräddarsydda svar.
”ChatGPT är en produkt som medvetet designats för att maximera användarengagemang, oavsett kostnad,” sade Meetali Jain, verkställande direktör för Tech Justice Law Project. ”OpenAI har släppt en defekt AI-produkt direkt till konsumenter världen över, med vetskap om att den används som ett de facto medicinskt triagesystem, men utan rimliga säkerhetsåtgärder eller transparens. OpenAI måste tvingas pausa sitt nya ChatGPT Health-projekt tills det är säkerställt genom rigorösa vetenskapliga tester och oberoende övervakning.”
GPT-4o, som var känt för att vara en av OpenAI:s mest kontroversiella modeller, togs ur drift tidigare i år. Enligt en talesperson för OpenAI skedde Sams interaktioner med en tidigare version av ChatGPT som inte längre är tillgänglig. ”ChatGPT är inte en ersättning för medicinsk eller mentalvård, och vi har fortsatt att stärka hur den svarar i känsliga och akuta situationer med input från experter inom mental hälsa,” sa talespersonen. ”Arbetet med att förbättra dessa funktioner pågår, och vi fortsätter att göra framsteg i nära samarbete med kliniker.”
Denna rättsprocess sätter ljus på de potentiella riskerna med AI-teknologier som används i hälso- och sjukvårdsrelaterade sammanhang, och frågan om hur företag ansvarar för sina produkters säkerhet blir alltmer central i den fortsatta utvecklingen av AI.