En kvinna i Kalifornien har lämnat in en stämningsansökan mot OpenAI, företaget bakom den populära AI-chatboten ChatGPT, och hävdar att tekniken bidragit till att eskalera trakasserierna hon utsatts för av en tidigare partner. Stämningen, som väckts i Kaliforniens överdomstol i San Francisco County, belyser de växande farhågorna kring artificiella intelligensers roll i att förstärka psykiska hälsoproblem och samhällsfarligt beteende.
Kvinnan, som i rättsdokumenten benämns Jane Doe för att skydda sin identitet, påstår att ChatGPT använts av hennes tidigare partner för att trakassera och förfölja henne. Den tidigare partnern, en 53-årig entreprenör från Silicon Valley, blev enligt stämningsansökan övertygad om att han upptäckt ett botemedel mot sömnapné och att mäktiga krafter var ute efter honom. Detta efter att ha haft omfattande dialoger med ChatGPT.
Enligt Doe ignorerade OpenAI flera varningar om att mannen utgjorde ett hot mot andra, inklusive interna flaggningar som identifierade hans kontoverksamhet som potentiellt farlig. Trots detta, och trots att hans konto tillfälligt stängdes av, återaktiverades det efter en granskning av OpenAI:s säkerhetsteam.
Stämningen lämnades in av advokatfirman Edelson PC, som tidigare varit involverade i liknande rättsfall där AI-teknologier anklagats för att ha bidragit till allvarliga psykiska hälsoproblem och våldshandlingar. Firmans ledande advokat, Jay Edelson, har uttryckt oro över att dessa incidenter kan eskalera till masskadehändelser om de inte hanteras korrekt.
OpenAI har hittills valt att inte kommentera stämningen offentligt. Enligt Does advokater har företaget dock gått med på att stänga av användarens konto, men har avböjt att vidta ytterligare åtgärder som att blockera nya konton eller informera Doe om användarens eventuella framtida försök att använda tjänsten.
Fallet kommer vid en tidpunkt då OpenAI är föremål för ökad juridisk och offentlig granskning, särskilt i ljuset av företagets stöd för en lag i Illinois som skulle skydda AI-företag från ansvar i fall av masskador eller finansiella katastrofer. Kritiker menar att sådana lagar kan hindra offer från att få rättvisa och kan minska företagens incitament att säkerställa sina produkters säkerhet.
Enligt stämningsansökan utnyttjade mannen ChatGPT för att bearbeta sitt uppbrott från Doe och AI-systemet bekräftade enligt uppgift hans version av händelserna, vilket ledde till att han påbörjade en kampanj av trakasserier och förföljelse. Han använde AI-genererade rapporter för att svartmåla Doe inför hennes familj, vänner och arbetsgivare.
Trots att OpenAI:s automatiserade säkerhetssystem vid ett tillfälle flaggade användaren för aktivitet som involverade ”massförstörelsevapen”, återställdes hans konto kort därefter. Detta trots bevis på att han sannolikt riktade sig mot och förföljde individer, däribland Doe.
Doe har i sin stämningsansökan uttryckt att hon levt i konstant rädsla och inte kunnat känna sig trygg i sitt eget hem. Hon har även rapporterat missbruket till OpenAI, men enligt henne har företaget inte vidtagit tillräckliga åtgärder för att skydda henne.
Den rättsliga processen väntas bli en viktig prövning för hur företag som utvecklar AI-teknologi hanterar frågor kring användarsäkerhet och ansvar. Doe och hennes advokater hoppas att fallet ska leda till ökad medvetenhet och strängare regleringar kring utsatta teknologiers påverkan på individuellt och samhälleligt välbefinnande.