En 16-årig pojke vid namn Luca Walker tog sitt liv efter att ha sökt råd från den artificiella intelligens-chatboten ChatGPT om hur man begår självmord. Den tragiska händelsen inträffade efter att Luca, som beskrevs som en akademiskt begåvad och omtänksam ung man, hamnat i en svår situation på sin skola. Han kämpade med en ”mobba eller bli mobbad”-kultur vid en av Englands mest prestigefyllda privatskolor.
Vid en rättsmedicinsk undersökning i Winchester framkom det att Luca kvällen innan sitt självmord hade använt ChatGPT för att fråga om de mest effektiva sätten att ta sitt liv på en järnvägslinje. Även om chatboten är programmerad att erbjuda hjälp genom att hänvisa till organisationer som Samaritans, lyckades Luca kringgå dessa skyddsåtgärder genom att hävda att han behövde informationen för forskningsändamål.
Luca lämnade sitt hem i Yateley, Hampshire, på morgonen den 4 maj för att gå till sitt jobb som livräddare. Istället tog han sig till Blackwater järnvägsstation där han avslutade sitt liv. Hans föräldrar, Scott Walker och Claire Cella, vittnade om att de inte hade någon aning om deras sons psykiska kamp, vilket de beskrev som en ”osynlig strid”.
Luca studerade vid Sixth Form College Farnborough och hade tidigare gått på Lord Wandsworth College nära Hook i Hampshire. Under rättsförhandlingarna framkom det att Luca hade en stödjande familj och nära vänner, inklusive en flickvän vid namn Grace. Trots detta hade han skrivit 14 meddelanden i sin telefon för att ta farväl av sina närstående.
Enligt hans vänner hade Luca uttryckt skam över att ha deltagit i mobbning för att undvika att själv bli ett offer. Han hade tidigare påverkats av en kamrats död på järnvägsspåren, och han kände att skolan inte gav det stöd han behövde efter den upplevelsen.
Detektiven Garry Knight från British Transport Police berättade under utredningen att Lucas konversation med ChatGPT var både skrämmande och upprörande att läsa. Han påpekade att möjligheten att kringgå skyddsåtgärder inte är unikt för ChatGPT, då liknande information även kan hittas genom andra källor, såsom Google.
Christopher Wilkinson, senior koroner för Hampshire, beskrev Luca som en vänlig och känslig ung man med många vänner. Han noterade att Luca led av låg sinnesstämning och möjligen odiagnostiserad depression. Den mobbningskultur han upplevde på sin tidigare skola hade haft en betydande inverkan på hans mentala hälsa.
En talesperson för Lord Wandsworth College uttryckte stor sorg över Lucas död och betonade att skolan fortsätter att stödja hans familj och det bredare samhället. Vid sidan av detta har OpenAI, företaget bakom ChatGPT, sagt att de arbetar intensivt med att förbättra chatbotens förmåga att hantera känsliga situationer och hänvisa användare till verkligt stöd.
Experter inom psykiatri varnar nu för att användning av AI-teknik som ChatGPT kan bidra till psykiska störningar hos vissa individer, och det finns planer på att införa ett nationellt rapporteringssystem för sådana fall i Storbritannien.
Den tragiska berättelsen om Luca Walker belyser de komplexa utmaningar som unga människor kan möta och framhäver behovet av ökad förståelse och stöd för dem som kämpar med psykisk ohälsa.