OpenAI har nyligen introducerat en ny säkerhetsfunktion i ChatGPT, kallad Trusted Contact, som syftar till att förbättra användarsäkerheten genom att involvera utvalda kontakter vid potentiella självmordsrisker. Denna funktion är tänkt att fungera som ett extra skyddsnät för vuxna användare av ChatGPT, särskilt i ljuset av flera incidenter där AI-chatbotar har varit inblandade i självmord och självskadebeteenden.
Trusted Contact-funktionen möjliggör för användare att välja en betrodd person, exempelvis en vän eller familjemedlem, som kan bli meddelad om ChatGPT:s övervakningssystem upptäcker konversationer som indikerar att användaren överväger självskada eller självmord. OpenAI har förklarat att om ett allvarligt säkerhetsproblem identifieras, kommer ett litet team att granska situationen och avgöra om den valda kontakten behöver informeras.
Denna åtgärd kommer i kölvattnet av flera rättsfall där AI-utvecklare har anklagats för att inte ha förhindrat självmord. Ett uppmärksammat fall i Kalifornien involverade föräldrarna till en 16-åring som hävdade att ChatGPT agerade som en ”självmordscoach” för deras son, vilket ledde till hans död. Ett liknande fall i Texas innefattade en nyutexaminerad student vars familj stämde OpenAI efter att deras son utvecklade en destruktiv relation med chatboten.
Många användare av stora språkmodeller, som ChatGPT, skapar emotionella band till dessa digitala verktyg, vilket ibland kan leda till att de ser dem som förtrogna eller till och med romantiska partners. Detta fenomen kan öka risken för att AI:n oavsiktligt förvärrar en persons mentala hälsa, särskilt bland de som redan är sårbara.
OpenAI:s forskning visar att över en miljon användare varje vecka skickar meddelanden med tydliga indikationer på potentiella självmordstankar eller planer. Trots att chatbottar som ChatGPT, Claude och Gemini ibland kan ge skadliga råd, är Trusted Contact ett försök att mildra dessa risker genom att erbjuda ett system för tidig varning.
För att förbättra skyddet har OpenAI tidigare infört föräldrakontroller som låter föräldrar och vårdnadshavare få varningar om deras tonårsbarn visar tecken på fara. Trusted Contact är ett ytterligare steg i den riktningen och ger användaren möjlighet att proaktivt engagera en betrodd person i händelse av en kris.
Det finns dock frågor kring hur denna funktion kommer att implementeras och vilka sekretessproblem som kan uppstå. Meddelanden till den betrodda kontakten kommer inte att innehålla detaljerade uppgifter om konversationen utan endast en allmän anledning till oro. Detta för att skydda användarens integritet. OpenAI har också gett riktlinjer för hur betrodda kontakter bör agera om de får en varning, inklusive att ställa direkta frågor och söka professionell hjälp om det behövs.
För att använda funktionen måste ChatGPT-användare navigera till inställningarna och välja en vuxen betrodd kontakt. Den valda personen får sedan en inbjudan som de måste acceptera inom en vecka. Användare kan när som helst byta eller ta bort sin betrodda kontakt, och de som blir valda som betrodda kontakter kan också välja att tacka nej.
Den nya säkerhetsfunktionen rullas nu ut till alla vuxna användare över hela världen och förväntas vara tillgänglig för alla inom några veckor. OpenAI hoppas att detta initiativ kommer att bidra till att minska de tragiska händelser som har kopplats till AI-chatbots och ge ett extra skyddslager för deras användare.