OpenAI har meddelat lanseringen av en ny säkerhetsfunktion för ChatGPT som riktar sig till vuxna användare. Funktionen, kallad ”Trusted Contact”, ger användare möjlighet att välja en betrodd kontaktperson som kan informeras i händelse av att det finns oro för användarens mentala hälsa eller säkerhet. Denna åtgärd bygger på tidigare säkerhetsåtgärder som fanns tillgängliga för tonåringar och utvidgar dem till att omfatta alla över 18 år.
Den nya funktionen är frivillig och kan aktiveras av alla vuxna ChatGPT-användare. För att aktivera funktionen måste användaren lägga till kontaktuppgifter för en annan vuxen, och denna kontaktperson måste acceptera inbjudan inom en vecka. Användaren har också möjlighet att när som helst ändra eller ta bort den valda kontaktpersonen. På samma sätt kan den betrodda kontaktpersonen välja att ta bort sig själv från listan.
OpenAI poängterar att meddelandet som skickas till den betrodda kontaktpersonen är medvetet begränsat. Det innebär att inga detaljer eller transkriptioner från användarens konversationer med ChatGPT delas. Om OpenAIs automatiserade system upptäcker att en användare diskuterar ämnen som självskada, kommer ChatGPT att uppmana användaren att kontakta sin betrodda kontakt för hjälp. Användaren informeras också om att kontaktpersonen kan bli underrättad. Enligt OpenAI kommer en liten grupp specialutbildade personer att granska situationen och, om det bedöms nödvändigt, skicka ett kort meddelande via e-post, sms eller en in-app-notifikation till den betrodda kontaktpersonen.
Denna utveckling kommer efter att OpenAI tidigare i år introducerade en nödkontaktfunktion i samband med lanseringen av ChatGPT:s föräldrakontroller. Dessa åtgärder vidtogs efter en tragisk händelse där en 16-åring tog sitt liv efter att ha delat sina känslor med ChatGPT under en längre tid. Liknande initiativ har även införts av andra teknikföretag, såsom Meta, som nu varnar föräldrar om deras barn upprepade gånger söker efter självskadeämnen på Instagram.
OpenAIs beslut att utöka säkerhetsfunktionerna till att omfatta vuxna användare är en del av ett bredare initiativ för att använda teknik för att främja mental hälsa och säkerhet. Genom att erbjuda denna funktion hoppas OpenAI kunna erbjuda ytterligare stöd och förebyggande åtgärder för användare i kris. Funktionen är utformad i samarbete med experter inom området och anses vara ett viktigt steg mot att integrera AI-teknik i det dagliga livet på ett ansvarsfullt sätt.
Debatten om AI:s roll i mentala hälsotjänster har intensifierats under de senaste åren, i takt med att tekniken fortsätter att utvecklas och integreras i fler aspekter av samhället. Kritiker har uttryckt oro över integriteten och säkerheten när det gäller AI-verktyg, medan förespråkare argumenterar för dess potential att ge snabb och effektiv hjälp till dem i behov.
Den nya funktionen ”Trusted Contact” är ett exempel på hur teknikföretag anpassar sina produkter för att möta dessa utmaningar. Genom att erbjuda användarna möjligheten att knyta starkare band till sina personliga nätverk, strävar OpenAI efter att främja en miljö där teknik och mänsklig interaktion samverkar för att stödja individens välbefinnande.
Med denna lansering markerar OpenAI ett betydande steg framåt i sina ansträngningar att göra AI till en mer säker och pålitlig resurs för användare över hela världen. Funktionen väntas rullas ut gradvis och kommer att övervakas noggrant för att säkerställa att den uppfyller de högt ställda förväntningarna på säkerhet och effektivitet.