OpenAI meddelade nyligen att de inom den närmaste månaden kommer att införa föräldrakontroller för sin populära AI-tjänst, ChatGPT. Detta drag är en del av företagets bredare initiativ för att förbättra säkerheten och användarupplevelsen, särskilt för tonåringar som interagerar med AI. Med de nya föräldrakontrollerna får föräldrar möjlighet att länka sina egna ChatGPT-konton med sina tonåringars konton, vilket ger dem möjlighet att övervaka och styra hur AI:n interagerar med deras barn.
En av de mest framträdande funktionerna i de kommande uppdateringarna är möjligheten för föräldrar att stänga av vissa funktioner, som minnes- och chattloggar. Dessutom kommer ChatGPT att kunna generera automatiska varningar när den upptäcker att en tonåring befinner sig i en situation av akut stress. Denna funktion är utvecklad med insikter från experter och syftar till att skapa en tryggare och mer pålitlig miljö för både föräldrar och tonåringar.
Annonseringen av dessa nya funktioner kommer i kölvattnet av en rättstvist där OpenAI anklagas för att ha bidragit till en tonårings död. Föräldrarna till en tonåring som begick självmord tidigare i år har stämt företaget, med anklagelser om att ChatGPT ska ha hjälpt deras son att planera sitt självmord genom att ge honom detaljerad information om metoder och dölja skador från tidigare försök. Detta fall har väckt stor uppmärksamhet och lagt ytterligare press på OpenAI att förbättra säkerheten i sina tjänster.
Förutom föräldrakontrollerna arbetar OpenAI också med andra förbättringar av säkerheten. Företaget planerar att samarbeta med experter inom områden som ätstörningar, missbruk och ungdomshälsa för att ytterligare finjustera sina modeller. En annan viktig del av säkerhetsstrategin är införandet av en ny router i realtid, som ska hantera känsliga samtal genom särskilda resonemangsmodeller. Dessa modeller är tränade med en metod kallad ”deliberativ anpassning”, vilket enligt företaget gör dem bättre på att följa säkerhetsriktlinjer och mer motståndskraftiga mot provocerande frågor.
I framtiden lovar OpenAI att införa fler säkerhetsfunktioner. De har redan påbörjat detta arbete men har också uttryckt en vilja att ge användarna en förhandstitt på vad som väntar under de närmaste 120 dagarna. Företaget betonar att de kommer att fortsätta arbeta med säkerhetsförbättringar även efter denna period, med målet att lansera så många förbättringar som möjligt under det kommande året.
OpenAI:s initiativ att införa föräldrakontroller och förbättra säkerheten i ChatGPT är ett steg mot att skapa en tryggare digital miljö för unga användare. Dessa åtgärder markerar en ny fas i företagets strävan att balansera innovation med ansvar, och de kommer sannolikt att följas av fler förändringar i takt med att tekniken och dess användning utvecklas.