OpenAI har lanserat en ny version av sin populära chatbot, ChatGPT, speciellt anpassad för tonåringar. Denna version, benämnd ”ChatGPT för Tonåringar”, syftar till att skapa en säkrare och mer anpassad upplevelse för yngre användare. Initiativet kommer som ett svar på växande oro kring hur AI-baserade verktyg påverkar ungdomars mentala hälsa, efter en tragisk incident där en 16-årig pojke tog sitt liv, något som hans föräldrar delvis skyller på ChatGPT.
Enligt OpenAI krävs ingen ny registrering eller ändringar av befintliga konton för att få tillgång till den nya versionen. Systemet är utformat för att automatiskt identifiera användare under 18 år och erbjuda dem ett anpassat gränssnitt. En av de centrala funktionerna i ChatGPT för Tonåringar är att uppmuntra användarna att nyttja verktygets pedagogiska funktioner, som har utvecklats under det senaste året. Dessa inkluderar ett ”Studieläge” och datavisualiseringar som hjälper elever att förstå komplexa matematiska och vetenskapliga koncept.
Samtidigt som OpenAI har rullat ut denna nya version, har de även meddelat att säkerhetsnotifikationerna kommer att utökas. Föräldrar med länkade konton kommer att informeras om deras barn diskuterar potentiellt farliga ämnen, såsom ätstörningar, med ChatGPT. OpenAI har också publicerat uppdaterade riktlinjer för hur chatboten bör interagera med ungdomar, inklusive förbud mot romantiskt språk och att uppmuntra emotionellt beroende.
Trots dessa åtgärder är barnsäkerhetsexperter skeptiska till om ChatGPT för Tonåringar verkligen kommer att vara tillräckligt säkert utan omfattande oberoende tester. Det finns också krav på att OpenAI ska vara mer transparenta kring hur deras säkerhetsmekanismer fungerar. En del experter ifrågasätter företagets förmåga att effektivt identifiera och hantera potentiellt skadligt innehåll, och de efterlyser mer konkreta data kring hur väl deras åldersbegränsande system fungerar.
Robbie Torney från Common Sense Media uttrycker en viss optimism över de åtgärder som OpenAI har annonserat, men han betonar behovet av bevis för att dessa faktiskt fungerar i praktiken. Josh Golin från Fairplay är dock mer kritisk och påpekar att förtroende för företagens egna säkerhetsåtgärder oftast inte räcker när det gäller att skydda barn.
En annan oro som lyfts fram är huruvida OpenAI har tillräcklig personal för att granska och reagera på flaggat innehåll inom den utlovade tiden. Företaget hävdar att alla flaggade konversationer granskas av anställda innan föräldrar meddelas, men experter vill se konkreta siffror på hur många medarbetare som är involverade och hur lång tid varje granskning tar.
När det gäller samtal om ätstörningar, en av de känsliga frågor som OpenAI planerar att övervaka, pekar Ellen Fitzsimmons-Craft, professor i psykologi, på vikten av att involvera familjen i behandlingsprocessen. Hon stöder idén om notifikationer till föräldrar, då familjens engagemang ofta är centralt i behandlingen av ungdomars ätstörningar.
Dock påpekar Golin att sådana funktioner bör testas grundligt i mindre skala innan de rullas ut brett, för att säkerställa att de verkligen leder till positiva resultat för de unga användarna. Utmaningen ligger i att balansera säkerheten med integriteten och att skapa ett system som både är effektivt och användarvänligt för föräldrar.
OpenAI står inför en utmaning att bevisa att deras nya åtgärder verkligen kan förbättra säkerheten för tonåriga användare. Många experter anser att det finns mer arbete att göra innan ChatGPT för Tonåringar kan betraktas som ett pålitligt och säkert verktyg för unga människor.