OpenAI har nyligen börjat testa ett nytt säkerhetssystem i ChatGPT, samt infört föräldrakontroller, vilket har väckt både positiv och negativ respons bland användare. Dessa säkerhetsfunktioner har utvecklats som svar på flera incidenter där vissa ChatGPT-modeller har förstärkt användares illusioner istället för att omdirigera skadliga samtal. OpenAI står inför en rättslig process efter att en tonåring tog sitt liv efter månader av interaktioner med ChatGPT.
Det nya routingsystemet är utformat för att identifiera känslomässigt känsliga samtal och automatiskt växla mitt i chatten till GPT-5-modellen, vilken företaget anser är bäst lämpad för säkerhetsarbete med hög insats. Särskilt har GPT-5-modellerna tränats med en ny säkerhetsfunktion, kallad ”säkra kompletteringar”, som gör det möjligt för dem att svara på känsliga frågor på ett säkert sätt, snarare än att helt enkelt vägra att delta i samtalet.
Detta står i kontrast till företagets tidigare chattmodeller, som utformats för att vara medgörliga och snabbt svara på frågor. GPT-4o har särskilt kritiserats för sin alltför underdåniga och medgörliga natur, vilket både har bidragit till AI-inducerade illusioner och dragit till sig en stor skara hängivna användare. När OpenAI lanserade GPT-5 som standard i augusti, möttes det av motstånd från många användare som krävde tillgång till GPT-4o.
Många experter och användare har välkomnat säkerhetsfunktionerna, medan andra har kritiserat vad de anser vara en alltför försiktig implementering. Vissa användare anklagar OpenAI för att behandla vuxna som barn, vilket försämrar tjänstens kvalitet. OpenAI har påpekat att det kommer att ta tid att få det rätt och har gett sig själva en 120-dagars period för iteration och förbättring.
Nick Turley, vice vd och chef för ChatGPT-appen, erkände några av de ”starka reaktionerna på 4o-svar” på grund av implementationen av routingsystemet. ”Routing sker på meddelandenivå; växling från standardmodellen sker tillfälligt,” förklarade Turley. ”ChatGPT kommer att informera användaren om vilken modell som är aktiv när det efterfrågas. Detta är en del av en bredare ansträngning att stärka säkerhetsåtgärderna och lära sig från verklig användning innan en bredare lansering.”
Införandet av föräldrakontroller i ChatGPT möttes av liknande beröm och kritik, där vissa berömmer möjligheten för föräldrar att övervaka sina barns användning av AI, medan andra är oroliga för att det öppnar för att OpenAI behandlar vuxna som barn. Kontrollerna gör det möjligt för föräldrar att anpassa sina tonåringars upplevelse genom att ställa in tysta timmar, stänga av röstläge och minne, ta bort bildgenerering och välja bort modellträning. Tonårskonton kommer även att få ytterligare innehållsskydd, såsom minskat grafiskt innehåll och extrema skönhetsideal, samt ett upptäcktsystem som känner igen potentiella tecken på att en tonåring kan tänka på självskada.
Om OpenAIs system upptäcker potentiell skada, granskas situationen av ett litet team av specialutbildade personer. Om det finns tecken på akut nöd, kommer föräldrar att kontaktas via e-post, textmeddelande och push-notis på deras telefoner, såvida de inte har valt bort detta. OpenAI erkänner att systemet inte kommer att vara perfekt och ibland kan höja larm när det inte finns någon verklig fara, men de anser att det är bättre att agera och varna en förälder så att de kan ingripa än att förbli tyst. AI-företaget arbetar också på sätt att nå brottsbekämpande myndigheter eller nödtjänster om det upptäcker ett överhängande hot mot livet och inte kan nå en förälder.