OpenAI har introducerat nya åldersprediktionsfunktioner i ChatGPT med syftet att skydda minderåriga användare från känsligt innehåll. Dessa funktioner, som snart kommer att implementeras globalt, syftar till att identifiera användare under 18 år och tillämpa extra skydd för dem.
Åldersprediktionen i ChatGPT fungerar genom att analysera olika signaler från användarens beteende och kontoinformation, till exempel den angivna åldern, när kontot skapades, användarens aktivitetstider och användningsmönster över tid. Baserat på dessa analyser kan systemet uppskatta användarens ålder och anpassa innehållsbegränsningar därefter.
För minderåriga användare innebär de nya åtgärderna minskad exponering för innehåll som kan vara olämpligt eller skadligt. Det inkluderar grafiskt våld, virala utmaningar som uppmuntrar till riskfyllt beteende, sexuellt eller romantiskt rollspel, självskadebeteende samt innehåll som främjar extrema skönhetsideal eller ohälsosamma dieter.
Om en vuxen användare felaktigt kategoriseras som under 18 kan denne återfå full tillgång genom att verifiera sin ålder med en selfie. Denna funktion är för närvarande under utrullning globalt, med undantag för EU, där den kommer att implementeras inom de kommande veckorna för att säkerställa att regionala krav uppfylls.
Dessa skyddsåtgärder införs i kölvattnet av en stämning där OpenAI anklagades för att ChatGPT bidragit till en tonårings självmord, samt diskussioner i en senatspanel om de potentiella riskerna med chatbots för minderåriga. OpenAI har därför valt att stärka sina skyddsmekanismer för att minimera risken för att unga användare utsätts för skadligt innehåll.
Implementeringen av åldersprediktion är en del av en större trend där olika plattformar försöker förbättra sina åldersverifieringstekniker. Plattformar som Instagram, YouTube, TikTok och Roblox har redan vidtagit liknande åtgärder för att säkra sina yngre användare.
Dessa förändringar väcker dock frågor om integritet och korrekthet i åldersverifieringssystemen. Medan de nya funktionerna är avsedda att skydda unga användare, finns det alltid en risk för felaktigheter och därmed orättvist begränsade användarupplevelser. Det är därför viktigt att OpenAI och andra plattformar fortsätter att förbättra dessa system och säkerställa att de fungerar smidigt och rättvist.
Sammantaget markerar dessa åtgärder en viktig utveckling i hur digitala plattformar hanterar unga användare och deras säkerhet online. Med den snabba teknologiska utvecklingen och det ökande antalet minderåriga som använder digitala enheter och plattformar, blir det allt viktigare att ha robusta skyddsmekanismer på plats.
OpenAI:s beslut att införa åldersprediktion och ytterligare skyddsåtgärder visar på företagets engagemang för att skapa en säkrare digital miljö för alla användare, särskilt de yngre. Det återstår att se hur dessa förändringar kommer att påverka användarupplevelsen och om de kommer att sätta en ny standard för andra digitala plattformar att följa.