OpenAI, företaget känt för att ligga i framkant inom utvecklingen av artificiell intelligens, har nyligen meddelat att lanseringen av den nya ”adult mode”-funktionen i deras populära chatbot ChatGPT har försenats. Funktionen, som ursprungligen var planerad att introduceras tidigare i år, syftar till att ge vuxna användare möjlighet att delta i textbaserade samtal med vuxet innehåll, men utan att inkludera möjligheten att generera bilder, röst eller video.
Enligt en talesperson för OpenAI, som intervjuats av en ledande teknikpublikation, kommer den kommande funktionen att fokusera på att erbjuda ”smutsiga” textkonversationer snarare än pornografiskt material. Detta beslut har fattats efter noggranna överväganden kring moderering och säkerställande av att barn inte kommer i kontakt med olämpligt innehåll.
Den ursprungliga lanseringen av funktionen sköts upp efter att interna diskussioner identifierade ett antal tekniska och etiska utmaningar. En rådgivande grupp inom företaget uttryckte oro för att funktionen skulle kunna bli tillgänglig för minderåriga och skapa osunda känslomässiga beroenden mellan användare och chatbotten. En medlem från gruppen beskrev risken för att ChatGPT kunde utvecklas till en ”sexig självmordscoach”, något företaget naturligtvis vill undvika.
Moderationsutmaningar har också spelat en stor roll i förseningen. OpenAI arbetar för närvarande intensivt med att justera ChatGPT:s begränsningar för NSFW-innehåll, samtidigt som de försöker förhindra mer skadliga scenarier, såsom innehåll som beskriver icke-samtyckande beteenden eller sexuella övergrepp mot barn.
Företaget utvecklade ett ålderspredikteringssystem för att hindra barn från att få tillgång till vuxet innehåll, men systemet har visat sig felklassificera minderåriga som vuxna i cirka tolv procent av fallen. Med tanke på att ChatGPT har ungefär 100 miljoner användare under 18 år varje vecka, innebär denna felmarginal att miljontals minderåriga skulle kunna få tillgång till sexualiserade konversationer med chatbotten. Trots att algoritmen fungerar på en nivå jämförbar med resten av branschen, är OpenAI medvetna om att den aldrig kommer att kunna bli helt idiotsäker.
Genom att fokusera på textbaserade konversationer hoppas OpenAI kunna navigera runt regler som Storbritanniens Online Safety Act, som kräver att onlineplattformar inför åldersverifiering för pornografiska bilder, men inte för skriftlig erotik. Detta står i kontrast till mer visuella vuxna upplevelser från konkurrenter inom AI-fältet, såsom Groks ”kryddiga” AI-kompanjoner, som nyligen tillkännagav att deras bild- och videogenerator kan producera innehåll som är tillåtet i en film med R-rating.
Huruvida OpenAI lyckas övervinna dessa utmaningar och införa sitt ”adult mode” återstår att se. Företaget har ännu inte angett något nytt lanseringsdatum, men intresset och diskussionerna kring funktionen fortsätter att växa. Många användare och branschexperter väntar nu spänt på att se hur OpenAI ska balansera innovation med säkerhet och etiska överväganden i denna nya satsning.