OpenAI har implementerat nya åtgärder för att förbättra säkerheten för unga användare av deras AI-chatbot, ChatGPT. Föräldrar, vars tonårsbarn har länkat sina konton till deras, kommer nu att få meddelanden om deras barn stängs av från tjänsten på grund av brott mot policyer gällande våld eller hot om våld. Denna uppdatering kommer som ett led i OpenAIs strävan att skapa en tryggare miljö för unga användare av deras teknologi.
OpenAI introducerade tidigare föräldrakontroller som gör det möjligt för föräldrar att tidsbegränsa sina barns användande av ChatGPT och minska exponeringen för känsligt innehåll. Den senaste uppdateringen i detta system innebär att föräldrar nu även kommer att få varningar om deras barn utgör en potentiell risk för andra. Detta sker genom att OpenAI skickar en notis där föräldrarna uppmanas att ta del av mer information kring varför deras barns konto har inaktiverats.
För att utveckla denna funktion har OpenAI samarbetat med Moonshot, ett företag som specialiserar sig på att övervaka och motverka onlinevåld. Vidhya Ramalingam, grundare av Moonshot, betonar vikten av att ge familjer möjlighet att ingripa tidigt när allvarliga risker uppstår. Hon menar att denna typ av tillgång är en del av flera åtgärder som behövs för att skydda unga när de interagerar med AI-teknologier.
Denna satsning från OpenAI är en del av en större ansträngning att stärka sina säkerhetsprotokoll, särskilt efter att det upptäcktes att en misstänkt för en masskjutning i British Columbia i Kanada använde ChatGPT. De kanadensiska myndigheterna kritiserade företaget för att inte ha informerat dem när den misstänktes konto stängdes av. OpenAIs chef, Sam Altman, har bett om ursäkt för detta misstag och lovat förbättringar.
Utöver de nya notifikationsfunktionerna har OpenAI även introducerat en ”Studieläge” som kan aktiveras via föräldrakontrollerna. Denna funktion syftar till att underlätta lärande genom att ChatGPT ger ledtrådar innan den svarar på frågor, vilket ska hjälpa elever att bättre förstå och bearbeta information. Dessutom kommer ChatGPT nu att ge tonårsanvändare som spenderar mycket tid med tjänsten regelbundna påminnelser om att ta pauser, för att främja hälsosammare teknikvanor.
Genom att införa dessa förändringar hoppas OpenAI att inte bara förhindra potentiellt farliga situationer, utan också att bistå i en mer konstruktiv och utbildande användning av deras AI-plattform. Initiativen är ett steg mot att integrera AI-teknologi på ett sätt som prioriterar användarnas säkerhet och välbefinnande, särskilt för unga och deras familjer. OpenAI:s åtgärder visar ett tydligt engagemang i att inte bara förbättra teknologin, utan också i att ta ansvar för hur den används i samhället.