OpenAI, företaget bakom den populära AI-chatboten ChatGPT, har infört strängare restriktioner för ungdomsanvändare i frågor som rör vapen och säkerhetssystem. Detta är en del av företagets pågående ansträngningar att förhindra att dess teknologi används på sätt som kan resultera i våld. Företaget meddelade att dessa åtgärder gäller även om en fråga ”verkar oskyldig”.
Sedan tidigare har OpenAI haft regler som förbjuder att ChatGPT hjälper användare att utföra våldsamma handlingar eller att ungdomar får tillgång till vapen. De nya restriktionerna syftar till att ytterligare begränsa möjligheterna att komma åt praktisk information om vapen och säkerhetssystem som kan missbrukas. Det är en del av ett bredare initiativ för att reducera risken för våld, även om det inte finns någon omedelbar indikation på våldsamma avsikter från användarens sida.
Förutom dessa förändringar för ungdomsanvändare, förstärker OpenAI också sina policygränser för alla användare. Det innebär att förfrågningar som handlar om rekonstruktioner av tidigare massattacker och detaljer om de vapen och utrustning som användes, samt detaljerade jämförelser av skador, kommer att omfattas av de nya begränsningarna. Företaget vill undvika att information som kan förstärka en attackörares rykte sprids via deras plattform.
OpenAI:s förändringar kommer att komplettera de föräldrakontroller som infördes förra året. Dessa kontroller skickar notifikationer till föräldrar om deras kopplade ungdomskonton bryter mot ChatGPT:s policy gällande våldsamma hot eller handlingar. De nya skyddsåtgärderna är delvis ett svar på en rättsprocess som företaget stod inför förra året, där man blev stämd i en stämning om orsakande av dödsfall. Sam Altman, OpenAI:s VD, har tidigare offentligt bett om ursäkt för att företaget inte informerade polisen om oroande chattloggar i samband med skjutningen i Tumbler Ridge tidigare i år.
Framöver planerar OpenAI att publicera sin första rapport om samhällssäkerhet i början av 2027. Denna rapport kommer att följas av uppdateringar var sjätte månad. Genom att kontinuerligt rapportera om och förbättra sina säkerhetsåtgärder hoppas OpenAI kunna bidra till en tryggare användning av AI-teknik.
Detta initiativ från OpenAI lyfter också fram den pågående debatten om AI-teknikens roll i samhället och hur företag som utvecklar dessa teknologier ansvarar för deras potentiella missbruk. Med allt fler ungdomar som använder sig av AI-drivna tjänster som ChatGPT, blir det allt viktigare med tydliga riktlinjer och skyddsåtgärder för att förhindra missbruk och säkerställa en säker användning. OpenAI:s senaste åtgärder visar på en medvetenhet om dessa risker och en vilja att ta ansvar för produkternas inverkan på samhället.