OpenAI, ett av världens ledande företag inom artificiell intelligens, söker nu en ”beredskapschef”, en roll som innebär stora utmaningar och potentiellt höga påfrestningar. Företaget, känt för sina avancerade AI-modeller som ChatGPT, har publicerat en jobbannons där de söker en person som kan leda och utveckla deras beredskapsprogram. Detta program är en del av OpenAI:s säkerhetssystem och syftar till att säkerställa att företagets AI-modeller fungerar som avsett i verkliga miljöer.
OpenAI:s VD, Sam Altman, har själv kommenterat på sociala medier att denna tjänst kommer att vara krävande och att den som anställs kommer att behöva kasta sig rakt in i arbetet. Lönen för denna position är hela 555 000 dollar per år, vilket indikerar den betydelse och de förväntningar som företaget har på den nya chefen.
En av de största utmaningarna för beredskapschefen blir att hantera de problem som redan finns med OpenAI:s produkter. Trots företagets försäkringar om att deras AI-modeller beter sig som avsett, har det uppstått flera incidenter som visar på motsatsen. ChatGPT har exempelvis varit inblandad i rättsliga processer där dess råd påstås ha bidragit till en användares död. Dessutom har modellen visat sig skapa ”hallucinationer” i juridiska dokument och orsakat klagomål till den amerikanska konsumentmyndigheten FTC, där användare rapporterat om mentala påfrestningar.
Sam Altman har erkänt att deras produkter kan påverka människors mentala hälsa och att det finns säkerhetsrisker med teknologin. Enligt honom går vi in i en tid där vi behöver en mer nyanserad förståelse av hur dessa teknologier kan missbrukas och hur negativa effekter kan begränsas.
Den nya beredskapschefen kommer att behöva utveckla strategier för att identifiera och motverka oönskade förmågor hos AI-modellerna. Detta innebär också att bevaka hur nya risker och externa förväntningar kan påverka företagets produkter. Målet är att minska riskerna tillräckligt för att OpenAI inte ska hållas juridiskt ansvariga för framtida negativa konsekvenser.
Samtidigt står OpenAI inför pressen att snabbt öka sina intäkter. Sam Altman har i en intervju starkt antytt att han siktar på att höja företagets intäkter från nuvarande drygt 13 miljarder dollar per år till 100 miljarder dollar inom två år. En del av strategin är att utveckla nya konsumentenheter och plattformar som kan automatisera vetenskapliga processer.
För den som är intresserad av att navigera mellan dessa utmaningar, och att leda arbetet med att säkra OpenAI:s produkter mot missbruk, erbjuder rollen som beredskapschef en unik möjlighet. Det är en position som kräver både strategiskt tänkande och en förmåga att snabbt hantera nya situationer. Samtidigt kommer personen i fråga att spela en central roll i hur OpenAI hanterar balansen mellan teknologisk innovation och etiska överväganden.
OpenAI:s satsning på att anställa en beredskapschef understryker hur viktigt företaget anser det är att hantera de komplexa frågor som modern AI-teknologi medför, både för användarna och samhället i stort.