Inom teknikvärlden fortsätter diskussionen kring integritet och säkerhet att väcka starka reaktioner, särskilt när det kommer till användningen av artificiell intelligens. Nyligen har det avslöjats att OpenAI, företaget bakom den populära AI-modellen ChatGPT, anställer hundratals kontraktsanställda för att läsa och analysera användarnas chattar. Detta sker inom ramen för ett projekt kallat ”Project Lily”, och syftar till att förbättra modellens svar genom att granska och bedöma de genererade resultaten.
Enligt läckta interna dokument och faktiska exempel på användarfrågor som har granskats, visar det sig att dessa konversationer ibland innehåller känsliga personuppgifter. Även om OpenAI försöker ta bort personlig information innan dessa konversationer når granskare, medger företaget att känsliga detaljer kan slinka igenom.
Projektet belyser en viktig aspekt av AI-modellers utveckling som ofta förbises: den mänskliga arbetskraften bakom kulisserna. Medan många tror att förbättringar av AI-modeller främst beror på avancerade algoritmer och stora mängder insamlad data från internet, visar det sig att mänskliga granskare spelar en central roll i att finjustera och träna dessa modeller. Det är dessa granskare som hjälper till att förhindra att ChatGPT blir alltför servil eller framstår som mänsklig, vilket tidigare har lett till allvarliga konsekvenser, inklusive självmord som har resulterat i rättsprocesser mot OpenAI.
Användningen av mänskliga granskare väcker frågor om användarnas integritet, särskilt eftersom många använder ChatGPT för personliga ändamål som terapi eller som en digital vän. OpenAI har inte uttryckligen informerat sina användare om att deras meddelanden kan granskas av människor, vilket väcker ytterligare oro kring transparens och användarnas medvetenhet om hur deras data hanteras.
En annan aspekt av detta projekt är hur de mänskliga granskarnas arbete faktiskt går till. Granskare får se riktiga användarprompter, sammanfatta användarnas avsikter och sedan bedöma ChatGPT:s svar utifrån flera kriterier, inklusive användbarhet och stil. De använder en poängskala från ett till sju för att bedöma svarens kvalitet, där sju är det bästa möjliga betyget. Samtidigt instrueras de att undvika ”AI-språk” och onödig användning av emojis.
Trots de säkerhetsåtgärder som har implementerats för att skydda användarnas integritet, som anonymisering av användarprompter, kvarstår oro över potentiella säkerhetsrisker. OpenAI har medgett att dess integritetsfiltermodell, som används för att ta bort känsliga uppgifter, inte är felfri och kan göra misstag.
Projektet ”Lily” avslöjar också en ekonomisk aspekt av AI-utveckling. De granskare som arbetar med ChatGPT betalas över 50 dollar i timmen, vilket är betydligt mer än vad många andra kontraktsanställda inom tekniksektorn får. Detta faktum belyser en intressant paradox: medan mänsklig arbetskraft är avgörande för AI-utveckling, är denna arbetskraft ofta undervärderad och underbetald.
Det återstår att se hur OpenAI och andra företag som använder sig av mänskliga granskare kommer att hantera de etiska och praktiska utmaningar som detta arbete innebär. I takt med att AI-modeller blir alltmer integrerade i vår vardag, blir också frågorna kring integritet och säkerhet allt viktigare att adressera.