Zoë Hitzig, en framstående forskare vid OpenAI, har nyligen lämnat sin position i företaget efter att ha motsatt sig introduktionen av annonser i ChatGPT. Hitzig, som även är ekonom och publicerad poet, tillkännagav sin avgång i en essä i The New York Times. Hon uttryckte oro över att OpenAI, genom att införa annonser, riskerar att upprepa samma misstag som Facebook gjorde för ett decennium sedan.
Hitzig beskrev sin initiala tro på att hon kunde hjälpa till att förebygga problem som AI-teknologin potentiellt skulle kunna skapa. Men hennes tilltro minskade när det verkade som att OpenAI slutade ställa de viktiga frågor hon anslutit sig för att hjälpa till att besvara. Även om Hitzig inte betraktar annonsering som omoraliskt i sig självt, pekade hon på de unika riskerna med att inkludera annonser i ChatGPT. Användare delar ofta mycket personliga detaljer med chatboten, vilket skapar vad hon kallar ett ”arkiv av mänsklig uppriktighet utan motstycke”.
Hitzig jämförde situationen med Facebooks tidiga historia, där företaget initialt lovade användarna kontroll över deras data, löften som senare urvattnades. Hon varnade för att en liknande utveckling kunde ske med ChatGPT, där ekonomiska incitament kan komma att styra utvecklingen bort från de ursprungliga principerna.
Införandet av annonser i ChatGPT kommer mitt i en pågående debatt inom AI-industrin. OpenAI meddelade tidigare att de skulle börja testa annonser för användare i USA på de kostnadsfria och vissa betalda abonnemangsnivåerna. Annonserna kommer att placeras i slutet av ChatGPT:s svar och tydligt märkas, utan att påverka chatbotens svar, enligt företaget.
Samtidigt har OpenAI:s konkurrent Anthropic valt att hålla sin chatbot Claude fri från annonser, något de framhävde i en reklamkampanj under Super Bowl. OpenAI:s VD, Sam Altman, avfärdade Anthropics reklam som vilseledande, men förklarade att annonsmodellen var ett sätt att göra AI mer tillgänglig för de som inte har råd med abonnemang.
Internt har Hitzig observerat en spänning mellan OpenAI:s principer och deras affärsstrategier. Hon noterade att företaget, trots att det säger sig inte optimera för användaraktivitet enbart för annonsintäkter, verkar drivas av en önskan att öka daglig användaraktivitet, vilket kan göra användare mer beroende av AI-modeller för stöd. Detta har redan resulterat i allvarliga konsekvenser, inklusive flera rättsfall där ChatGPT anklagats för att ha förstärkt farliga tankemönster hos användare.
Hitzig föreslog alternativa strukturer för att hantera data och annonsering inom AI, inklusive oberoende övervakningsorgan och datakooperativ där användarna behåller kontrollen över sin information. Hon lyfte fram exempel som den schweiziska kooperativet MIDATA och Tysklands medbestämmandelagar som potentiella förebilder.
Hitzig avslutade sin essä med att uttrycka oro för två möjliga framtidsscenarier: en teknik som manipulerar användare utan kostnad, och en som enbart gynnar de som har råd att använda den.
Denna avgång sker samtidigt som andra framstående forskare inom AI-industrin också lämnar sina positioner. Exempelvis har Mrinank Sharma, som ledde Anthropics forskarteam för säkerhetsåtgärder, också avgått och uttryckt oro över bristen på värderingsdrivet arbete inom organisationen. Ytterligare avgångar har skett inom xAI, där flera medgrundare och anställda lämnat sina poster efter att företaget fusionerats med SpaceX.
Dessa händelser speglar en bredare trend av omsättning och utbrändhet inom AI-industrin, där kommersialiseringen av AI har satt press på forskare och utmanat deras tålamod.