Sam Altman, VD för OpenAI, företaget bakom den populära AI-modellen ChatGPT, uttrycker oro för användningen av AI-chattbotar som terapeuter. I en intervju på podcasten ”This Past Weekend” diskuterade Altman de juridiska och etiska implikationerna av att användare behandlar chattbotar som konfidentiella rådgivare. Han betonade att det borde finnas en tydlig förståelse för hur privat information hanteras innan man använder sådana teknologier i en terapeutisk kapacitet.
I dagens digitala era har AI-chattbotar blivit allt vanligare som verktyg för personlig rådgivning. Många användare vänder sig till dessa plattformar för att diskutera känsliga ämnen, från personliga problem till hälsorelaterade frågor. Altman framhåller dock att det finns en betydande risk med detta, eftersom det saknas tydliga regler för sekretess och konfidentialitet i dessa interaktioner. Till skillnad från samtal med läkare eller advokater, som skyddas av juridiska privilegier, saknar konversationer med AI samma skydd.
Under intervjun förklarade Altman att även om OpenAI strävar efter att skydda användarnas data, finns det juridiska utmaningar som kan tvinga företaget att lämna ut användardata i samband med rättsprocesser. Han uttryckte sin frustration över att det inte finns tillräckliga rättsliga skydd för att förhindra att privata konversationer avslöjas i sådana sammanhang. ”Om du pratar med ChatGPT om de mest känsliga sakerna och det sedan uppstår en rättslig tvist, kan vi bli tvungna att lämna ut den informationen,” sa Altman. ”Det är väldigt problematiskt.”
Problematiken kring AI:s användning som terapeut sträcker sig bortom juridiska frågor. Det finns också praktiska och etiska aspekter att överväga. Chattbotar, trots sina avancerade algoritmer, kan ge felaktiga eller olämpliga råd och förstärka stereotyper eller stigma, vilket kan ha negativa konsekvenser för användarna. William Agnew, forskare vid Carnegie Mellon University, har studerat AI-chattbotars kapacitet att hantera terapeutiska frågor och betonar vikten av att användarna är medvetna om sekretessfrågor när de använder dessa verktyg.
Agnew varnar för att även om företagen bakom dessa teknologier arbetar för att skydda användardata, är chattbotar kända för att kunna återge information från tidigare konversationer. Detta innebär att information från en användares privata samtal potentiellt kan dyka upp i andras interaktioner med samma AI-system. ”Människor bör verkligen tänka på integritet och förstå att nästan allt de berättar för dessa chattbotar inte är privat,” sa Agnew.
Trots dessa farhågor har det varit svårt att införa strängare regleringar kring AI-teknologier. Altman noterade att medan regler som hämmar AI-företag och deras utveckling är osannolika att få stöd i Washington, kan regler som skyddar användarnas integritet få större acceptans.
Samtidigt som debatten om AI:s roll i samhället fortsätter, uppmanar Altman och andra experter användare att noggrant överväga vilka uppgifter de delar med AI-chattbotar. Medan teknologin erbjuder bekvämlighet och tillgänglighet, kommer det med en kostnad i form av potentiella integritetskränkningar. Det är upp till användarna att väga dessa risker och fatta informerade beslut om hur de vill interagera med dessa verktyg i sina liv.