OpenAI:s VD, Sam Altman, har nyligen belyst en betydande oro kring användningen av AI-applikationen ChatGPT som en ersättning för traditionell terapi. Under ett avsnitt av podcasten ”This Past Weekend” med Theo Von, uttryckte Altman sin oro över hur användare av ChatGPT, särskilt yngre generationer, ofta vänder sig till AI:n för emotionellt stöd och vägledning i personliga frågor. Problemet, menar Altman, ligger i den nuvarande bristen på juridiskt skydd för användarnas privata konversationer med AI:n.
I dagens samhälle är det vanligt att personer delar sina mest privata tankar och problem med ChatGPT, i tron att deras konversationer är säkra och konfidentiella. Men till skillnad från samtal med en mänsklig terapeut, advokat eller läkare, som skyddas av lagstadgad sekretess, saknas denna typ av skydd för interaktioner med AI. Altman betonade att det inte finns något etablerat juridiskt ramverk som garanterar användarnas integritet när de använder AI:s tjänster för personlig rådgivning.
Denna brist på juridisk sekretess kan få allvarliga konsekvenser för användarna, särskilt i rättsliga sammanhang där OpenAI kan bli tvungna att lämna ut konversationsdata vid en stämning. Altman uttryckte sin oro över detta och menade att det är ”väldigt fel” att konversationer med AI inte skyddas på samma sätt som de med professionella rådgivare. Han föreslog att det bör finnas ett liknande skydd för AI-konversationer som det som gäller för traditionella terapeutiska samtal.
OpenAI har redan ställts inför juridiska utmaningar på grund av denna problematik. Företaget kämpar mot ett domstolsbeslut som skulle kräva att de sparar användardata från ChatGPT, med undantag för företagskunder. Enligt OpenAI är detta beslut en överskridande åtgärd som skulle kunna leda till ytterligare krav på att lämna ut användardata för rättsliga eller brottsbekämpande ändamål. Denna fråga blir extra känslig i ljuset av att teknikföretag allt oftare tvingas lämna ut användardata för att hjälpa till i brottsutredningar.
Altman tog också upp frågan om användarnas förtroende och integritet i sina samtal med AI. Han betonade vikten av att klargöra de juridiska förutsättningarna för integritet innan man i större utsträckning använder AI för personlig rådgivning. Hans kommentarer kom i samband med att podcastens värd, Theo Von, uttryckte sina egna farhågor kring att använda AI, just på grund av integritetsfrågor.
Denna debatt om AI och användarsekretess kommer i en tid då många människor alltmer förlitar sig på digitala tjänster för personlig rådgivning och stöd. Medan tekniken erbjuder nya möjligheter till bekvämlighet och tillgänglighet, väcker den också frågor om hur vi som samhälle hanterar och skyddar våra mest personliga uppgifter. Framtiden för AI i terapeutiska sammanhang kommer sannolikt att kräva både tekniska och juridiska innovationer för att säkerställa användarnas säkerhet och integritet.