Floridas justitieminister, James Uthmeier, har inlett en rättsprocess mot OpenAI, vilket gör Florida till den första amerikanska delstaten som stämmer företaget över säkerhets- och designfrågor relaterade till ChatGPT. Stämningen, som lämnades in tidigare i veckan, anklagar OpenAI för att ha vilselett användare och för att ha prioriterat företagets vinst över användarnas säkerhet. Delstaten hävdar att OpenAI har brutit mot statliga lagar om vilseledande eller orättvisa affärsmetoder i syfte att öka sitt marknadsvärde.
I stämningen riktas anklagelser mot OpenAI:s VD, Sam Altman, för att medvetet ha ignorerat varningar, både internt och externt, om de risker som AI-teknologin innebär för användarna. Delstaten påstår att företaget ljugit om ChatGPT:s tillförlitlighet och dess lämplighet för barn, samt att det uppmuntrar till en förlängd användning som kan leda till kognitiv nedgång hos användarna.
Denna rättsprocess följer en pågående brottsutredning i Florida där det undersöks om ChatGPT spelade en roll i masskjutningen vid Florida State University förra året, där två personer dödades och sex skadades. Skytten ska enligt uppgift ha använt ChatGPT för att planera attentatet, inklusive rådgivning om vapentyp och tidpunkt för dådet.
OpenAI har i ett uttalande förnekat att ChatGPT skulle vara ansvarig för den tragiska händelsen vid universitetet. Företaget har också uttryckt att man är engagerad i att erbjuda skydd för minderåriga användare och att man arbetar med att säkerställa att föräldrar och ungdomar har tillgång till dessa skydd.
Utöver säkerhetsproblem finns det även oro över OpenAI:s datainsamlings- och sekretesspraxis. Floridas klagomål hävdar att ChatGPT ger barn obegränsad tillgång till skadlig information, såsom om ätstörningar och självskadebeteende. Genom att dölja dessa risker och marknadsföra ChatGPT som en säker produkt, anser delstaten att OpenAI har vilselett allmänheten.
Denna stämning är den första av sitt slag som initieras av en delstat i USA, men andra delstater som Kalifornien, Illinois och New York har redan infört nya lagar för att reglera AI-företagens verksamhet. Floridas fall är ett civilrättsligt mål, vilket innebär att det kan resultera i ekonomiska påföljder och domstolsbeslut snarare än brottmål. Det är fortfarande oklart hur stora de ekonomiska böterna kan bli, men tidigare fall mot teknikföretag som Meta och Google har resulterat i betydande straffavgifter.
Trots det växande motståndet på delstats- och lokalnivå mot AI-teknologi, visar Trump-administrationens nya AI-plan att federala myndigheter vill ta kontroll över regleringen av tekniken. Vita huset har uttryckt sitt stöd för infrastruktursatsningar inom AI, inklusive byggandet av nya datacenter över hela USA. Experter varnar dock för att en alltför snabb utveckling och bristande reglering av AI kan få katastrofala konsekvenser för miljön, ekonomin och samhället i stort.
Medan debatten om AI:s framtid fortsätter, är det tydligt att de juridiska och etiska frågorna kring teknologins användning kommer att förbli ett hett ämne för både lagstiftare och allmänheten. Floridas stämning mot OpenAI markerar en viktig vändpunkt i diskussionen om hur samhället ska hantera de komplexa frågor som följer med AI-utvecklingen.