En domare i Oklahoma har erkänt för delstatliga utredare att han i ett domstolsbeslut hänvisade till minst två fall som inte existerar. Fallen, säger han, hittades via AI-verktyget ChatGPT. Händelsen inträffade i november, när domaren Lawrence Wheeler i Stephens County hanterade ett vårdnadsärende. Wheeler avslog en begäran från en av föräldrarnas advokater om att den andra föräldern skulle genomgå ett psykologiskt test. I sitt beslut hänvisade han till flera tidigare rättsfall i Oklahoma som stödde hans beslut. Men dessa rättsfall var inte verkliga.
Oklahomas råd för rättsliga klagomål inledde en utredning och bad Oklahoma State Bureau of Investigation (OSBI) att undersöka fallet. I ett brev i augusti till justitiekanslerns kontor, där de bad dem ta över ärendet, uppgav Stephens Countys distriktsåklagare Jason Hicks att Wheeler erkände för OSBI-agenter att han citerade ”minst två” fall som ChatGPT föreslog, men som ”inte existerar”.
Wheeler berättade för utredarna att han i slutändan skrev beslutet själv och endast använde AI för ”forskningsändamål”. Tim Gilpin, advokat och tidigare biträdande justitieminister i delstaten, säger att AI:s framväxt har skapat nya utmaningar i rättssalarna. ”Även här i Oklahoma blir domare mycket irriterade när advokater använder AI i sina inlagor utan att tydligt dokumentera det,” säger Gilpin. ”När jag använder AI, är det nästan alltid så att det innehåller ett falskt fall eller hänvisar till ett fall som inte innebär det AI säger att det gör.”
Gilpin uttryckte förvåning över att en domare till synes litade blint på teknologin. ”AI är programmerat för att försöka ge dig det svar du letar efter och med stor sannolikhet det svar du vill ha,” sade Gilpin. ”Så den första varningen är att du behöver granska vad det ger dig med stor skepsis.”
Justitiekanslerns kontor meddelade att de hade granskat OSBI:s resultat men ”bevisen stödjer inte en brottmålsåtalsprocess.” Kontoret betonade också att Oklahomas högsta domstol har det slutgiltiga ordet när det gäller att disciplinera domare.
Gilpin menar att det finns en möjlig medelväg för de inom rättsväsendet som vill använda AI, så länge det används på rätt sätt. ”Tricket är, AI är ett verktyg för oss advokater,” sade Gilpin. ”Det är inte svaret. Det är ett verktyg för att komma fram till svaret. Och det gäller för advokater och domare. Om vi använder det på det sättet kan det vara till hjälp. Om vi inte gör det, om vi använder det som början och slutet på frågan, är det då problemen uppstår.”
När det gäller domare Wheelers fall har det ännu inte framkommit några kommentarer från hans juridiska ombud. Rättsliga experter följer utvecklingen noggrant, då det kan sätta ett prejudikat för hur AI kan och bör användas i rättsliga sammanhang i framtiden. Diskussionen om AI:s roll i juridiken är långt ifrån över, och många inom rättsväsendet förbereder sig nu för den nya verklighet som AI-teknologin innebär.