En domare i USA har funnit att Department of Government Efficiency’s (DOGE) beslut att avbryta över 100 miljoner dollar i bidrag var författningsstridigt. Enligt ett omfattande domstolsbeslut från distriktsdomaren Colleen McMahon, använde DOGE AI-verktyget ChatGPT för att avgöra om bidrag kunde relateras till mångfald, jämlikhet och inkludering (DEI), vilket ledde till ett stort antal avslag.
Bakgrunden till beslutet är en stämning som väcktes 2025 av humanistiska organisationer mot DOGE. Domaren McMahon kritiserade starkt myndighetens användning av ChatGPT i processen att upphäva bidrag från National Endowment for the Humanities (NEH). Domaren påpekade att det var uppenbart att DOGE använde ChatGPT för att identifiera och därmed utesluta bidrag baserat på skyddade egenskaper såsom ras, ursprung, religion och sexualitet.
I vittnesmål från Justin Fox, en tjänsteman vid DOGE, framkom det att han tillsammans med kollegan Nate Cavanaugh använde ChatGPT för att analysera och eliminera 97 procent av bidragen under NEH. Fox erkände att han använde AI-verktyget för att belysa varför ett bidrag kunde relateras till DEI och för att identifiera specifika ord och fraser som kunde indikera en sådan koppling. Han förklarade att han inte hade definierat DEI för ChatGPT och inte heller visste hur AI-systemet tolkade termen.
Fox använde dessutom så kallade ”Detection Codes” för att identifiera och kategorisera bidrag som ”galna” eller ”dåliga”. Dessa koder innefattade termer som ”BIPOC”, ”minoriteter”, ”urbefolkning”, ”invandrare”, och ”LGBTQ”. När han tillfrågades om han använde denna lista av ord på varje bidragsbeskrivning han fick från NEH, bekräftade Fox detta.
Domaren McMahon konstaterade att DOGE hade ansett hundratals bidrag som ”slösaktiga” eftersom de relaterade till grupper som svarta, kvinnor, judar, asiatiska amerikaner och ursprungsfolk. Hon betonade att de ämnen som DOGE betraktade som avfall eller brist på merit var de ämnen som specifikt var relevanta för NEH:s uppdrag, enligt kongressens mandat. Några av de bidrag som kategoriserades som ”slösaktiga” handlade om viktiga projekt som behandlade Förintelsen, medborgarrättsrörelsen och kulturell utbildning om ursprungsbefolkningens kunskap och klimat.
Vidare avvisade McMahon regeringens argument att det inte fanns några verkliga konstitutionella problem eftersom klassificeringarna baserades på AI-verktygets bedömningar och inte direkt av regeringen. Hon klargjorde att det inte fanns någon skillnad mellan regeringens agerande och ChatGPT:s, eftersom AI-verktyget var regeringens valda instrument för denna uppgift. Användningen av AI undantar inte regeringen från ansvar eller ger den obegränsade befogenheter att delta i konstitutionellt tveksam verksamhet.
Domaren McMahon beslutade slutligen att DOGE:s avslag på över 1 400 NEH-bidrag var olagligt och stred mot konstitutionen, med hänvisning till brott mot det första tillägget, det femte tilläggets jämlikhetslag och DOGE:s brist på behörighet. Hon utfärdade en order om att återställa de indragna bidragen, vilket innebär ett viktigt steg för att säkerställa att bidragsbeslut inte fattas på grundval av diskriminerande kriterier.
Detta domstolsbeslut sätter en tydlig gräns för hur myndigheter kan använda teknologi som AI i beslutsfattande processer utan att riskera att bryta mot grundläggande rättigheter och lagar. Frågan om hur AI kan och bör integreras i offentliga förvaltningsprocesser kommer sannolikt att fortsätta att vara en central punkt i juridiska och politiska diskussioner framöver.