Staten Florida saksøker OpenAI på grunn av ChatGPTs angivelig farlige design
OpenAI insisterer på at ChatGPT ikke er ansvarlig for vold i det virkelige liv.
Staten Florida i USA har blitt den første staten som saksøker OpenAI på grunn av ChatGPTs angivelig farlige design, som rapportert av Ars Technica. Floridas statsadvokat James Uthmeier anklaget OpenAI og dets administrerende direktør, Sam Altman, for å prioritere profitt fremfor sikkerheten til floridianere.
Denne rettssaken skjer etter at Florida åpnet en ikke-relatert kriminell undersøkelse av OpenAI, etter en ChatGPT-tilknyttet masseskyting der to mennesker ble drept på Florida State University. Uthmeier bemerket tilsynelatende at Florida nå har blitt overrumplet av to voldelige hendelser der mistenkte brukte ChatGPT for å hjelpe til med planleggingen.
"ChatGPT har på forferdelig vis medvirket til mer enn ett flerfoldig drap i delstaten Florida. Drapene på studentene Nahida Bristy og Zamil Limon ved University of South Florida i 2026 ble også planlagt ved hjelp av ChatGPT, som ga Hisham Abugharbieh råd om hvordan han skulle kvitte seg med likene, endre VIN-nummeret på en bil og om bilene ble sjekket på åstedet."
Statsadvokaten i Florida fortsatte deretter med å liste opp flere andre reelle tilfeller der ChatGPT angivelig har bidratt til vold. Men OpenAI anklages også for å ha designet chatboten slik at den er avhengighetsskapende og ødeleggende for barn og voksne. Chatbots som utgir seg for å være helsepersonell eller terapeuter, er også problematiske, ifølge riksadvokatens klage.
OpenAI har kommet med en uttalelse, men de nevnte ikke riksadvokaten, men fokuserte i stedet på nylige oppdateringer om barnesikkerhet.
"Å miste et barn er den mest ødeleggende tragedien som kan skje for en familie, og vi vet at ingen ord kan komme i nærheten av å adressere smerten ved et slikt tap. AI er en ny og kraftfull teknologi, og vi mener at mindreårige trenger betydelig beskyttelse, og derfor har vi innført bransjeledende beskyttelse og retningslinjer. Vi har bygget inn sikkerhet for mindreårige direkte i produktene våre, inkludert en mer beskyttende opplevelse spesielt for mindreårige, et verktøy for aldersprediksjon, standardinnstilling av brukere hvis alder vi ikke er sikre på, til vår mer beskyttende opplevelse, og verktøy som gir foreldre mulighet til å overvåke barnas bruk av AI. Vi vet at det å peke på dette arbeidet ikke vil bringe et barn tilbake, men vi er forpliktet til å gjøre dette riktig."
Dette nye søksmålet er ikke det første i sitt slag. I tidligere søksmål er OpenAIs administrerende direktør Sam Altman anklaget for "hensynsløs bruk av AI-systemer uten å ta hensyn til brukernes sikkerhet".
Statsadvokaten i Florida gjør seg klar til å kjempe mot alle AI-selskaper, og ikke bare OpenAI.
"Gjør deg klar for en kamp, og det finnes ikke en som er viktigere enn denne akkurat nå."
