Sudac Kazni Odvjetnike zbog Korištenja Lažnih Pravnih Istraživanja Generiranih AI-om

Američki sudac oštro je kritizirao dvije odvjetničke tvrtke zbog uključivanja lažnih pravnih informacija generiranih umjetnom inteligencijom u sudskom podnesku, nazivajući to velikim propustom u pravnoj odgovornosti.

Sudac Michael Wilner, sa sjedištem u Kaliforniji, kaznio je tvrtke s 31,000 dolara nakon što je otkrio da je izvješće bilo ispunjeno “lažnim, netočnim i zavaravajućim pravnim citatima i navodima”, kako je prvi izvijestio WIRED.

“Nijedan razumno kompetentan odvjetnik ne bi trebao izvor istraživanja i pisanja prepuštati AI-u”, napisao je Wilner u svojoj presudi, upozoravajući da je bio blizu uključivanja lažnih slučajeva u sudske naloge.

“Pročitala sam njihovu obranu, bila uvjerena (ili barem zaintrigirana) autoritetima koje su naveli i provjerila odluke kako bih saznala više o njima – samo da bih otkrila da ne postoje”, rekla je, kako je izvijestio WIRED. “To je zastrašujuće”, dodala je.

Situacija se dogodila tijekom građanske tužbe protiv State Farm-a. Jedan je odvjetnik koristio AI alate za izradu pravnog plana. Taj dokument, koji sadrži lažna istraživanja, predan je većoj odvjetničkoj tvrtki K&L Gates, koja ga je dodala u službenu prijavu.

“Čini se da niti jedan odvjetnik ili član osoblja u bilo kojoj tvrtki nije provjerio ili na drugi način pregledao to istraživanje prije podnošenja podneska“, primijetila je Wilner, kako je izvijestio WIRED.

Nakon otkrića da su barem dva navedena slučaja bila potpuno izmišljena, sudac Wilner zatražio je pojašnjenje od K&L Gates. Kada su podnijeli novu verziju, ispostavilo se da uključuje još više lažnih citata. Sudac je zahtijevao objašnjenje, koje je otkrilo izjave pod prisegom koje priznaju upotrebu alata za umjetnu inteligenciju, kako je izvijestio WIRED..

Wilner je zaključio: “Početna, neprijavljena upotreba proizvoda za umjetnu inteligenciju za generiranje prvog nacrta podneska bila je potpuno pogrešna […] I slanje tog materijala drugim odvjetnicima bez otkrivanja njegovog sumnjivog podrijetla iz umjetne inteligencije realno je stavilo te profesionalce u opasnost,” kako je izvijestio WIRED.

Ovo nije prvi put da je AI izazvao probleme u sudnicama. Doista, dvojica odvjetnika iz Wyomiga nedavno su priznala korištenje lažnih AI-generiranih slučajeva u sudske podneske za tužbu protiv Walmarta. Savezni sudac prijetio im je sankcijama.

U ovom scenariju, AI “halucinacije” – izmišljene informacije generirane AI alatima – postaju sve veća briga u pravnom sustavu.