Vlada Ujedinjenog Kraljevstva razvija kontroverzni AI alat za ‘predviđanje ubojstava’

Vlada Ujedinjenog Kraljevstva radi na kontroverznom projektu koji koristi umjetnu inteligenciju za predviđanje tko bi u budućnosti mogao počiniti ubojstvo.

Postojanje programa otkriveno je kroz zahtjeve za pristup informacijama koje je dobila nadzorna grupa Statewatch.

Njihovi rezultati sugeriraju da se koriste osjetljivi osobni podaci. To uključuje zdravstvene kartone, informacije o mentalnom zdravlju, povijest ovisnosti, te podatke o ljudima koji nisu osuđeni za bilo kakve zločine.

Statewatch izvještava da Ministarstvo pravosuđa (MoJ) vodi ovaj plan, pregledavajući postojeće evidencije ljudi kako bi se spriječili ozbiljni zločini.

Izvorno nazvan “projekt predviđanja ubojstva”, sada se zove “dijeljenje podataka za poboljšanje procjene rizika”. Projekt je trenutno u fazi istraživanja, ali su se aktivisti i zagovornici privatnosti pobunili, kako je izvijestio Statewatch.

Međutim, dužnosnici to negiraju. The Guardian izvještava da je glasnogovornik Ministarstva pravde izjavio: “Ovaj se projekt provodi samo u istraživačke svrhe. Dizajniran je koristeći postojeće podatke koje posjeduje Služba zatvora i uvjetne kazne HM i policijske snage o osuđenim počiniteljima kako bi nam pomogao bolje razumjeti rizik od toga da osobe na uvjetnoj slobodi počine ozbiljno nasilje. Izvještaj će biti objavljen u skorije vrijeme.”

Prema informacijama Statewatcha, policija u Greater Manchesteru podijelila je podatke o do pola milijuna ljudi. To je uključivalo žrtve, osumnjičenike i osobe u ranjivim situacijama.

Sofia Lyall, istraživačica u Statewatchu, snažno je kritizirala projekt, rekavši: “Pokušaj Ministarstva pravosuđa da izgradi ovaj sustav predviđanja ubojstava je najnoviji jezivi i distopijski primjer namjere vlade da razvije takozvane sustave ‘predviđanja’ zločina.”

Upozorila je da će sustav produbiti rasnu i klasnu diskriminaciju: “Ovaj najnoviji model, koji koristi podatke od naše institucionalno rasističke policije i Ministarstva unutarnjih poslova, pojačat će i povećati strukturalnu diskriminaciju koja leži u temelju kaznenopravnog sustava.”

“Korištenje takvih osjetljivih podataka o mentalnom zdravlju, ovisnosti i invaliditetu je izrazito nametljivo i uznemirujuće,” dodala je.

Vlada tvrdi da bi alati poput ovoga mogli poboljšati način na koji probacijske službe procjenjuju rizik i sprječavaju nasilni kriminal. No, kritičari kažu da bi sustav mogao dovesti do toga da ljudi budu nepravedno označeni kao potencijalni ubojice zbog pogrešnih i pristranih podataka.

Vlada tvrdi da će ovi alati poboljšati sposobnost probacijskih službi u procjeni rizika i sprječavanju nasilnih zločina. Kritičari, međutim, upozoravaju da sustav riskira označavanje ljudi kao potencijalnih ubojica kroz loše i pristrane podatke.

Iako je još uvijek u razvoju, Statewatch izvješćuje da dokumenti spominju “buduću operacionalizaciju” sustava, izazivajući zabrinutost da bi se uskoro mogao koristiti u stvarnim policijskim odlukama.