Nacije raspravljaju o budućnosti AI oružja na UN

Države su se okupile na Općoj skupštini U.N. u New Yorku u ponedjeljak kako bi raspravljale o budućnosti autonomnih oružja kontroliranih AI-em i mogućim propisima koji bi regulirali njihovu upotrebu. Stručnjaci upozoravaju na sve veću hitnost, citirajući kako nedostatak međunarodnog konsenzusa tako i ograničeno vrijeme.

Prema Reutersu, AI već igra značajnu ulogu u trenutnim sukobima, posebno u regijama poput Ukrajine i Gaze. Prije nekoliko mjeseci Ukrajina je otkrila da je prikupila oko 2 milijuna sati snimaka s bojišta kako bi trenirala AI sustave.

Regulativni okviri za AI tehnologije muče se da održe korak. Iako su diskusije o autonomnim oružjima u tijeku na Konvenciji o određenim konvencionalnim oružjima (CCW) u Ženevi od 2014. godine, do danas nisu uspostavljeni obvezujući globalni propisi.

Glavni tajnik Ujedinjenih naroda António Guterres postavio je 2026. godinu kao cilj za postizanje međunarodnog konsenzusa o novom pravnom okviru.

“Vrijeme doista istječe za postavljanje nekih ograda kako se ne bi dogodili noćni scenariji koje predviđaju neki od najpoznatijih stručnjaka,” rekao je Alexander Kmentt, šef kontrole naoružanja u austrijskom ministarstvu vanjskih poslova, za Reuters.

Osim autonomnog oružja, sastanci koji se održavaju ovog tjedna bavit će se i drugim kritičnim temama poput ljudskih prava i etičkih briga, kao i uključivanjem ne-državnih aktera. Dok većina zemalja podržava stvaranje obvezujućeg globalnog okvira, druge – poput Kine, Sjedinjenih Američkih Država, Indije i Rusije – favoriziraju oslanjanje na postojeće međunarodne zakone ili nacionalne smjernice.

Brojne organizacije, uključujući Human Rights Watch, izrazile su zabrinutost zbog širenja nereguliranih autonomnih oružja u različitim regijama. Institut za budućnost života identificirao je otprilike 200 autonomnih oružnih sustava u upotrebi na lokacijama poput Afrike, Bliskog Istoka i Ukrajine.

“Općenito ne vjerujemo industrijama da se samoreguliraju… Nema razloga zašto bi obrambene ili tehnološke tvrtke trebale biti više dostojne povjerenja,” rekla je aktivistica Laura Nolan iz organizacije Stop Killer Robots za Reuters.

Upotreba AI i autonomnih sustava za razvoj oružja sve više zauzima prostor u tehnološkoj industriji. Google je prije nekoliko mjeseci ukinuo zabranu upotrebe AI za oružje, kineski istraživači koriste Meta-in Llama model za vojne aplikacije, a startup Theseus nedavno je prikupio 4,3 milijuna dolara za razvoj autonomnih dronova.