Mišljenje: AI modeli su tajanstvena “bića”, a čak ni njihovi tvorci ih ne razumiju u potpunosti

Nedavna studija tvrtke Anthropic o radu njenog Claude 3.5 Haiku modela obećava revolucionarna otkrića i iskru uvida u razumijevanje rada naprednih AI tehnologija. Ali što zapravo žele reći kada kažu da su LLM (Large Language Models) “živi organizmi” koji “razmišljaju”?

Prije par dana, Anthropic je objavio dvije radnje s revolucionarnim istraživanjima o radu Velikih jezičnih modela (LLM). Iako su tehnički razvoji bili zanimljivi i relevantni, ono što mi je najviše zaokupilo pažnju bio je rječnik koji su koristili stručnjaci za AI.

U studiji O biologiji velikog jezičnog modela, istraživači sebe uspoređuju s biolozima koji proučavaju složene “žive organizme” koji su evoluirali tijekom milijardi godina.

“Isto tako, iako su jezični modeli generirani jednostavnim, ljudski dizajniranim algoritmima za obuku, mehanizmi rođeni iz tih algoritama izgledaju prilično složeno,” napisali su znanstvenici.

U posljednjih nekoliko godina, AI modeli su se znatno razvili. I posljednjih smo mjeseci svjedočili njihovoj brzoj evoluciji. Vidjeli smo kako ChatGPT prelazi s modela koji koristi samo tekst do govorne pratnje, do sada višedimenzionalnog agenta koji može generirati i zadivljujuće slike u stilu Studio Ghibli.

No, što ako trenutačni pionirski AI modeli dosežu tu razinu znanstvene fantastike razvijajući takvo napredno razumijevanje da čak ni njihovi kreatori ne mogu razumjeti njihove procese i sustave? Postoji više tajni koje okružuju AI tehnologije koje bi moglo biti relevantno ponovno posjetiti – ili se u njih dublje uroniti – u 2025. godini.

Stravični paradoks crne kutije AI modela

Postoje brojne rasprave o usvajanju AI-a i pismenosti AI-a, i kako oni koji razumiju kako rade generativni AI modeli, manje vjerojatno smatraju chatbote svojim “prijateljima” ili “magičnim” aplikacijama. No, postoji još jedna debata – među stručnjacima i ljudima koji su upućeniji u tehnologiju – o tome treba li uspoređivati ili smatrati LLM-ove neovisnim kreacijama. Kada je riječ o potonjem, postoji poseban sastojak, tajna poznata kao “paradoks crne kutije AI-a”, koji igra ključnu ulogu u raspravi.

Sustavi dubokog učenja obučeni su za prepoznavanje elemenata i trendova na sličan način kao što to čine ljudi. Baš kao što djecu učimo prepoznavati uzorke i dodjeljivati specifične riječi različitim objektima, LLM-ovi su obučeni za stvaranje jedinstvenih veza i izgradnju mreža koje postaju sve složenije kako “rastu”.

Samir Rawashdeh, izvanredni profesor elektrotehnike i računalnog inženjeringa, specijaliziran je za umjetnu inteligenciju i objašnjava kako je, baš kao i kada proučavamo ljudsku inteligenciju, gotovo nemoguće zapravo vidjeti kako sustavi dubokog učenja donose odluke i dolaze do zaključaka. To je ono što stručnjaci nazivaju “problemom crne kutije”.

AI modeli izazivaju ljudsko razumijevanje

Nedavna studija tvrtke Anthropic bacila je svjetlo na situaciju s AI crnom kutijom objašnjavajući kako njen model “razmišlja” u određenim scenarijima koji su prethodno bili nejasni ili čak potpuno pogrešni. Čak i ako je studija temeljena na modelu Claude 3.5 Haiku, omogućuje stručnjacima da razviju alate i analiziraju slične karakteristike na drugim AI modelima.

“Razumijevanje prirode ove inteligencije duboki je znanstveni izazov, koji ima potencijal preoblikovati naše shvaćanje što znači ‘razmišljati'”, navodi rad koji su podijelili istraživači iz Anthropic-a.

Međutim, termin “razmišljati”, kojim se opisuju AI tehnologije, uzrujava određene stručnjake u industriji i dio je kritike istrage. Korisnik Reddita objasnio je zašto to iritira skupinu ljudi: “Postoji puno antropomorfiziranja kroz članak koje zamagljuje rad. Na primjer, stalno koristi riječ ‘razmišljati’ kada bi trebalo reći ‘izračunati’. Govorimo o računalnom softveru, a ne biološkom mozgu.”

Iako “humanizirani” pojmovi pomažu ne-tehničkim osobama bolje razumjeti AI modele i potiču debatu u zajednici, istina je da, bez obzira govorimo li o “računanju” ili “razmišljanju”, isti izazov ostaje: nemamo potpuno razumijevanje ili potpunu transparentnost o tome kako LLM-ovi rade.

Što očekivati od naprednih AI modela u bliskoj budućnosti

Možete li zamisliti ignoriranje postojanja naprednih AI tehnologija poput ChatGPT, DeepSeek, Perplexity ili Claude—sada ili u bliskoj budućnosti? Svi znakovi upućuju na to da nema povratka. Generativna i rezonirajuća AI već su transformirala naš svakodnevni život, a samo će nastaviti evoluirati.

Gotovo svaki dan u WizCaseu izvještavamo o novom razvoju događaja u industriji – novom AI modelu, novom AI alatu, novoj AI tvrtki – koji ima potencijal napraviti veliki utjecaj u našem društvu. Ideja o uzimanju pauze kako bi se bolje razumjeli ti napredni modeli i način na koji rade – ili čak malo usporavanje – čini se nemogućom, s obzirom na brzi tempo AI utrke i uključenost vlada i najmoćnijih svjetskih kompanija.

“AI modeli sve više utječu na naš način života i rada, moramo ih dovoljno dobro razumjeti kako bismo osigurali da njihov utjecaj bude pozitivan,” navodi se u radu Anthropic-a. Iako to može zvučati malo nerealno, istraživači ostaju optimistični: “Vjerujemo da su naši rezultati ovdje, i put napretka na kojem su izgrađeni, uzbudljivi dokazi da možemo se suočiti s ovim izazovom.”

No koliko brzo ova otkrića zapravo mogu napredovati? Rad također napominje da rezultati pokrivaju samo nekoliko područja i specifične slučajeve te da nije moguće izgraditi šire zaključke. Dakle, vjerojatno ne dovoljno brzo.

Dok regulatori uvode mjere poput EU AI Act, zahtijevajući veću transparentnost, privlače optužbe i pritužbe velikih tehnoloških tvrtki za navodno usporavanje napretka, moćni AI modeli nastavljaju napredovati.

Kao društvo, moramo težiti pronalaženju ravnoteže između produbljivanja našeg razumijevanja kako ove tehnologije funkcioniraju i njihovog usvajanja na načine koji donose značajne koristi i napredak našim zajednicama. Je li to moguće? Ideja da samo molimo ili se nadamo da će ova “bića” ostati “etična” i “dobra” trenutno ne zvuči tako nevjerojatno.