Generativna AI izaziva uzbunu u znanosti jer lažni podaci prijete vjerodostojnosti

Slike generirane umjetnom inteligencijom izazivaju veliku zabrinutost među istraživačima i izdavačima, budući da novi generativni alati umjetne inteligencije alarmantno olakšavaju stvaranje lažnih znanstvenih podataka i slika, kako je navedeno u priopćenju za tisak časopisa Nature.

Ovaj napredak ugrožava vjerodostojnost akademske literature, s stručnjacima koji strahuju od porasta studija temeljenih na umjetnoj inteligenciji koje su lažirane, a koje bi mogle biti teško identificirati.

Jana Christopher, analitičarka integriteta slika u FEBS Pressu u Njemačkoj, naglašava da brza evolucija generativne umjetne inteligencije izaziva sve veće zabrinutosti zbog njenog potencijala za zloupotrebu u znanosti.

“Ljudi koji rade u mom području – integritet slike i etika objavljivanja – sve su više zabrinuti zbog mogućnosti koje ona pruža,” rekla je Jana, kako je izvijestio Nature.

Ona napominje da, iako neki časopisi mogu prihvatiti tekst generiran umjetnom inteligencijom pod određenim smjernicama, slike i podaci generirani AI-om smatraju se prelaskom granice koja bi mogla duboko utjecati na integritet istraživanja, kako je navedeno u Nature.

Otkrivanje ovih slika stvorenih umjetnom inteligencijom postalo je primarni izazov, kaže Nature. Za razliku od prethodnih digitalnih manipulacija, slike generirane AI-om često ne pokazuju uobičajene znakove krivotvorenja, što otežava dokazivanje bilo kakve obmane.

Stručnjakinja za forenziku slika Elisabeth Bik i drugi istraživači sugeriraju da bi AI-producirane figure, posebno u molekularnoj i staničnoj biologiji, već mogle biti prisutne u objavljenoj literaturi, kako je izvijestio Nature.

Alati poput ChatGPT-a sada se redovito koriste za izradu radova, prepoznatljivih po tipičnim frazama chatbota koje nisu uređene, ali slike generirane AI-em su puno teže uočiti. U odgovoru na ove izazove, tehnološke tvrtke i istraživačke institucije razvijaju alate za detekciju, istaknuo je Nature.
Alati pokretani umjetnom inteligencijom poput Imagetwin i Proofig predvode ovu borbu obučavajući svoje algoritme da identificiraju sadržaj generiran umjetnom inteligencijom. Suosnivač Proofiga, Dror Kolodkin-Gal, izvještava da njihov alat uspješno detektira slike generirane AI tehnikom 98% vremena, no napominje da je ljudska provjera ključna za potvrđivanje rezultata, navodi Nature.

U svijetu izdavaštva, časopisi poput Science koriste Proofig za početne pretrage prilikom prijema članaka, dok izdavački gigant Springer Nature razvija vlastite alate, Geppetto i SnapShot, za identificiranje nepravilnosti u tekstu i slikama, kako je izvijestio Nature.
Druge organizacije, poput Međunarodne udruge znanstvenih, tehničkih i medicinskih izdavača, također pokreću inicijative za borbu protiv tvornica radova i osiguranje integriteta istraživanja, kako je izvijestio Nature.

Međutim, stručnjaci upozoravaju da izdavači moraju brzo djelovati. Kevin Patrick, stručnjak za znanstvenu analizu slika, zabrinut je da bi, ako akcija kasni, AI-generirani sadržaj mogao postati još jedan neriješen problem u akademskoj literaturi, kako je izvijestio Nature.

Unatoč ovim zabrinutostima, mnogi ostaju puni nade da će buduća tehnologija evoluirati kako bi otkrila današnje prevare generirane umjetnom inteligencijom, nudeći dugoročno rješenje za zaštitu integriteta akademskog istraživanja.