Jasna granica između stvarnih i videa generiranih umjetnom inteligencijom mogla bi nestati do 2025. godine

Sadržaj generiran umjetnom inteligencijom tu je da ostane. Sve je bolji i bolji, a u 2024. vidjeli smo značajno poboljšanje u tehnologijama umjetne inteligencije. Hoćemo li 2025. moći razlikovati što je stvarno, a što nije?

Nedavno sam se zapitala: “Je li to prava žena?” – malo samrijećila – nakon što sam vidjela objavu na Instagramu. “Ne, to mora biti generirano umjetnom inteligencijom”, zaključila sam nakon trenutka. Odmah sam se zapitala: Hoćemo li još uvijek moći prepoznati razliku u sekundi već sljedeće godine? Svi znakovi ukazuju na to da nećemo, posebno na društvenim mrežama, s obzirom na značajne nedavne razvoje u tehnologiji umjetne inteligencije.

Prije nekoliko dana, šef Instagrama, Adam Mosseri, podijelio je poruku koja se bavi ovim problemom na Threadsu. “Generativna AI jasno proizvodi sadržaj koji je teško razlikovati od snimaka stvarnosti, i brzo se poboljšava,” napisao je. Mosseri je javno priznao da imaju teškoće u Meta tagiranju sadržaja stvorenog umjetnom inteligencijom te kontroliranju i praćenju ogromnih količina medija koji se svake sekunde dijele na njihovim društvenim mrežama.

Mosseri je oprao ruke od odgovornosti Mete i upozorio korisnike da je na njima da procijene je li post stvaran ili ne. “Bit će sve važnije da gledatelj, ili čitatelj, pristupa s prosudbenim umom kada konzumira sadržaj koji tvrdi da je prikaz ili snimka stvarnosti,” dodao je.

Samo nekoliko dana kasnije, OpenAI je objavio Sora Turbo, svoj snažan AI generator videa, omogućujući Pro i Plus korisnicima da generiraju realistične videozapise iz tekstualnih uputa. Korisnici su za samo nekoliko minuta počeli stvarati fascinantne realistične videozapise i dijeliti ih na društvenim mrežama.

Upravo kada se činilo da je video produkcija dostigla novu razinu, Google je najavio svoj najnoviji AI alat za video, Veo 2, s većom rezolucijom i duljim isječcima od Sore. Naravno, rezultati koje su podijelili oni koji su imali pristup naprednoj tehnologiji bili su još impresivniji.

“Nitko više ne može reći da je ovo AI,” napisala je jedna korisnica.

Gotovo je.

Google Veo 2 je upravo eliminirao konkurenciju i postao novi kralj svijeta AI medija.

Nitko sada ne može reći da je ovo AI.

10 divljih primjera: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17. prosinca, 2024

Već se događa

Tijekom 2024. godine, svjedočili smo kako je sadržaj generiran umjetnom inteligencijom utjecao na populacije, izbore i korisnike društvenih mreža.

U siječnju su stanovnici New Hampshirea dobili poziv “od Joea Bidena” koji im je poručio da ne glasuju na preliminarnim izborima. Politički savjetnik Steve Kramer bio je iza te prijevare i bio je kažnjen s 6 milijuna dolara zbog robopoziva s AI dubokom imitacijom. Vlade su počele shvaćati utjecaj koji AI može imati i države poput Singapura razvijaju zakone i strategije kako bi pomogle stanovništvu da prepozna duboko lažni sadržaj.

U Venezueli, videozapisi generirani AI-pomoću šire dezinformacije – ali također pomažu novinarima da informiraju putem AI avatara kako bi zaobišli cenzuru.

Ljudima je sve teže odrediti što je stvarno a što nije, a to nije njihova greška: sadržaj generiran umjetnom inteligencijom postaje sve bolji i bolji.

Posao visokokvalitetnog sadržaja generiranog umjetnom inteligencijom raste u svim oblicima; tekst, audio i video. Mnogi kreatori na OnlyFansu trenutno se oslanjaju na chatbotove kako bi vodili razgovore sa svojim fanovima, posao koji je nekada bio dodijeljen radnicima na slobodnim poslovima u zemljama s nižim prihodima. Novi modeli umjetne inteligencije specijalizirani za flertovanje čak su zaradili 1.000 dolara na napojnicama od svojih pratitelja.

U travnju, startup poduprt od strane Nvidije, Synthesia, pokrenuo je AI avatare koji mogu izraziti ljudske emocije i govoriti na 130 jezika. TikTok omogućuje tvrtkama stvaranje AI generiranih oglasa koristeći sadržaj Getty Images, a sada YouTube kreatori mogu koristiti novu značajku AI auto-dubbinga za prevođenje svog sadržaja na 9 jezika, a buduća ažuriranja će replicirati izvorni glas.

Zoom radi na stvaranju AI avatara koji izgledaju baš kao korisnici kako bi im pomogli snimati poruke i čak sudjelovati na sastancima. Ovaj alat će se početi koristiti sljedeće godine, ali ljudi već testiraju više alata i tvrtke već mogu stvarati fotorealistične AI klonove.

Jeste li sigurni da ste tijekom posljednjeg Zoom poziva razgovarali s pravom osobom?

Kako prepoznati je li stvoreno pomoću AI? Za sada

Živimo u zbunjujućim vremenima u ovoj digitalnoj eri. Filteri mogu učiniti da svatko izgleda kao model s besprijekornom kožom, a korekcije vrijedne Photoshopa su samo klik daleko na Instagramu ili Snapchatu – koliko bi ljudi željelo podijeliti svoju “prirodnu” sliku, sa svim nesavršenostima, kada se može poboljšati u sekundi? Sve više i više oglasa prikazuje fotorealistične slike generirane umjetnom inteligencijom, postupno uvjeravajući naše oči u njihovu poznatost i “normalnost”. A svaki dan, iznenađujući događaji diljem svijeta tjera nas na pitanje: što je stvarno, a što više nije?

Velike tvrtke za umjetnu inteligenciju rade na vodenim žigovima kako bi lakše prepoznale svoj sadržaj generiran umjetnom inteligencijom. Google DeepMind pokrenuo je svoj sustav otvorenog koda za vodene žigove u listopadu kako bi obilježio videopriloge, tekst i audio generirane umjetnom inteligencijom, a Meta je također uključila jedan u svoj alat za video generiran umjetnom inteligencijom.

No, njegova je učinkovitost upitna, počevši od same Mete koja priznaje da ne može označiti sav sadržaj generiran umjetnom inteligencijom. Zlonamjerni korisnici i dalje mogu pronaći načine za uklanjanje vodenih žigova i potrebni su dodatni zakoni, partnerstva i dogovori između društvenih mreža i vlada kako bi se postigao učinkovitiji sustav.

Za sada, osim što vjerujemo svojim instinktima, možemo sebi postaviti nekoliko pitanja prije dijeljenja na društvenim mrežama ili prije nego povjerujemo onome što vidimo:

• Baš kao što je Mosseri preporučio, razmislite o sljedećem: Tko dijeli ove informacije? Je li to pouzdan izvor?
• Da li osoba izgleda robotski u izrazu lica ili pokretima? Iako AI avatari mogu biti prilično realistični, još uvijek je moguće prepoznati čudnu ukočenost ili nedostatak emocija—iako treba uzeti u obzir da već neke tvrtke poput Synthesia rade na poboljšanju ovoga.
• Je li sadržaj osmišljen da izazove snažnu emocionalnu reakciju? Zlonamjerni akteri znaju koliko lako dijelimo negativne vijesti i interagiramo s emocionalno nabijenim materijalom na društvenim mrežama, a istraživanja to potvrđuju. Prije nego što podijelite taj sadržaj koji vam je podigao tlak kako bi i drugi bili jednako ogorčeni kao što ste vi, razmislite je li osmišljen da izazove kontroverze ili je zapravo prava vijest ili stvarni događaj.
• Možete li potvrditi sadržaj s drugim izvorima? Provjera s pouzdanim izvorima nikada ne škodi.

I konačno, jeste li se pitali – ili vašeg preferiranog chatbota – kako poboljšati kritičko razmišljanje? Razvijanje kritičkog uma definitivno bi trebalo biti među novogodišnjim odlukama svih.