Google DeepMind pokreće alat za otvoreni izvor Watermark kako bi pomogao u otkrivanju teksta generiranog umjetnom inteligencijom

Google DeepMind pokrenuo je ovog srijede alat otvorenog koda za vodene žigove pod nazivom SynthID-Text kako bi pomogao u otkrivanju teksta generiranog umjetnom inteligencijom. Alat je besplatan za poduzeća i developere i funkcionira tako da u tekst tijekom generiranja ugrađuje nevidljive vodene žigove – nedetectabilne ljudskom oku – mijenjajući vjerojatnosti riječi.

“Ovdje opisujemo SynthID-Text, shemu za vodene žigove spremnu za produkciju koja održava kvalitetu teksta i omogućuje visoku točnost detekcije, s minimalnim kašnjenjem,” stoji u sažetku istraživanja objavljenog u Nature. “Da bismo omogućili vodene žigove na velikoj razini, razvijamo algoritam koji integrira vodene žigove sa spekulativnim uzorkovanjem, tehnikom učinkovitosti koja se često koristi u produkcijskim sustavima.”

Prema MIT Technology Review, laboratorij za istraživanje umjetne inteligencije tehnološkog giganta razvio je tehnologiju SynthID za stvaranje višestrukih alata za vodene oznake AI koji sada mogu prepoznati tekst, glazbu, video i slike generirane AI. Google DeepMind podijelio je video koji objašnjava kako tehnologija funkcionira na više vrsta medija.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. listopada, 2024

SynthID dostupan je putem Googleovog Responsible Generative AI Toolkit-a, a istraživači rade zajedno s Hugging Face-om – suradničkom platformom za developere koja hosta druge otvorene projekte poput LeRobotovog vodiča za izradu AI-om pokretanih robota kod kuće – kako bi ga podijelili na njihovoj stranici.

„Sada će drugi [generativni] AI developeri moći koristiti ovu tehnologiju kako bi im pomogla detektirati jesu li tekstualni ishodi došli iz njihovih vlastitih [velikih jezičnih modela], čineći lakšim za više developera izgradnju AI-a odgovorno”, rekla je Pushmeet Kohli, potpredsjednica istraživanja u Google DeepMind-u, za MIT Technology Review.

SynthID je testiran na Googleovim Gemini proizvodima, a milijuni korisnika nisu bili u stanju razlikovati označeni i neoznačeni sadržaj. Međutim, istraživači priznaju da ima ograničenja kada je tekst uređen ili preveden, ali ostaju optimistični i vjeruju da bi alat mogao pomoći u borbi protiv dezinformacija i poboljšanju sigurnosti AI.

Više tehnoloških tvrtki najavilo je strategije označavanja AI-a u posljednjih nekoliko mjeseci. Meta je u veljači najavila sustav za identifikaciju AI sadržaja na Instagramu, Facebooku i Threads-u, Google je korisnike obvezao da označe AI sadržaj u ožujku, a TikTok je dodao oznake na AI-generirani sadržaj u svibnju.