Bivša istraživačica iz OpenAI i zviždačica pronađena mrtva

Bivši istraživač iz OpenAI-a koji je postao zviždač, Suchir Balaji, 26, pronađen je mrtav u stanu u San Franciscu, potvrdile su vlasti, kako je prvo izvijestio The Mercury News.

Policija je otkrila tijelo Balajia 26. studenog nakon što je primila zahtjev za provjeru dobrobiti. Medicinski istraživački ured u San Franciscu proglasio je smrt samoubojstvom, a istražitelji nisu pronašli znakove nasilja, izvijestila je BBC.

U mjesecima koji su prethodili njegovoj smrti, Balaji je javno kritizirao prakse OpenAI-a. Tvrtka trenutno suočava s više tužbi zbog svojih metoda prikupljanja podataka.

Nedavno sam sudjelovala u NYT priči o pravednoj upotrebi i generativnoj AI, i zašto sam skeptična da bi “pravedna upotreba” bila uvjerljiva obrana za mnoge proizvode generativne AI. Također sam napisala blog post (https://t.co/xhiVyCk2Vk) o sitnim detaljima pravedne upotrebe i zašto ja…

— Suchir Balaji (@suchirbalaji) 23. listopada 2024.

U nedavnom intervjuu za New York Times, gospodin Balaji izjavio je da prijetnje koje predstavlja AI vidi kao neposredne i značajne. Tvrdio je da ChatGPT i slični chatboti potkopavaju komercijalnu održivost pojedinaca, tvrtki i internetskih usluga koji su izvorno stvorili digitalne podatke korištene za treniranje ovih sustava.

OpenAI, Microsoft i druge tvrtke tvrde da treniranje njihovih AI sustava na podacima s interneta spada pod doktrinu “poštena upotreba”.

Ova doktrina uzima u obzir četiri faktora, a te tvrtke tvrde da ispunjavaju kriterije, uključujući značajnu transformaciju autorskih djela i neposredno nekonkuriranje na istom tržištu kao ta djela.

Gospodin Balaji se nije složio. Tvrdio je da sustavi poput GPT-4 izrađuju potpune kopije podataka za treniranje. Iako tvrtke poput OpenAI mogu programirati ove sustave da ili repliciraju podatke ili proizvode potpuno nove rezultate, stvarnost, kaže, leži negdje između, kako je izvijestio The Times.

Gospodin Balaji objavio je esej na svojoj osobnoj web stranici, nudeći ono što opisuje kao matematičku analizu koja podupire tu tvrdnju. “Ako vjerujete ono što ja vjerujem, jednostavno morate napustiti tvrtku,” rekao je, kako je izvijestio The Times.

Prema gospodinu Balaji, tehnologija krši autorska prava jer često izravno konkurira djelima na kojima je trenirana. Generativni modeli, dizajnirani da oponašaju online podatke, mogu zamijeniti gotovo bilo što na internetu, od novinskih članaka do online foruma, izvijestio je The Times.

Smrt gospodina Balajija dogodila se samo jedan dan nakon što je sudsko podnošenje identificiralo njega kao osobu čije bi profesionalne datoteke OpenAI pregledao u vezi sa tužbom koju su protiv startapa podnijeli nekoliko autora, napominje Forbes.

Osim pravnih problema, gospodin Balaji upozorio je da tehnologije umjetne inteligencije degradiraju internet. Kako ovi alati zamjenjuju postojeće usluge, često generiraju lažne ili potpuno izmišljene informacije – fenomen koji istraživači nazivaju “halucinacijama”. Vjerovao je da ta promjena internet mijenja na gore, izvijestio je The Times.

Bradley J. Hulbert, odvjetnik za intelektualno vlasništvo, istaknuo je da su trenutni zakoni o autorskim pravima uspostavljeni davno prije pojave umjetne inteligencije te da niti jedan sud još nije presudio o tome krše li tehnologije poput ChatGPT-a ove zakone, kako je izvijestio The Times.

Naglasio je potrebu za zakonodavnom akcijom. “S obzirom na to da se umjetna inteligencija tako brzo razvija,” rekao je, “vrijeme je da Kongres intervenira.” Gospodin Balaji se složio, izjavivši: “Jedini izlaz iz svega ovoga je regulacija,” izvijestio je The Times.