OpenAI suočava se s pritužbom zbog povrede privatnosti nakon što je ChatGPT lažno optužio korisnika za ubojstvo

Europska neprofitna organizacija noyb pruža podršku norveškom korisniku ChatGPT-a u podnošenju formalne žalbe protiv američke tvrtke nakon što ga je chatbot lažno optužio za ubojstvo svoje dvoje djece.

Europska neprofitna organizacija noyb pruža podršku korisniku norveškog ChatGPT-a u podnošenju formalne pritužbe protiv američke tvrtke nakon što ga je chatbot lažno optužio za ubojstvo svoje dvoje djece.

noyb, poznat i kao Europski centar za digitalna prava, podijelio je službeni dokument u kojem detaljno opisuje slučaj, upozorava na rizik od halucinacija chatbota u osobnim životima ljudi, i naglašava važnost poštovanja Opće uredbe o zaštiti podataka (GDPR).

Prema informacijama i prigovoru koji je noyb podijelio, norveški stanovnik Arve Hjalmar Holmen postavio je ChatGPT-u pitanje tko je on, i bio je šokiran kada je pročitao lažnu i zastrašujuću priču o ubojstvu. Tvrdilo se da je ubio svoja dva sina, pokušao ubiti treće dijete i da je osuđen na 21 godinu zatvora.

“Ima obitelj sa tri sina. On je ono što ljudi nazivaju ‘običnom osobom’, što znači da nije poznat ili prepoznatljiv javnosti,” navodi se u pritužbi Noyba. “Nikada nije bio optužen niti osuđen za bilo kakav zločin i savjestan je građanin.”

noyb objašnjava da, osim opasno netočnih informacija, drugi iznimno zabrinjavajući aspekt odgovora je da je ChatGPT razmatrao stvarne osobne podatke kako bi izmislio priču. Chatbot je uključio njegov stvarni rodni grad, broj djece koje ima, njihov spol, pa čak i slične razlike u dobi.

„Neki misle da ‘nema dima bez vatre’. Činjenica da bi netko mogao pročitati ovaj rezultat i vjerovati da je istinit, je ono što me najviše plaši”, rekla je Arve Hjalmar Holmen.

noyb ističe da ovo nije izolirani slučaj, te su ranije podnijeli pritužbu protiv OpenAI zbog netočnih informacija – datuma rođenja – javne osobe koja nije ispravljena. OpenAI je nakon mnogih koji su se požalili na netočne informacije prošle godine uključio odricanje od odgovornosti. No, mnoge organizacije, uključujući noyb, smatraju da to nije dovoljno.

„GDPR je jasan. Osobni podaci moraju biti točni. A ako nisu, korisnici imaju pravo tražiti da se promijene kako bi odražavali istinu“, rekao je Joakim Söderberg, odvjetnik za zaštitu podataka u noybu. „Prikazivanje korisnicima ChatGPT-a malenog odricanja od odgovornosti da chatbot može pogriješiti očito nije dovoljno.“

🚨 Danas smo podnijeli našu drugu pritužbu protiv OpenAI zbog problema s halucinacijama ChatGPT

👉 Kada je norveški korisnik upitao ChatGPT ima li ikakvih informacija o njemu, chatbot je izmislio priču da je ubio svoju djecu.

Saznajte više: https://t.co/FBYptNVfVz pic.twitter.com/kpPtY1ps25

— noyb (@NOYBeu) 20. ožujka 2025.

noyb je prošle godine također podnio tužbu protiv X zbog korištenja osobnih podataka više od 60 milijuna Europljana za treniranje svog AI chatbota Grok.