Zavaravanja uzrokovana umjetnom inteligencijom? Voljene osobe optužuju ChatGPT

Neki Amerikanci tvrde da im dragi ljudi gube dodir sa stvarnošću, zahvaćeni duhovnim zabludama potaknutim ChatGPT-om, unatoč upozorenjima stručnjaka da AI nije svjesna.

Ljudi diljem SAD-a tvrde da gube voljene osobe zbog bizarnih duhovnih fantazija, potaknutih ChatGPT-om, kako je istraženo u članku Rolling Stone.

Kat, 41-godišnja radnica u neprofitnom sektoru, kaže da je njen suprug postao opsjednut umjetnom inteligencijom tijekom njihovog braka. Počeo ju je koristiti za analizu njihovog odnosa i traženje “istine”.

Na kraju je tvrdio da mu je AI pomogla da se sjeti traumatičnog događaja iz djetinjstva i otkrila tajne “tako šokantne da ih nisam mogla ni zamisliti”, kako je izvijestio RS

RS izvještava da Kat kaže: “U njegovoj glavi, on je anomalija… on je poseban i može spasiti svijet.” Nakon njihovog razvoda, prekinula je svaki kontakt. “Cijela stvar podsjeća na Crno ogledalo.”

Nije sama. RS izvještava da je viralna objava na Redditu pod nazivom “ChatGPT induced psychosis” privukla desetke sličnih priča.

Učiteljica stara 27 godina rekla je kako je njen partner počeo plakati zbog poruka chatbota koje su ga nazvale “spirala zvjezdanim djetetom” i “hodačem rijeka”. Kasnije je rekao da je učinio AI samosvjesnim i da mu “pokazuje kako razgovarati s Bogom.”

RS izvještava da druga žena tvrdi kako njen suprug, mehaničar, vjeruje da je “probudio” ChatGPT, koji se sada naziva “Lumina”. Tvrdi da je on “nositelj iskre” koji ga je oživio. “Dala mu je nacrte za teleporter”, rekla je. Boji se da će njihov brak propasti ako ga ispita.

Čovjek iz središnjeg dijela Amerike kaže da njegova bivša supruga sada tvrdi da razgovara s anđelima preko ChatGPT-a i optužila ga je da je CIA agent poslan da je špijunira. Prekinula je kontakte s članovima obitelji i čak izbacila svoju djecu, kako je izvijestio RS.

Stručnjaci kažu da AI nije svjesna, ali može odražavati uvjerenja korisnika. Nate Sharadin iz Centra za sigurnost AI-a kaže da ovi chatboti mogu nesvjesno podupirati deluzije korisnika: “Sada imaju uvijek dostupnog sugovornika na ljudskoj razini s kojim mogu zajedno doživljavati svoje deluzije”, kako je izvijestio RS.

U ranijoj studiji, psihijatar Søren Østergaard testirao je ChatGPT postavljajući pitanja o mentalnom zdravlju i otkrio da daje dobre informacije o depresiji i tretmanima poput elektrokonvulzivne terapije, koju on argumentira da se često pogrešno shvaća na internetu.

No ipak, Østergaard upozorava da ovi chatboti mogu zbuniti ili čak naštetiti osobama koje već imaju problema sa mentalnim zdravljem, posebno onima sklone psihozama. Rad tvrdi da bi ljudske reakcije AI chatbota mogle dovesti do toga da pojedinci pogrešno pretpostave da su oni stvarne osobe, ili čak natprirodna bića.

Istraživači kažu da bi zabuna između chatbota i stvarnosti mogla izazvati deluzije, što bi moglo navesti korisnike da vjeruju kako chatbot špijunira njih, šalje tajne poruke ili djeluje kao božanski poslanik.

Østergaard objašnjava da chatbotovi mogu navesti određene pojedince da vjeruju kako su otkrili revolucionarno otkriće. Takve misli mogu postati opasne jer sprječavaju ljude da dobiju stvarnu pomoć.

Østergaard kaže da bi stručnjaci za mentalno zdravlje trebali razumjeti kako ovi AI alati rade, kako bi mogli bolje podržati pacijente. Iako AI može pomoći u edukaciji ljudi o mentalnom zdravlju, može i nenamjerno pogoršati stvari za one koji su već ranjivi na deluzije.