Mišljenje: Je li ChatGPT vaš prijatelj? Možda je pravo vrijeme za postavljanje granica

OpenAI i MIT nedavno su objavili rad o utjecaju ChatGPT-a na dobrobit ljudi. Iako se većina korisnika oslanja na tehnologiju za praktične zadatke, studija otkriva da mala grupa razvija duboke emocionalne veze s AI modelom što može utjecati na njihovu dobrobit

Već neko vrijeme s znatiželjom promatram odnose koje neki ljudi razvijaju s generativnom umjetnom inteligencijom. Prije nekoliko mjeseci pročitala sam u The New York Timesu priču o 28-godišnjoj udanoj ženi koja se zaljubila u ChatGPT, i kako je ono što je započelo kao “zabavan eksperiment” evoluiralo u složeni i neočekivani odnos.

Promatrala sam svoje prijatelje, posebno one koji su nekada odbijali tehnologiju ili nisu bili zainteresirani za nju, a sada ne mogu donijeti veliku odluku bez da se posavjetuju sa svojim AI orakulom. Također sam se našla iznenađena empatijskim odgovorima koje daju AI modeli na emocionalno ili psihološki nabijena pitanja.

I, naravno, smijala sam se šalama, memovima i TikTok videima ljudi koji na društvenim mrežama pokazuju kako su postali ovisni o chatbotu, neki ga čak nazivaju svojim “najboljim prijateljem” ili “terapeutom” – a čak i ozbiljno preporučuju drugima da učine isto.

No, ako na trenutak ostavimo po strani zabavne doživljaje i šale, možda ćemo shvatiti da se globalno suočavamo s zabrinjavajućim fenomenom.

Ovog mjeseca, po prvi puta u kratkoj povijesti umjetne inteligencije, OpenAI i MIT Media Lab objavili su studiju koja nudi uvide o trenutnom utjecaju ChatGPT-a na emocionalnu dobrobit ljudi, kao i prijedloge o rizicima s kojima se kao društvo možemo suočiti: samoća, emocionalna ovisnost i manje socijalnih interakcija s pravim osobama.

Veza koja se razvija

Prvi pristup novim tehnologijama generativne umjetne inteligencije često počinje s nekoliko stidljivih pitanja, možda tehničkih o praktičnim zadacima poput sastavljanja e-maila ili zahtjeva za objašnjenje složenih tema, ili samo za mozgalice.

Međutim, jednom kada korisnik počne testirati sposobnosti chatbota, otkrije da su one šire i složenije nego što se očekivalo.

Dok su određeni AI proizvodi poput Friend—nosivi AI uređaj—dizajnirani i vrlo nezgrapno promovirani kao životni pratitelji korisnika, ChatGPT je oglašen kao alat za produktivnost. Ipak, određeni postotak ljudi koristi chatbot za osobne i emocionalne stvari te razvija snažne veze s njim.

Čak i ako su samo “mala skupina”, kako je OpenAI pojasnio, mogli bi i dalje predstavljati milijune ljudi širom svijeta, posebno s obzirom na to da sada više od 400 milijuna ljudi tjedno koristi ChatGPT. Ovi korisnici brzo primijete da OpenAI-jev chatbot oponaša njihov jezik, ton i stil i može se čak trenirati da interagira na određeni način ili koristi ljubazna imena – poput one dame koja se zaljubila u njega – i čak “zvuči” ljudskije.

“Njihov stil razgovora, upotreba prvog lica i sposobnost simuliranja interakcija sličnih onima koje ljudi imaju, doveli su do toga da korisnici ponekad personificiraju i antropomorfiziraju ove sustave,” navodi dokument koji je podijelio OpenAI.

No, ta bliskost dolazi s rizicima, kako su istraživači primijetili: “Iako emotivno angažirani chatbot može pružiti podršku i društvo, postoji rizik da bi mogao manipulirati korisnicima na socioafektivne potrebe na načine koji podrivaju dugoročnu dobrobit.”

Metodologija studije

Nedavno objavljena istraga usmjerena je na dobrobit ljudi nakon dosljedne upotrebe ChatGPT-a. Kako bi razumjeli emocionalni i socijalni utjecaj chatbota, istraživači su proveli dvije glavne studije koristeći različite strategije.

OpenAI je obradio i analizirao preko 40 milijuna interakcija poštujući privatnost korisnika koristeći klasifikatore, a anketirano je preko 4,000 njih o tome kako su se osjećali zbog tih interakcija.

MIT Media Lab je proveo pokus s gotovo 1,000 ljudi tijekom mjesec dana, usredotočujući se na psihosocijalne posljedice upotrebe ChatGPT-a barem 5 minuta dnevno. Također su predali i obradili upitnike na kraju eksperimenta.

Nimalo iznenađujuće, rezultati su otkrili da korisnici koji provode više vremena s tehnologijom doživljavaju veću usamljenost i pokazuju više znakova izolacije.

Kompleksne posljedice i višestruke posljedice

Studija MIT Media Laba i OpenAI-a također je ponudila nekoliko razmišljanja o tome koliko kompleksni i jedinstveni mogu biti odnosi između ljudi i chatbota.

U istraživanju, autori nam pružaju uvid u raznolika iskustva i načine na koje svaki korisnik interagira s ChatGPT-om – i kako se rezultati mogu razlikovati ovisno o različitim faktorima, kao što su upotreba naprednih glasovnih funkcija, isključivo tekstualni način rada, vrsta glasa, učestalost upotrebe, teme razgovora, jezik koji se koristi i vrijeme provedeno na aplikaciji.

“Savjetujemo protiv generaliziranja rezultata jer to može zasjeniti nijansirane nalaze koji ističu neujednačene, složene interakcije između ljudi i AI sustava,” upozorava OpenAI u svojoj službenoj objavi.

Svi različiti pristupi koje svaki korisnik odabire pretvaraju se u različite rezultate i uranjaju nas u sive zone koje su teško istražiti.

To je Efekt leptira u AI!

Postavljaju se nova pitanja

Rad koji je podijelila OpenAI također napominje da su teški korisnici rekli da bi bili “uzrujani” ako bi se glas ili osobnost njihovog chatbota promijenili.

To me podsjetilo na video koji sam nedavno vidjela na društvenim mrežama gdje je muškarac rekao da preferira ženski glas i da svakodnevno razgovara s generativnom AI. Bi li ChatGPT mogao pomoći muškarcima da se otvore emocionalno? Što bi se dogodilo ako bi jednog dana ChatGPT s njim razgovarao muškim glasom? Bi li se osjećao izdan? Bi li prestao koristiti ChatGPT? Je li razvijao romantičnu vezu – ili jednostavno prostor povjerenja? Naravno, teško je ne povezati ove scenarije odmah s filmom Spika Jonzea, Her.

Svaki ChatGPT račun, zajedno sa svojim povijesnim chatovima – svaki dan intimniji i privatniji od bilo kojeg WhatsApp profila ili DM-a na društvenim mrežama – predstavlja jedinstveni odnos s brojnim mogućim ishodima i posljedicama.

Očekivani rezultat

Sve studije analizirale su različite aspekte, ali su došle do sličnog zaključka, kratko objašnjenog na MIT Technology Review: “Sudionici koji su više vjerovali i ‘vezali’ se za ChatGPT bili su skloniji osamljenosti i većoj ovisnosti o njemu.”

Iako istraživanje nije bilo usmjereno na rješenja ili dublje objašnjenje zašto se to događa ili kako bi se to moglo razviti, čini se vjerojatnim da će se više korisnika pridružiti OpenAI-u i ostalim AI platformama, posebno sada kada je alat za generiranje AI slika postao viralan.

Iako zaključci istraživanja MIT-a i OpenAI-a nisu posebno iznenađujući, studija pruža znanstvenu podlogu s dokazima, mjerenjima, uzorcima i drugim ‘opipljivim’ mjerilima koja bi mogla utrti put daljnjim istraživanjima i pomoći u rješavanju implikacija korištenja umjetne inteligencije danas.

Primili smo i službeno upozorenje – od samih njegovih programera – o vezama koje stvaramo s ChatGPT-om i poziv da postavimo granice i promislimo o našim interakcijama i trenutnim odnosima – ili situacijama? – s chatbotovima.