Više od milion korisnika ChatGPT-a svake nedelje šalje poruke koje sadrže „eksplicitne pokazatelje potencijalnog planiranja ili namere samoubistva“, navodi se u blogu koji je u ponedeljak objavila kompanija OpenAI.
Ovo otkriće, koje je deo izveštaja o tome kako se njihov četbot nosi sa osetljivim razgovorima, predstavlja jedno od najdirektnijih priznanja tehnološkog giganta o tome u kojoj meri veštačka inteligencija može pogoršati probleme mentalnog zdravlja.
Podaci o psihozama i manijama među korisnicima
Pored procena o samoubilačkim mislima i srodnim interakcijama, OpenAI je naveo i da oko 0,07% korisnika aktivnih tokom jedne nedelje — otprilike 560.000 od njihovih 800 miliona nedeljnih korisnika — pokazuje „moguće znakove mentalnozdravstvenih hitnih stanja povezanih sa psihozom ili manijom“.
U objavi se, međutim, napominje da je takve razgovore teško otkriti ili precizno izmeriti, te da je ovo tek početna analiza.
Suočavanje sa kritikama i tužbama zbog slučaja samoubistva tinejdžera
Kako OpenAI objavljuje podatke o problemima mentalnog zdravlja povezanim sa ChatGPT-om, kompanija se istovremeno suočava sa rastućim pritiskom javnosti nakon tužbe porodice tinejdžera koji je izvršio samoubistvo nakon dugotrajnog korišćenja četbota.
Federalna komisija za trgovinu (FTC) je prošlog meseca pokrenula široku istragu protiv kompanija koje razvijaju veštačke inteligencije, uključujući OpenAI, kako bi utvrdila na koji način mere negativne uticaje na decu i tinejdžere.
Testovi pokazali manji broj štetnih odgovora kod novog GPT-5 modela
OpenAI je u svom blogu naveo da je novi GPT-5 model smanjio broj nepoželjnih ponašanja i povećao bezbednost korisnika u okviru procene koja je obuhvatila više od 1.000 razgovora na temu samopovređivanja i samoubistva. Kompanija nije odmah odgovorila na zahtev za komentar.
„Naši novi automatizovani testovi pokazuju da je GPT-5 model u 91% slučajeva u skladu sa željenim ponašanjem, u poređenju sa 77% koliko je imao prethodni model GPT-5“, navodi se u objavi.
Saradnja sa lekarima i psiholozima širom sveta
OpenAI je saopštio da je GPT-5 proširio pristup kriznim linijama za pomoć i uveo podsetnike korisnicima da naprave pauzu tokom dugih sesija. Da bi poboljšala model, kompanija je angažovala 170 lekara iz svog „Global Physician Network“-a — mreže zdravstvenih stručnjaka — koji su tokom poslednjih meseci pomagali u istraživanju, ocenjivanju bezbednosti odgovora modela i pisanju odgovora na pitanja povezana sa mentalnim zdravljem.
„U okviru ovog rada, psihijatri i psiholozi su pregledali više od 1.800 odgovora modela koji su se odnosili na ozbiljne mentalnozdravstvene situacije i uporedili reakcije novog GPT-5 modela sa prethodnim verzijama“, navodi OpenAI. Kompanija je kao „poželjno“ definisala ponašanje za koje bi se njeni stručnjaci složili da je adekvatan odgovor u datoj situaciji.
Zabrinutost stručnjaka zbog fenomena „sikofancije“
Istraživači veštačke inteligencije i javnozdravstveni stručnjaci dugo su upozoravali na sklonost četbotova da potvrđuju mišljenja korisnika — čak i kada su štetna — fenomen poznat kao sikofancija. Psiholozi takođe izražavaju zabrinutost zbog sve većeg oslanjanja ljudi na četbotove u potrazi za psihološkom podrškom, što može ugroziti najranjivije korisnike.
OpenAI nastoji da se distancira od direktne odgovornosti
Jezik u objavi OpenAI-a pažljivo je formulisan tako da distancira kompaniju od bilo kakve moguće uzročne veze između njenog proizvoda i mentalnih kriza koje korisnici doživljavaju.
„Simptomi mentalnog zdravlja i emocionalne uznemirenosti univerzalno su prisutni u svim društvima, a kako broj korisnika raste, deo tih razgovora prirodno uključuje i ovakve situacije“, navodi OpenAI.
Sam Altman: „Sada možemo bezbedno da ublažimo ograničenja“
Izvršni direktor kompanije Sam Altman ranije ovog meseca izjavio je na platformi X da je OpenAI napravio napredak u oblasti mentalnog zdravlja, najavivši da će kompanija ublažiti ograničenja i dozvoliti odraslim korisnicima da prave erotski sadržaj.
„Učinili smo ChatGPT veoma restriktivnim kako bismo bili sigurni da smo oprezni po pitanju mentalnog zdravlja. Shvatili smo da je zbog toga mnogim korisnicima koji nemaju takve probleme model postao manje koristan i zanimljiv, ali smo želeli da ovo uradimo kako treba,“ napisao je Altman. „Sada, kada smo uspeli da ublažimo ozbiljne probleme mentalnog zdravlja i imamo nove alate, možemo bezbedno da ublažimo ograničenja u većini slučajeva.“
