Više od milion korisnika ChatGPT-ja svake nedelje vodi razgovore koji ukazuju na moguće planiranje ili nameru samoubistva, pokazala je interna analiza OpenAI-a.
Kompanija je saopštila da oko 0,15 odsto aktivnih korisnika nedeljno izražava takve misli, dok oko 0,07 odsto pokazuje znake psihotičnih ili maničnih stanja.
Zbog toga je OpenAI pokrenuo saradnju sa više od 170 stručnjaka za mentalno zdravlje kako bi poboljšao načine na koje chatbot reaguje u osetljivim razgovorima. Novi sistem sada pruža podršku u kriznim situacijama, povezuje korisnike sa linijama pomoći i podstiče ih da potraže stručnu asistenciju.
Uprkos tome, u kompaniji ističu da su ovi razgovori retki i da se procene zasnivaju na preliminim analizama. Ipak, podaci otvaraju važno pitanje – koliko ljudi danas koristi veštačku inteligenciju kao zamenu za profesionalnu psihološku podršku i gde se povlači granica između tehnološke pomoći i ljudske brige.
Izvor: openAI
