NOVA FUNKCIJA CHATGPT-A U slučaju psihičke krize, AI će obavestiti blisku osobu
Nova funkcija u ChatGPT-u mogla bi da uključi i bliske osobe u slučaju krize korisnika.
OpenAI uvodi funkciju "pouzdanog kontakta" u ChatGPT za obaveštavanje bliskih osoba u slučaju moguće mentalne krize korisnika.
Funkcija je namenjena odraslim korisnicima i razlikuje se od roditeljskih kontrola.
Najava dolazi nakon brojnih tužbi i izveštaja o mentalnim krizama povezanim sa upotrebom ChatGPT-a.
Dok se suočava sa sve većim brojem tužbi zbog bezbednosti korisnika i slučajeva pogrešne smrti, OpenAI je saopštio da će u ChatGPT uvesti "funkciju pouzdanog kontakta", koja će obavestiti blisku osobu koju korisnik odredi ukoliko se pojave znaci moguće krize mentalnog zdravlja.
OpenAI je novu funkciju najavio prošle nedelje u objavi na blogu, predstavljajući je kao "novosti o našem radu u vezi sa mentalnim zdravljem". Kompanija navodi da "blisko sarađuje" sa svojim telima Council on Well-Being and AI i Global Physicians Network — dvema internim grupama stručnjaka koje su formirane nakon izveštaja o krizama mentalnog zdravlja povezanim sa upotrebom veštačke inteligencije.
Funkcija će biti usmerena pre svega na odrasle korisnike i razlikovaće se od drugih mera kompanije, poput roditeljskih kontrola i sistema namenjenih zaštiti maloletnika.
Ova najava dolazi nakon opsežnog javnog izveštavanja, kao i najmanje trinaest odvojenih tužbi potrošača zbog bezbednosti, o slučajevima u kojima su korisnici proizvoda kompanije OpenAI, nakon dugotrajne i često veoma intimne upotrebe četbota, upadali u spirale zabluda ili suicidalnih misli.
Kompanija u objavi ne daje mnogo detalja o samoj funkciji, navodeći samo da će ona "omogućiti odraslim korisnicima da odrede osobu koja će dobiti obaveštenje kada im može biti potrebna dodatna podrška". Međutim, još nije definisano prema kojim kriterijumima bi sistem mogao da označi nečiju upotrebu kao problematičnu.
Na primer, ostaje pitanje da li bi korisnik morao izričito da izjavi nameru da povredi sebe ili druge da bi sistem reagovao, ili bi funkcija mogla da prepozna i suptilnije znake krize.
Funkcija bi mogla biti posebno korisna za korisnike sa dijagnostikovanim mentalnim poremećajima, ali i za sve koji intenzivno koriste veštačku inteligenciju.
OpenAI navodi da nastavlja da unapređuje način na koji njegovi modeli prepoznaju i reaguju na znake emocionalnog stresa, uključujući nove metode koje simuliraju duge razgovore o mentalnom zdravlju.
Prema podacima kompanije, ChatGPT nedeljno koristi oko 900 miliona ljudi, a milioni korisnika pokazuju znake različitih kriza, što ovu funkciju čini potencijalno značajnim korakom ka većoj bezbednosti.
