OpenAI priznao: ČETBOTOVI „ULIZIVANJEM” MOGU PODSTAĆI SAMOUBILAČKE MISLI OSOBA U OZBILJNOJ MENTALNOJ KRIZI
Više od milion korisnika platforme ChatGPT svake nedelje pokazuje znake samoubilačkih namera, saopštila je kompanija OpenAI.
Prema navodima iz zvaničnog blog posta, procenjuje se da poruke s „eksplicitnim indikatorima potencijalnog samoubilačkog planiranja ili namere” čini značajan deo ukupnih interakcija korisnika.
Najdirektnije priznanje kompanije
To je jedno od najdirektnijih priznanja kompanije o mogućem uticaju veštačke inteligencije na mentalno zdravlje.
Kompanija je saopštila i da oko 0,07 odsto aktivnih korisnika nedeljno – što je približno 560.000 ljudi od oko 800 miliona korisnika, pokazuje moguće znake psihotičnih epizoda ili maničnog ponašanja.
U objavi se napominje da su takve procene početne i da ih je teško precizno kvantifikovati.
Analizirano više od 8.000 odgovora
Da bi poboljšala tačnost i etičke standarde u komunikaciji, OpenAI je angažovala 170 kliničara i stručnjaka za mentalno zdravlje iz svoje Globalne mreže lekara.
Oni su analizirali više od 1.800 odgovora modela u situacijama koje uključuju ozbiljne krize mentalnog zdravlja i pomogli u prilagođavanju sadržaja koji se odnosi na emocionalnu podršku.
Stručnjaci za mentalno zdravlje ranije su upozoravali da četbotovi mogu nehotice da podstaknu opasne misli potvrđujući korisnikove zablude ili negativna osećanja – fenomen poznat kao „ulizivanje”.
Mehanizmi za bezbednost
Generalni direktor OpenAI Sem Altman rekao je ranije ovog meseca da je kompanija „napravila napredak u smanjenju rizika od ozbiljnih problema mentalnog zdravlja” i najavio ublažavanje određenih ograničenja u radu ChatGPT-ja.
OpenAI je saopštio da će nastaviti da razvija mehanizme za bezbedniju upotrebu svojih modela i da sarađuje sa nezavisnim stručnjacima i regulatorima kako bi, kako navode, „AI alati postali podrška, a ne pretnja korisnicima u krizi”.
