НОВА ФУНКЦИЈА CHATGPT-А У случају психичке кризе, АИ ће обавестити блиску особу
Нова функција у ChatGPT-у могла би да укључи и блиске особе у случају кризе корисника.
OpenAI уводи функцију "пoузданoг контакта" у ChatGPT за обавештавање блиских особа у случају могуће менталне кризе корисника.
Функција је намењена одраслим корисницима и разликује се од родитељских контрола.
Најава долази након бројних тужби и извештаја о менталним кризама повезаним са употребом ChatGPT-а.
Док се суочава са све већим бројем тужби због безбедности корисника и случајева погрешне смрти, OpenAI је саопштио да ће у ChatGPT увести "функцију поузданог контакта", која ће обавестити блиску особу коју корисник одреди уколико се појаве знаци могуће кризе менталног здравља.
OpenAI је нову функцију најавио прошле недеље у објави на блогу, представљајући је као "новости о нашем раду у вези са менталним здрављем". Компанија наводи да "блиско сарађује" са својим телима Council on Well-Being and AI и Global Physicians Network — двема интерним групама стручњака које су формиране након извештаја о кризама менталног здравља повезаним са употребом вештачке интелигенције.
Функција ће бити усмерена пре свега на одрасле кориснике и разликоваће се од других мера компаније, попут родитељских контрола и система намењених заштити малолетника.
Ова најава долази након опсежног јавног извештавања, као и најмање тринаест одвојених тужби потрошача због безбедности, о случајевима у којима су корисници производа компаније OpenAI, након дуготрајне и често веома интимне употребе четбота, упадали у спирале заблуда или суицидалних мисли.
Компанија у објави не даје много детаља о самој функцији, наводећи само да ће она "омогућити одраслим корисницима да одреде особу која ће добити обавештење када им може бити потребна додатна подршка". Међутим, још није дефинисано према којим критеријумима би систем могао да означи нечију употребу као проблематичну.
На пример, остаје питање да ли би корисник морао изричито да изјави намеру да повреди себе или друге да би систем реаговао, или би функција могла да препозна и суптилније знаке кризе.
Функција би могла бити посебно корисна за кориснике са дијагностикованим менталним поремећајима, али и за све који интензивно користе вештачку интелигенцију.
OpenAI наводи да наставља да унапређује начин на који његови модели препознају и реагују на знаке емоционалног стреса, укључујући нове методе које симулирају дуге разговоре о менталном здрављу.
Према подацима компаније, ChatGPT недељно користи око 900 милиона људи, а милиони корисника показују знаке различитих криза, што ову функцију чини потенцијално значајним кораком ка већој безбедности.
