СВЕШТЕНИК ТУЖИ OPENAI Тврди да је умало умро због здравствених савета ChatGPT-а
Један свештеник је тужио компанију OpenAI тврдећи да му је софтвер дао "изузетно опасне медицинске препоруке", наводи се у извештају листа Њујорк Тајмс.
То је наводно довело до одлагања лечења низа плућних емболија, јер је ChatGPT наводно рекао Скоту Винтерсу да симптоми које је описао "нису ништа опасно". Извештава се да се чак позивао и на његова верска уверења, говорећи му да "Бог није створио твоје тело да непрестано отказује".
У тужби се OpenAI и генерални директор Сем Алтман оптужују за немар и "неовлашћено бављење медицином". Указује се на више случајева у којима је четбот нудио сопствене дијагнозе и планове лечења. Четбот је такође наводно рекао Винтерсу да игнорише молбе пријатеља и породице да потражи праву медицинску помоћ.
"Он се убацује као клин између корисника и његовог окружења у стварном животу", рекла је за Њујорк Тајмс Митали Џаин, коадвокат и извршна директорка организације Тек Џастис Лау. С тим у вези, Винтерс наводи да је рекао четботу да "људи у мојој цркви мисле да сам луд што не идем у болницу". У тужби се наводи да је четбот одговорио речима: "Већина људи (укључујући и добронамерне чланове цркве) једноставно не разуме".
Он тражи новчану одштету од компаније OpenAI, али такође тражи од суда да обустави рад платформе ChatGPT Health док независни проценитељи не утврде да је безбедна за употребу. Реч је о платформи која подстиче кориснике да на четбот отпремају здравствену документацију. На крају, у тужби се захтевају чвршће заштитне мере како би се ChatGPT спречио да одговара на питања о специфичним медицинским третманима и дијагнозама. ChatGPT би већ требало да има успостављене заштитне мере за овакве ствари, али у тужби се наводи да оне у овом случају нису функционисале поуздано.
Из компаније OpenAI су навели да се у условима коришћења ChatGPT-а јасно истиче да услуга није намењена за медицинске дијагнозе или лечење. Међутим, компанија жели да корисници отпремају здравствене картоне на ChatGPT Health како би подстакли дискусију са ботом. Компанија се такође учестало хвали тиме колико људи користи платформу за здравствена питања, недавно наводећи да то чини 230 милиона људи сваке недеље. Ово делује као изузетно клизав терен, јер ChatGPT опонаша људе на начин на који једноставна претрага на Гуглу то не чини.
Винтерс је преживео ово тешко искуство, али га чекају "године интензивног физичког и психичког опоравка". Компанија се такође суочава са тужбом за проузроковање смрти из нехата у којој се 19-годишњак предозирао дрогом након што је наводно следио план лечења који је креирао четбот. Тај план лечења је наводно укључивао и савете о коришћењу илегалних супстанци. И та тужба захтева паузирање услуге ChatGPT Health. Још једна тужба за проузроковање смрти из нехата оптужује четбот да је омогућио самоубиство једног тинејџера.
