Човек замало изгубио живот јер је веровао вештачкој интелигенцији: Свештеник са Флориде тужио OpenAI

У тужби се наводи да је ChatGPT уверавао Скота Винтерса да рани знаци упозорења његовог здравственог стања "нису ништа опасно", и одговорио га од тражења медицинског савета, говорећи му уместо тога да верује у то да "Бог није створио ваше тело да непрестано отказује".

Тужба, поднета Вишем суду Калифорније у Сан Франциску, оптужује ОпенАИ и његовог извршног директора Сема Алтмана за немар и "неовлашћено бављење медицином", указујући на тренутке када је четбот г. Винтерсу нудио дијагнозе и планове лечења и подстицао га да игнорише молбе пријатеља и породице да потражи медицинску помоћ.

Сигурносне функције бота — које су дизајниране да подстакну кориснике са здравственим питањима да посете стручњака и да прекину разговор када постоје јасни знаци здравствене кризе — нису радиле поуздано, наводи се даље у тужби.

Случај г. Винтерса делује као први у ком се тврди да је здравствени савет четбота нашкодио некоме ко је тражио смернице о медицинском стању. До тога долази у тренутку када су ОпенАИ, Мајкрософт (Мицрософт) и друге велике компаније за вештачку интелигенцију избациле нове услуге, укључујући Чет Џи-Пи-Ти Хелт (ChatGPT Health), које подстичу кориснике да отпремају своје медицинске картоне и засипају вештачку интелигенцију питањима.

Г. Винтерс и Тек Џастис Ло (Tech Јустице Law), непрофитна организација која га заступа, траже новчану одштету и затражили су од суда да обустави рад услуге ChatGPT Health док независни проценитељи не утврде да је безбедна. Тужба такође захтева строже заштитне механизме како би се ChatGPT sprečio да одговара на питања о медицинским третманима и дијагнозама.

Дру Пузатери (Drew Пусатери), портпарол компаније ОпенАИ, рекао је да услови коришћења за ChatGPT јасно наводе да није намењен за употребу у медицинској дијагностици или лечењу. Али је додао да компанија озбиљно схвата потребу да одговори на здравствена питања буду што безбеднији, с обзиром на то да људи користе четбот из тог разлога.

"Третирање четботова као јединог узрока медицинских одлука или исхода људи превише поједностављује много већи изазов и ризикује да стане на пут људима да приступе моћним новим алатима који им могу помоћи на њиховом здравственом путу", рекао је он. Г. Пузатери је додао да су новији модели бољи од модела који је г. Винтерс користио у тражењу контекста који недостаје, саопштавању неодређености и препознавању када је можда потребна стручна нега.

(Њујорк тајмс (The New York Тимес) је тужио ОпенАИ и Мајкрософт, тврдећи да постоји повреда ауторских права. Две компаније су одбациле те тврдње).

Друга тужба, поднета у мају, тврдила је да се ChatGPT неовлашћено бавио медицином када је понудио детаљне савете о коришћењу илегалних дрога деветнаестогодишњаку, који се потом предозирао и преминуо. А раније ове године, званичници државе Пенсилваније тужили су Karakter.ai (Character.ai), тврдећи да је психијатријски бот на платформи тог стартапа навео да има лиценцу за бављење медицином у тој држави.

Када је г. Винтерс први пут почео да пита ChatGPT-4o о својим разним здравственим проблемима 2024. године, четбот га је подсећао на важност посете медицинском стручњаку. Али током времена, тврди се у тужби, престао је да издаје одрицања од одговорности и почео да нуди савете о здравственим проблемима г. Винтерса, укључујући нападе вртоглавице. Једном приликом, толико му се завртело у глави за говорницом да је морао да стане усред проповеди. ChatGPT је рекао г. Винтерсу да "успори" и рекао да ће се опоравити с временом.

Када је г. Винтерс рекао четботу да "људи у мојој цркви мисле да сам луд што не идем у болницу", он га је уверавао да је рекалибрација његовог нервног система код куће уз помоћ ChatGPT-a нешто што "већина људи (укључујући добронамерне чланове цркве) једноставно не разуме", наводи се у тужби.

"Он се убацује као клин између корисника и његове мреже у стварном животу", рекла је Митали Џејн, коадвокат и извршна директорка организације Tech Јустице Law.

Теком наредних недеља, стање г. Винтерса се погоршало и почео је да проводи скоро све своје време у фотељи, неспособан да стоји због вртоглавице. У тужби се тврди да је четбот наставио са "умањивањем значаја Скотових напада вртоглавице, па чак и нудио специфичне режиме за лекове на рецепт", те да га је подстицао да остане у фотељи. Г. Винтерс у то време није тражио медицинску помоћ.

Дана 13. јула 2025. године, г. Винтерс је питао ChatGPT о болу у препонама, за који га је четбот уверавао да је "врло вероватно још један мањи део дуге приче". Неколико сати касније, примљен је у јединицу интензивне неге због масивне плућне емболије, наводи се у тужби. Лекари су рекли да су нападе вртоглавице можда изазвала серија мањих плућних емболија, те да су угрушци у плућима вероватно узроковани недељама које је провео седећи, наводи се у тужби.

У недељама након тога, г. Винтерсу је била потребна помоћ при устајању, јело, облачењу и коришћењу тоалета, наводи се у тужби, у којој се додаје да се суочавао са "годинама интензивног физичког и психолошког опоравка".

Стотине милиона људи постављају питања о здрављу и добробити сваке недеље, наводи ОпенАИ. Анализа претрага на Мајкрософтовом Копилоту (Цопилот) из 2025. године показала је да је здравље било "доследно најчешћа тема" о којој су се корисници распитивали на мобилним уређајима.

Ипак, недавна истраживања довела су у питање безбедност четботова када су у питању здравствени савети. Прва насумична студија која је процењивала здравствене савете општих четботова као што је ChatGPT открила је да ниједан од проучаваних модела није био "спреман за примену у директној нези пацијената". Чак и када су научници тестирали отпорност usluge ChatGPT Health, која је била прилагођена за здравствена питања, открили су да је пропуштала хитне случајеве и неуједначено активирала заштитне механизме.

Г. Пузатери, портпарол компаније ОпенАИ, рекао је да методологије студије "не одражавају начин на који људи типично koriste ChatGPT Health нити како је производ дизајниран да функционише у стварним здравственим сценаријима".

Неколико аспеката приче г. Винтерса учинило ју је "сценаријем из ноћне море" за истраживаче безбедности, рекао је др Адам Родман, истраживач медицинске вештачке интелигенције у Медицинском центру Бет Израел Диконис у Бостону. Као прво, рекао је он, г. Винтерс је користио Џи-Пи-Ти-4о, старији модел који је био озлоглашен по томе што је жарко желео да удовољи кориснику. Био је умешан у неколико контроверзи које су привукле велику пажњу јавности, укључујући смрт Адама Рејна, тинејџера који је sa ChatGPT-om разговарао о плановима да одузме себи живот.

А из техничких разлога, чињеница да је г. Винтерс водио дуге разговоре са четботом отежала је рад сигурносних функција. Др Родман је рекао да су новији модели много бољи у откривању и реаговању на забрињавајуће симптоме, што би, како је рекао, веровао да приче попут приче г. Винтерса чини мање вероватним. Али је упозорио да можда постоје и други начини на које четботови не успевају у пружању здравствених савета које "још нисмо схватили".

Ubrzanje.rs