OKRIVIO KOMŠIJU DA GA TRUJE Lekari otkrili da je tražio savete ChatGPT-a!
Američki medicinski časopis Annals of Internal Medicine upozorio je da korišćenje ChatGPT-a za zdravstvene savete može imati ozbiljne posledice, nakon što je jedan muškarac razvio retko stanje poznato kao bromizam, ili trovanje bromidom, nakon konsultacije sa chatbot-om o uklanjanju kuhinjske soli iz ishrane.
U članku se opisuje da je bromizam bio „dobro prepoznat” sindrom početkom 20. veka, a smatralo se da je doprinosio gotovo jednoj od deset psihijatrijskih hospitalizacija u to vreme.
Pacijent, 60-godišnjak, lekarima je rekao da je, nakon što je pročitao o negativnim efektima natrijum-hlorida (kuhinjske soli), konsultovao ChatGPT o izbacivanju hlorida iz ishrane i počeo da uzima natrijum-bromid tokom tri meseca. Ovo je učinio uprkos napomeni da „hlorid se može zameniti bromidom, ali verovatno u druge svrhe, kao što je čišćenje”. Natrijum-bromid se ranije koristio kao sedativ.
Autori članka sa Univerziteta u Vašingtonu u Sijetlu istakli su da slučaj pokazuje „kako upotreba veštačke inteligencije može potencijalno doprineti razvoju preventabilnih neželjenih zdravstvenih ishoda”.
Međutim, budući da nisu imali pristup razgovoru pacijenta sa ChatGPT-om, nije bilo moguće utvrditi tačno koji je savet chatbot dao. Kada su autori sami konsultovali ChatGPT o tome čime se može zameniti hlorid, odgovor je takođe uključivao bromid, bez specifičnog zdravstvenog upozorenja i bez pitanja o razlogu za traženje takvih informacija, „kako pretpostavljamo da bi to učinio medicinski profesionalac”, naveli su.
Autori upozoravaju da ChatGPT i druge AI aplikacije mogu „generisati naučne netačnosti, ne biti sposobne za kritičku diskusiju rezultata i na kraju doprineti širenju dezinformacija”.
Kompanija je prošle nedelje najavila nadogradnju chatbot-a i tvrdila da je jedna od najvećih prednosti GPT-5 verzije bolja sposobnost odgovaranja na zdravstvena pitanja, uz proaktivno „ukazivanje na potencijalne rizike”, poput ozbiljnih fizičkih ili mentalnih oboljenja. Ipak, naglasila je da chatbot nije zamena za profesionalnu medicinsku pomoć i da nije „namenjen za dijagnozu ili lečenje bilo kog zdravstvenog stanja”.
Članak napominje da je pacijent koristio raniju verziju ChatGPT-a, pre lansiranja GPT-5. Iako veštačka inteligencija može služiti kao most između naučnika i javnosti, tehnologija nosi rizik od „dekontekstualizovanih informacija” i malo je verovatno da bi lekar predložio natrijum-bromid kao zamenu za kuhinjsku so.
Autori zaključuju da lekari treba da uzmu u obzir upotrebu AI pri proveri izvora informacija koje pacijenti koriste.
Pacijent je primljen u bolnicu, navodeći da ga možda truje komšija i da ima više dijetalnih ograničenja. Uprkos žeđi, bio je paranoičan prema ponuđenoj vodi. Pokušao je da pobegne iz bolnice u roku od 24 sata od prijema, a nakon hospitalizacije lečen je zbog psihoze. Kada se stabilizovao, prijavio je simptome bromizma, uključujući akne na licu, pojačanu žeđ i nesanicu.
Česta bolest u 20. veku
Bromizam je bio relativno čest početkom 20. veka. Bromidi su se koristili u medicini kao sedativi i antikonvulzivi, a mogli su se naći i u raznim lekovima i tonicima. Hronično unošenje bromida (najčešće natrijum-bromida ili kalijum-bromida) u većim količinama dovodilo je do toksičnosti jer se bromidi sporo izlučuju iz organizma.
