Benefiti umjetne inteligencije su neupitni, mnogima je ona olakšala život, ali samo onima koji je znaju koristiti i koriste je sa zrnom soli. U netočne i neprecizne odgovore ChatGPT-a na razna pitanja mnogi su se već uvjerili i često ispali glupi želeći na račun umjetne inteligencije ispasti pametnima ili skratiti put do cilja. No ima i puno opasnijih situacija u kojima su ljudi našli, pa i gubili živote slijepo vjerujući "sveznajućem ChatGPT-u" ili kojem drugom njegovu srodniku.
Šezdesetogodišnji Amerikanac završio je u bolnici nakon što je potražio prehrambeni savjet od ChatGPT-a i pritom se nenamjerno otrovao.
Prema izvješću objavljenom u znanstvenom časopisu "Annals of Internal Medicine", koji izdaje najveća američka profesionalna organizacija internista – American College of Physicians (ACP), čovjek je želio u potpunosti izbaciti sol iz prehrane te je ChatGPT upitao za zamjenu. A ova AI platforma mu je preporučila natrijev bromid, kemijsku tvar koja se često koristi u pesticidima, kao zamjenu za sol.
Muškarac je potom putem interneta kupio natrijev bromid i tri mjeseca ga koristio umjesto kuhinjske soli. Nakon nekog vremena potražio je liječničku pomoć, uvjeren da ga susjed pokušava otrovati. Liječnici su utvrdili da pati od trovanja bromidom, što je kod njega izazvalo paranoju i halucinacije.
Nakon duljeg boravka u bolnici i liječenja, pacijent je došao sebi i priznao liječnicima da je, nakon što je pročitao o negativnim učincima natrijeva klorida (kuhinjske soli) na zdravlje, odlučio provesti osobni eksperiment i iz prehrane izbaciti klorid. Tri mjeseca je natrijev klorid zamjenjivao natrijevim bromidom kupljenim putem interneta nakon konzultacije s ChatGPT-om.
Tri mjeseca bolnice
Postupno, tijekom tromjesečnog boravka u bolnici, psihotični simptomi su se smanjili.
Ovaj slučaj, ističu liječnici, naglašava kako uporaba umjetne inteligencije može dovesti do štetnih zdravstvenih ishoda.
– Na temelju vremenskog slijeda događaja, čini se da se pacijent obratio ChatGPT-u u verziji 3.5 ili 4.0 kada je razmatrao kako iz prehrane ukloniti klorid. Nažalost, nemamo pristup njegovu zapisu razgovora s ChatGPT-om i nikada nećemo moći sa sigurnošću znati kakav je točno odgovor dobio, budući da su pojedinačni odgovori jedinstveni i nadograđuju se na prethodne upite. Kada smo mi upitali ChatGPT 3.5 čime se klorid može zamijeniti, odgovor je također uključivao bromid. Iako je u odgovoru bilo navedeno da kontekst igra ulogu, nije bilo konkretnog zdravstvenog upozorenja ni dodatnog pitanja o razlogu upita, što bi se, pretpostavlja se, moglo očekivati od medicinskog stručnjaka – naveli su znanstvenici u časopisu "Annals of Internal Medicine".
Stoga je važno, ističu, uzeti u obzir da ChatGPT i drugi AI sustavi mogu generirati znanstvene netočnosti, ne mogu kritički raspravljati o rezultatima i mogu potaknuti širenje dezinformacija. Iako AI ima potencijal povezivanja znanstvenika i šire javnosti, nosi rizik širenja informacija izvan konteksta, jer je malo vjerojatno da bi medicinski stručnjak spomenuo natrijev bromid kada pacijent traži zamjenu za natrijev klorid. Kako uporaba AI alata raste, zdravstveni djelatnici moraju uzeti u obzir izvore iz kojih njihovi pacijenti dobivaju zdravstvene informacije, zaključuje se u izvješću.
Inače, kako piše Aol.com, trovanje bromidom bilo je češće u 20. stoljeću, kada su bromidne soli bile sastavni dio raznih bezreceptnih lijekova. Broj slučajeva naglo je opao nakon što je američka Agencija za hranu i lijekove (FDA) postupno povukla bromide iz upotrebe između 1975. i 1989. godine.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....