Po pogovoru s klepetalnikom chatgpt zbolel za redko boleznijo iz 19. stoletja

Šestdesetletni moški je po nasvetu klepetalnika chatgpt namesto kuhinjske soli začel uporabljati strupen natrijev bromid, kar ga je pripeljalo do hude psihoze in redke oblike zastrupitve. Prepričan, da ga sosed zastruplja, v primežu paranoje in sredi prividov, se je 60-letni moški znašel na urgenci.

Njegovo stanje se je po prihodu na urgenco hitro slabšalo.

Kljub neznosni žeji je zavračal vodo, ki so mu jo ponudili, saj je doma pil le destilirano. Kmalu so se blodnjam pridružile še slušne in vidne halucinacije, vrhunec pa je dosegel s poskusom pobega iz bolnišnice, zaradi česar so ga morali prisilno zadržati na psihiatričnem oddelku.

Vzrok za njegovo stisko je bil sprva uganka. Zdravniki so bili v zadregi, saj so laboratorijski testi sicer pokazali pomanjkanje nekaterih mikrohranil, a to ni pojasnilo resnosti njegovih simptomov.

Šele ko se je njegovo stanje po zaslugi zdravil proti psihozi nekoliko umirilo, je pacient razkril vir svojih težav.

Pacient je razkril, da se je vse začelo z »osebnim eksperimentom«, ko je želel iz prehrane izločiti klorid. FOTO: Dado Ruvic/Reuters

Vse se je začelo tri mesece prej, ko se je po branju o škodljivosti kuhinjske soli (natrijevega klorida) odločil za, kot je sam poimenoval, »osebni eksperiment«.

Za nasvet, kako iz prehrane izločiti klorid, se je, kot poroča Live Science, obrnil na klepetalni robot chatgpt. Ta mu je predlagal usodno zamenjavo: namesto kuhinjske soli je začel uporabljati natrijev bromid, ki ga je preprosto naročil prek spleta.

So strahovi umetni ali inteligentni?

Pozabljena bolezen se vrača

Diagnoza je bila šokantna: bromizem, sindrom, ki ga povzroči kronična zastrupitev z bromom. Kot navaja poročilo o primeru, objavljeno v znanstveni reviji Annals of Internal Medicine: Clinical Cases, je bila ta bolezen v 19. in na začetku 20. stoletja presenetljivo pogosta.

Bromidne soli so se takrat na veliko uporabljale v zdravilih brez recepta kot pomirjevala in uspavala, uporabljale so se tudi za zdravljenje glavobolov. Zaradi njihove toksičnosti so v ZDA v tistem času predstavljale skoraj desetino vseh psihiatričnih sprejemov.

Natrijev bromid se je v preteklosti uporavljal za zdravljenje glavobolov. Zaradi toksičnosti je od leta 1975 preprovedan. FOTO: Bromo-Seltzer

S prepovedjo bromidov v zdravilih v sedemdesetih in osemdesetih letih prejšnjega stoletja je bromizem skorajda izginil – vse do danes.

Portal Ars Technica pojasnjuje, da brom moti delovanje živčnih celic, kar vodi v širok spekter nevropsihiatričnih simptomov, kot so psihoza, manija, blodnje, težave s spominom in koordinacijo.

V tem primeru je visoka koncentracija bromida v krvi pacienta povzročila tudi lažno povišane rezultate klorida, kar je zdravnike sprva zavedlo.

Plačilna norija v svetu UI - Genialnost se meri v stotinah milijonov evrov

Opozorilo stroke in molk umetne inteligence

Zdravniki, ki so obravnavali primer, so poskušali poustvariti pacientovo interakcijo z umetno inteligenco. Ko so chatgpt vprašali, s čim bi lahko nadomestili klorid, je bil med odgovori res naveden bromid.

Čeprav je umetna inteligenca dodala opombo, da je »kontekst pomemben«, ni podala nobenega zdravstvenega opozorila niti ni vprašala po namenu iskanja, »kot bi to storil zdravstveni delavec«, so zapisali avtorji študije.

Natrijev bromid. Brom moti delovanje živčnih celic in povzroča nevropsihiatrične simptome. FOTO: Wikipedia

Poudarili so, da umetna inteligenca »lahko ustvarja znanstvene netočnosti, nima zmožnosti kritičnega presojanja rezultatov in na koncu spodbuja širjenje dezinformacij«.

Primer poudarja, kako lahko uporaba umetne inteligence prispeva k preprečljivim škodljivim zdravstvenim izidom. Avtorji opozarjajo, da je »zelo malo verjetno, da bi medicinski strokovnjak sploh omenil natrijev bromid, ko bi se soočil s pacientom, ki išče primeren nadomestek za natrijev klorid«.

V Sloveniji se rojeva nova revolucija v umetni inteligenci

Iz podjetja Openai, lastnika chatgpt-ja, so za Live Science sporočili, da njihovi pogoji uporabe jasno navajajo, da storitve niso namenjene »diagnosticiranju ali zdravljenju kakršnih koli zdravstvenih stanj« in da se uporabniki ne bi smeli zanašati na rezultate »kot na edini vir resnice ali kot nadomestek za strokovni nasvet«.

Kljub temu podjetje priznava tveganja in trdi, da si prizadevajo izboljšati varnostne mehanizme, ki bi uporabnike v takšnih primerih usmerili k iskanju strokovne pomoči.

Bromizem je bila v 19. in na začetku 20. stoletja presenetljivo pogosta bolezen. FOTO: Norman Purvis Walker

Pacient je po treh tednih zdravljenja z »agresivno fiziološko diurezo« – dovajanjem velikih količin tekočine za izpiranje bromida iz telesa – okreval in bil odpuščen iz bolnišnice.

Kot so sklenili avtorji študije, bodo morali zdravniki v prihodnosti pri zbiranju podatkov o pacientih upoštevati tudi, kje ti pridobivajo zdravstvene informacije, saj je umetna inteligenca postala vse bolj razširjen, a očitno tudi nevaren svetovalec.