Umjetna inteligencija (AI) već sada bolje od čovjeka odabire organe donora za transplantaciju te bolje odgovara na neka pitanja o zdravlju pacijenata, ali ona donosi i rizike te ‘ozbiljne pogreške‘, upozorila je Svjetska zdravstvena organizacija.
Svjetska zdravstvena organizacija (WHO) sa sjedištem u Ženevi pozdravlja golemi potencijal umjetne inteligencije koja može biti jako korisna, no upozorava da uvođenje postupaka liječenja AI-ja u zdravstveni sustav nosi opasnost od "potpuno pogrešne" informacije.
- Nužno je procijeniti opasnosti korištenja alata LLMs (generated large language model tools) kao što je ChatGPT jer oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u AI - priopćio je WHO.
UN-ova agencija za zdravlje oglasila se u vrijeme kada primjene umjetne inteligencije strelovitom brzinom stječu popularnost. Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju na LLMs.
Predlagači korištenja AI-a vjeruju da će se liječnici ubrzo koristiti sustavom AI chat da brže odgovore na pitanja pacijenata o njihovom zdravlju, a koristit će se AI-jem i u dijagnostici.
Međutim, dva chatbota, Microsofta te Googlea pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama, a WHO je zabrinut baš zato što se ti odgovori čine pouzdanima.
- LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržati ozbiljne pogreške, posebno kad je riječ o odgovorima povezanima sa zdravljem - upozorava WHO.
Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može razlučiti od pouzdane.
WHO stoga predlaže da se prije primjene AI-a u zdravstvu struka pozabavi tim pitanjima te da izmjeri korist i štete prije nego što odobri njezino opsežno korištenje.