Svjetska zdravstvena organizacija (SZO) objavljuje nove smjernice o etici i upravljanju velikim multimodalnim modelima (LMM) – vrstom brzo rastuće tehnologije generativne umjetne inteligencije (AI) s primjenama u cijeloj zdravstvenoj skrbi.
Smjernice ocrtavaju više od 40 preporuka za razmatranje od strane vlada, tehnoloških tvrtki i pružatelja zdravstvenih usluga kako bi se osigurala odgovarajuća upotreba LMM-a za promicanje i zaštitu zdravlja stanovništva.
LMM-ovi mogu prihvatiti jednu ili više vrsta unosa podataka, kao što su tekst, videozapisi i slike, te generirati različite izlaze koji nisu ograničeni na vrstu unesenih podataka. LMM-ovi su jedinstveni po oponašanju ljudske komunikacije i sposobnosti obavljanja zadataka za koje nisu bili izričito programirani. LMM-ovi su usvojeni brže od bilo koje potrošačke aplikacije u povijesti, s nekoliko platformi – kao što su ChatGPT, Bard i Bert – koje su ušle u svijest javnosti 2023.
Generativne AI tehnologije imaju potencijal poboljšati zdravstvenu skrb, ali samo ako oni koji razvijaju, reguliraju i koriste te tehnologije identificiraju i u potpunosti uzmu u obzir povezane rizike.
Potencijalne koristi i rizici
Nove smjernice SZO-a ocrtavaju pet širokih primjena LMM-a za zdravlje:
- Dijagnoza i klinička njega, kao što je odgovaranje na pisane upite pacijenata
- Korištenje prema pacijentu, primjerice za ispitivanje simptoma i liječenje
- Urednički i administrativni poslovi, kao što je dokumentiranje i sažetak posjeta pacijentima unutar elektroničkih zdravstvenih kartona
- Medicinsko obrazovanje, uključujući pružanje pripravnicima simulirani kontakt s pacijentima
- Znanstveno istraživanje i razvoj lijekova, uključujući identificiranje novih spojeva
Iako se LMM-ovi počinju koristiti u specifične svrhe povezane sa zdravljem, postoje i dokumentirani rizici od stvaranja lažnih, netočnih, pristranih ili nepotpunih izjava, što bi moglo naštetiti ljudima koji koriste takve informacije pri donošenju zdravstvenih odluka. Nadalje, LMM-ovi se mogu obučavati na podacima koji su loše kvalitete ili pristrani, bilo po rasi, etničkoj pripadnosti, podrijetlu, spolu, rodnom identitetu ili dobi.
Za stvaranje sigurnih i učinkovitih LMM-ova, SZO naglašava potrebu za angažmanom različitih dionika: vlada, tehnoloških tvrtki, pružatelja zdravstvenih usluga, pacijenata i civilnog društva, u svim fazama razvoja i primjene takvih tehnologija, uključujući njihov nadzor i regulaciju.
Nove smjernice SZO-a uključuju preporuke za vlade, koje imaju primarnu odgovornost za postavljanje standarda za razvoj i primjenu LMM-a te njihovu integraciju i upotrebu u javnozdravstvene i medicinske svrhe.
Novi dokument o etici i upravljanju umjetnom inteligencijom za zdravlje Smjernice o velikim multimodalnim modelima temelje se na smjernicama SZO-a objavljenim u lipnju 2021. Publikaciji se može pristupiti na linku.