Kako razviti smjernice za uporabu umjetne inteligencije u medicini?
25.07.2024.
Intervju s Laurom Stark o mogućnostima regulacije korištenja umjetne inteligencije objavljen je u NEJM-u.
Autorica analizira kako bi se iskustva iz regulativne medicine mogla primijeniti i na regulaciju umjetne inteligencije (AI). Stark ističe da je regulacija medicine složena i izazovna, ali je i uspješna u zaštiti pacijenata i poboljšanju kvalitete zdravstvene skrbi.
Stark navodi nekoliko ključnih čimbenika koji su pridonijeli regulaciji medicine:
- Fokus na zaštitu pacijenata: Medicina je usmjerena na zaštitu pacijenata od štete, a to se postiže propisima koji zahtijevaju da medicinski proizvodi i postupci budu sigurni i učinkoviti.
- Suradnja različitih zdravstvenih profesionalaca. Sve se razvija na temelju najnovijih znanstvenih dokaza i u skladu s potrebama pacijenata.
- Povjerenje u regulatorne institucije i transparentnost procesa.
Stark smatra da bi se ovi principi mogli primijeniti i u regulaciji uporabe umjetne inteligencije u medicini. I ona bi trebala biti usredotočena na zaštitu osoba od mogućih šteta, na suradnju profesionalaca i utemeljena na znanstvenim dokazima.
Stark također raspravlja o nekim specifičnim izazovima regulacije uporabe umjetne inteligencije. Jedan od izazova je složenost sustava. Sustavi umjetne inteligencije mogu biti vrlo kompleksni i teško ih je razumjeti kako funkcioniraju što sve otežava procjenu njihove sigurnosti i učinkovitosti.
Drugi izazov je brzi razvoj tehnologije umjetne inteligencije, a teško je pratiti nove trendove. To sve otežava usklađenost regulacije s najnovijim tehnologijama.
Regulacija uporabe umjetne inteligencije može pomoći u sigurnom i učinkovitom korištenju umjetne inteligencije koji će biti u interesu ljudi.
Iskustva iz regulatorne medicine mogla se primijeniti i na regulaciju uporabe umjetne inteligencije:
- Regulatorna medicina često se temelji na principu "nulte tolerancije" za štetu. To znači da se medicinski proizvodi i postupci ne mogu odobriti ako postoji čak i mala mogućnost izazivanja štete. Regulacija uporabe umjetne inteligencije mogla bi se također temeljiti na ovom principu. To se osobito odnosi na uporabu umjetne inteligencije u npr. pružanju medicinske skrbi.
- Regulatorna medicine često se temelji na principu "odgovornosti proizvođača". To znači da proizvođači medicinskih proizvoda i postupaka snose odgovornost za štetu koju uzrokuju njihovi proizvodi i postupci. Regulacija uporabe umjetne inteligencije mogla bi se također temeljiti na ovom principu. Na taj način bi se postiglo da proizvođači razvijaju sigurne i učinkovite sustave umjetne inteligencije.
- Regulatorna medicine često se temelji na principu "transparentnosti". To znači da proizvođači medicinskih proizvoda i postupaka moraju dati i opisati sve relevantne informacije o svojim proizvodima i postupcima, uključujući i informacije o rizicima. Regulacija uporabe umjetne inteligencija mogla bi se također temeljiti na ovom principu, kako bi se osiguralo da ljudi budu svjesni potencijalnih rizika povezanih sa sustavima umjetne inteligencije.
Naravno, regulacija uporabe umjetne inteligencije je složena tema i ne postoji jednostavan odgovor na pitanje kako bi se iskustva iz regulatorne medicine mogla primijeniti na ovom novom području. Međutim, razmišljanje o ovim ključnim čimbenicima koji su pridonijeli uspjehu regulatorne medicine može biti korisno u učinkovitom reguliranju uporabe umjetne inteligencije.