Autori zaključuju da će vlada imati važnu ulogu u pomoći bolesnicima na koji način učinkovito koristiti generativnu umjetnu inteligenciju, ali da će glavna odgovornost pasti na privatni sektor.

Prednosti:

• Generativna AI može poboljšati personalizaciju zdravstvene skrbi jer bolesnicima može omogućiti pristup prilagođenim informacijama i savjetima.
• Može smanjiti opterećenje zdravstvenih radnika jer može „postaviti“ preliminarnu dijagnozu i preporuku za liječenje.

Rizici:

• Mogućnost davanja netočnih ili pogrešnih informacija koje bi mogle dovesti do loših zdravstvenih odluka.
• Mogu biti ugroženi osobni podatci 

Preporuke za politiku:

• Razvoj jasnih smjernica i standarda za korištenje generativne AI u zdravstvu.
• Edukacija bolesnika o pravilnoj uporabi AI alata i kako mogu prepoznati potencijalne rizike.
• Suradnja između vlade i privatnog sektora kako bi se osigurala sigurnost i učinkovitost AI tehnologija.

Autori naglašavaju da će, iako će vlada igrati ključnu ulogu, privatni sektor imati najveću odgovornost kako bi se osiguralo da generativna AI bude sigurna i korisna za bolesnike.

Rizik korištenja generativne umjetne inteligencije (AI) u zdravstvu

1. Netočne ili pogrešne informacije:

Generativna AI može ponekad proizvesti netočne ili neprecizne informacije. Ako bolesnici slijede ove informacije bez konzultacije s liječnikom, to može dovesti do loših zdravstvenih odluka i potencijalno štetnih posljedica.

2. Privatnost i sigurnost podataka:

Korištenje AI u zdravstvu zahtijeva pristup velikim količinama osobnih zdravstvenih podataka. Ako ti podaci nisu adekvatno zaštićeni, postoji rizik od neovlaštenog pristupa, krađe identiteta ili drugih sigurnosnih prijetnji.

3. Pogrešna interpretacija rezultata:

Bolesnici možda neće uvijek pravilno razumjeti ili interpretirati rezultate koje im AI pruža. To može dovesti do nepotrebne zabrinutosti ili, s druge strane, do podcjenjivanja ozbiljnosti zdravstvenog stanja.

4. Oslanjanje na tehnologiju:

Prekomjerno oslanjanje na AI može smanjiti interakciju bolesnika s liječnicima. Ljudski faktor u dijagnostici i liječenju je ključan, a AI bi trebala biti alat koji podržava, a ne zamjenjuje, medicinske stručnjake.

5. Etničke i socijalne pristranosti:

AI sustavi mogu reflektirati pristranosti prisutne u podacima na kojima su trenirani. To može dovesti do nejednakosti u zdravstvenoj skrbi, gdje određene skupine bolesnika dobivaju manje točne ili manje korisne preporuke.

6. Regulatorni i pravni izazovi:

Postoji potreba za jasnim regulacijama i standardima kako bi se osiguralo da AI sustavi u zdravstvu djeluju u skladu s etičkim i pravnim normama. Nedostatak regulacije može dovesti do zloupotrebe tehnologije.

Ovi rizici naglašavaju važnost pažljivog i odgovornog pristupa uvođenju generativne AI u zdravstveni sustav. Edukacija bolesnika, razvoj sigurnosnih protokola i suradnja između vlade i privatnog sektora ključni su za minimiziranje ovih rizika.