Predstavlja li umjetna inteligencija prijetnju ljudskoj egzistenciji?
11.05.2023.
Umjetna inteligencija (AI) ima golem potencijal za unaprjeđenje medicine i zdravlja, međutim skupina međunarodnih liječnika i drugih stručnjaka upozorila je u članku objavljenom u časopisu BMJ Open Health da bi umjetna inteligencija mogla predstavljati egzistencijalnu prijetnju čovječanstvu te pozvala na moratorij na razvoj takve tehnologije i bolju regulativu.
- Vidljiv je izuzetno brz razvoj umjetne inteligencije uz mnoge potencijalno korisne učinke u medicini i zdravstvu. Međutim, umjetna inteligencija istovremeno ima potencijal uzrokovati i negativne učinke na zdravlje. Većina medicinske literature o umjetnoj inteligenciji pristrana je i ističe njezine dobrobiti, a rasprave o njezinoj potencijalnoj štetnosti uglavnom su usmjerene na pogrešnu primjenu umjetne inteligencije u kliničkim uvjetima.
- Autori članka opisuju kako bi umjetna inteligencija mogla naštetiti ljudskom zdravlju svojim utjecajem na determinante zdravlja i to na sljedeći način: kontrola i manipulacija ljudima, upotreba smrtonosnog autonomnog oružja i učinak na posao i zapošljavanje. Opća umjetna inteligencija koja se sama poboljšava mogla bi ugroziti samo čovječanstvo.
- Potrebna je učinkovita regulacija razvoja i korištenja umjetne inteligencije kako bi se izbjegla šteta. Dok se takva učinkovita regulativa ne uspostavi, treba uvesti moratorij na razvoj opće umjetne inteligencije koja se sama poboljšava.
Pogreške umjetne inteligencije mogu biti problemi s privatnošću i sigurnošću podataka te upotrebu umjetne inteligencije na načine koji će pogoršati društvene i zdravstvene nejednakosti bilo uključivanjem postojećih ljudskih predrasuda i obrazaca diskriminacije u automatizirane algoritme ili uvođenjem umjetne inteligencije na načine koji jača društvenu nejednakost u pristupu zdravstvenoj skrbi.
Jedan od primjera štete naglašene nepotpunim ili pristranim podacima bio je razvoj pulsnog oksimetra koji je upravljan umjetnom inteligencijom, a koji je precijenio razine kisika u krvi kod pacijenata s tamnijom kožom i doveo do nedovoljnog liječenja hipoksije.
Također se pokazalo da sustavi za prepoznavanje lica imaju veću vjerojatnost krivog klasificiranja spola kod osoba tamnije puti. Populacije koje su podložne diskriminaciji nedovoljno su zastupljene u skupovima podataka na kojima se temelje rješenja umjetne inteligencije, što znači da im se mogu uskratiti sve prednosti umjetne inteligencije u zdravstvu.