U okviru svoje digitalne strategije EU želi regulirati umjetnu inteligenciju i osigurati bolje uvjete za razvoj i upotrebu te inovativne tehnologije. Umjetna inteligencija može donijeti brojne koristi, kao što je bolja zdravstvena skrb, sigurniji i čišći prijevoz, učinkovitija proizvodnja, jeftinija i održivija energija.

Komisija je u travnju 2021. predložila prvi regulatorni okvir EU-a za umjetnu inteligenciju. U sklopu njega se predlaže analiziranje i klasifikacija sustava umjetne inteligencije prema riziku koji predstavljaju za korisnike. Različite razine rizika značit će veću ili manju regulaciju.

Što je umjetna inteligencija i kako se upotrebljava?

Primjer zdravstva: 

Znanstvenici istražuju kako upotrijebiti umjetnu inteligenciju za analizu velike količine zdravstvenih podataka i pronalaženje obrazaca koji bi mogli dovesti do novih otkrića u medicini i poboljšanja pojedinačne dijagnostike.

Na primjer, istraživači su razvili program za odgovaranje na hitne pozive koji prepoznaje srčani zastoj brže i češće od medicinskih dispečera. Drugi primjer je KConnect, koji sufinancira EU, a bavi se razvijanjem višejezične usluge za pretraživanje koja pomaže u pronalasku najrelevantnije medicinske informacije.

Prioritet Parlamenta je osigurati da sustavi umjetne inteligencije u EU-u budu sigurni, transparentni, mogu se pratiti, ne diskriminiraju i ekološki su prihvatljivi. Trebali bi ih nadzirati ljudi kako bi se spriječili štetni ishodi. Parlament također želi uspostaviti tehnološki neutralnu i ujednačenu definiciju umjetne inteligencije koja se može primijeniti na buduće sustave umjetne inteligencije.

Neprihvatljiv rizik

Rizik koji donose sustavi koji se smatraju prijetnjom ljudima je neprihvatljiv i takvi sustavi bit će zabranjeni. Među njima su:

• kognitivno bihevioralno manipuliranje osobama ili određenim ranjivim skupinama, primjerice, glasovno aktivirane igračke koje potiču opasno ponašanje kod djece
• bodovanje i klasifikacija ljudi na temelju ponašanja, socioekonomskog statusa, osobnih obilježja 
• biometrijska identifikacija i kategorizacija fizičkih osoba sustavi
• biometrijske identifikacije u stvarnom vremenu i daljinski sustavi za biometrijsku identifikaciju, kao što je prepoznavanje lica

Neke iznimke mogu biti dopuštene za potrebe provedbe zakona. Sustavi daljinske biometrijske identifikacije u "stvarnom vremenu" bit će dopušteni u ograničenom broju ozbiljnih slučajeva, dok će korištenje sustava za daljinsku biometrijsku identifikaciju u kojima se identifikacija odvija sa znatnim kašnjenjem, a koristi se nakon odobrenja suda za kazneni progon kod počinjenja teških kaznenih djela biti dopušteno.