Europska unija je u završnoj fazi izrade prvog zakona te vrste za reguliranje štetne upotrebe umjetne inteligencije. Međutim, kako trenutno stoji, predloženi zakon, nazvan EU AI Act, sadrži smrtonosnu slijepu točku: ne zabranjuje mnoge štetne i opasne upotrebe AI sustava u kontekstu provedbe imigracijskih mjera.
Mi, koalicija organizacija za ljudska prava, pozivamo zakonodavce EU-a da osiguraju da ovaj značajan zakon štiti sve, uključujući tražitelje azila i druge u pokretu na europskim granicama od opasnih i rasističkih tehnologija nadzora. Pozivamo ih da osiguraju korištenje AI tehnologija za #ProtectNotSurveil.
AI čini granice smrtonosnijima
Europske granice svakim danom postaju sve smrtonosnije. Tehnologije s velikim brojem podataka, uključujući sustave umjetne inteligencije, sve se više koriste kako bi Tvrđava Europa postala neprobojna. Granična i policijska tijela koriste prediktivnu analitiku, procjene rizika putem kolosalnih interoperabilnih biometrijskih baza podataka i bespilotne letjelice pojačane umjetnom inteligencijom kako bi nadzirale ljude u pokretu i tjerale ih dalje od granica EU-a. Na primjer, europska granična agencija Frontex , koja je optužena za suučesništvo u teškim kršenjima ljudskih prava na mnogim granicama EU-a, poznata je po tome što koristi razne tehnološke sustave koje pokreće umjetna inteligencija kako bi omogućila nasilne i nezakonite operacije odbijanja.
Od detektora laži do bespilotnih letjelica i drugih sustava koje pokreće umjetna inteligencija, alati za nadzor granice dokazano guraju ljude prema nesigurnijim i smrtonosnijim rutama , oduzimaju im temeljna prava na privatnost i neopravdano ugrožavaju njihove zahtjeve za imigracijski status. Također je poznato da te tehnologije kriminaliziraju i rasno profiliraju ljude u pokretu i olakšavaju nezakonite deportacije koje krše načela humanitarne zaštite.
Zakon EU-a o umjetnoj inteligenciji može se oduprijeti opresivnoj upotrebi tehnologije
U vrijeme kada se zemlje članice EU-a utrkuju u izradi antimigracijskih politika kršeći svoje domaće i međunarodne pravne obveze , ograničavanje i reguliranje upotrebe umjetne inteligencije u kontroli migracija ključno je za sprječavanje štete.
To je također prilika koja se ne smije propustiti da se spriječi nakupljanje smrtonosnih, nehumanih ovlasti u rukama autoritarnih vlada – kako u EU tako i u državama u kojima EU nastoji eksternalizirati svoje granice .
Zakon EU-a o umjetnoj inteligenciji može pružiti ključne crvene linije i mehanizme odgovornosti kako bi se zaštitila temeljna prava ljudi koji su podvrgnuti sustavima umjetne inteligencije u kontekstu kontrole migracija. Kao što je navedeno u našim predloženim izmjenama i dopunama Zakona o umjetnoj inteligenciji, one bi mogle uključivati zabrane upotrebe rasističkih algoritama i prediktivne analitike za označavanje ljudi kao "prijetnje", kao i sumnjivih "detektora laži" temeljenih na umjetnoj inteligenciji i drugih alata za prepoznavanje emocija za nezakonito guranje ljudi daleko od granica. EU već dugo radi na zaštiti svojih građana od biometrijskog masovnog nadzora i očekuje se da će takva zaštita biti dio konačnog EU Zakona o umjetnoj inteligenciji. Ovi napori ne bi trebali diskriminirati na temelju nacionalnosti i rasnih ideja o riziku i trebali bi se proširiti na sve ljude u Europi
Vlast narodu, a ne privatnom sektoru
Također se bojimo da će prepuštanje korištenja umjetne inteligencije u kontroli migracija državama članicama EU dovesti do globalne utrke prema nametljivijim tehnologijama za sprječavanje ili odvraćanje migracija – tehnologijama koje bi iz temelja promijenile ili, u najgorem slučaju, okončale živote stvarnih ljudi.
Ako Zakon o umjetnoj inteligenciji EU-a ne uspije regulirati i ograničiti upotrebu tehnologija umjetne inteligencije u provedbi migracije, privatni će akteri brzo iskoristiti rupu u zakonu kako bi snažno progurali nove proizvode. Oni će slati svoje proizvode na naše granice bez odgovarajućih provjera, baš kao što će upotrebe koje će biti obuhvaćene Zakonom o umjetnoj inteligenciji podlijegati strožim propisima i preprekama za ulazak.
Ovo je unosna industrija vrijedna više milijardi dolara. Frontex je potrošio 434 milijuna eura (476 milijuna USD) na vojni nadzor i IT infrastrukturu od 2014. do 2020. Tehnologije će biti raspoređene i obučene nauštrb temeljnih prava ljudi i kasnije prenamijenjene u drugim kontekstima izvan kontrole migracija, izbjegavajući ključnu kontrolu na faza projektiranja.
Već smo vidjeli privatne aktere – kao što su Palantir , G4S i manje poznati Buddi Ltd – koji iskorištavaju želju vlada za većim nadzorom kako bi prodali tehnologiju koja omogućuje nehumane postupke na granicama i kršenja temeljnih prava ljudi u pokretu.
Još uvijek ima vremena da EU učini pravu stvar: osigura da se zabrani neprihvatljiva upotreba umjetne inteligencije u kontekstu migracija i da se zatvore sve rupe u zakonu, tako da se standardi EU-a o privatnosti i drugim temeljnim pravima jednako primjenjuju na sve.
Potpisnici
Lucie Audibert, odvjetnica, Privacy International
Hope Barker, viši politički analitičar, Border Violence Monitoring Network
Mher Hakobyan, savjetnik za zagovaranje regulacije umjetne inteligencije, Amnesty International
Petra Molnar, pomoćnica ravnatelja, Refugee Law Lab, Sveučilište York; suradnik, Pravni fakultet Harvarda
Derya Ozkul, viši znanstveni suradnik, Sveučilište u Oxfordu
Caterina Rodelli, analitičarka EU politike, Access Now
Alyna Smith, Platforma za međunarodnu suradnju o migrantima bez dokumenata
Stavovi izneseni u ovom članku su vlastiti autori i ne odražavaju nužno urednički stav Al Jazeere.