Natrag

Veliki Brat

Da li će građane planete digitalna revolucija ostaviti bez privatnosti

Pazi, narode, snima se!

U utorak, 14. maja, San Francisko, grad koji se nalazi u centru digitalne revolucije, odlučio je da će sprečiti moguće zloupotrebe i kršenja privatnosti građana i zabranio je policiji i drugim agencijama upotrebu kompjuterskog programa za prepoznavanje ljudskih lica. Ovom odlukom, koja je doneta u Veću načelnika, sa osam glasova protiv jednog, San Francisko je postao prvi veći grad u Americi koji je blokirao oruđe koje širom zemlje policijske snage koriste za prepoznavanje i lociranje kako osumnjičene za minorna kriminalna dela, tako i za moguće masovne ubice. Problem nije u sprečavanju kriminalaca i kriminala, ali jeste u masovnom nadgledanju svih građana koji se u bilo kom trenutku zadese na ulicama i u drugim javnim prostorima. Procenjuje se da se u policijskim, a i drugim, arhivama, već nalaze fotografije polovine američkih građana. Snimanje video kamerama sa programima za prepoznavanje lica otvara se mogućnost zloupotrebe od strane vlasti, kao što se otvara i put ka tiranskoj, nadgledanoj državi, objašnjaava kolumnista Magazina Tabloid Milan Balinda, dugogodišnji novinar američkog dnevnika Majami Herald

Milan Balinda

Načelnik San Franciska koji je pokrenuo Zakon o zabrani identifikovanja ljudi po ulicama, Aron Peskin, tvrdi da odluka grada šalje jaku poruku nacije budući da dolazi iz grada koji je transformisan novim tehnologijama: „Imamo ogromnu odgovornost da regulišemo preterivanja tehnologija baš zbog toga što je njihovo sedište ovde."

Isti, ili slični zakone već su u pripremi u susednom gradu Oklendu, ali i u državi Masačusets u gradu Samervilu, blizu Bostona.

U Masačusetsu glasaće se za zakon koji bi uveo moratorijum na elektronsko prepoznavanje lica, ali i na ostale sisteme za biometrijsku identifikaciju na razdaljini. U američkom Kongresu prošlog meseca predložen je Zakon koji bi zabranio upotrebu programa za prepoznavanje lica u komercijalne svrhe bez pristanka snimanog. Snimanjem posetilaca nekog, recimo, šoping-mola prikupljaju se podaci o navikama svakog snimljenog kupca i na osnovu toga se prilagođavaju i primenjuju razni „trgovački trikovi".

Taj zakon u Kongresu ne odnosi se na upotrebu tehnologije identifikacije od strane vlasti. Inače, kritičari primene zakona protiv nasumične elektronske identifikacije građana tvrde da je neprihvatljivo poricati korisnost upotrebe novih tehnologija u obezbeđenju aerodroma i državnih granica: „Teško je poricati da nema vrednosti za javnu bezbednost."

Bez sumnje, odluka grada San Francisko ne odnosi se na aerodrome jer na njima kontrola spada u federalnu, a ne gradsku, nadležnost. Krilo u Severnoj Kaliforniji Američke unije građanskih sloboda (A.C.L.U.) izjavilo je da „prepoznavanje lica omogućava vladi neslućenu moć da prati ljude koji žive svoj regularni život: „To nije u skladu sa zdravom demokratijom."

Prepoznavanje lica putem video kamera već se uveliko koristi na većini američkih aerodroma i velikih stadiona, kao i u značajnom broju policijskih okruga. Možda je interesantno podvući da policija San Franciska inače u ovom momentu ne koristi tehnologiju prepoznavanja lica, tako da je odluka gradskog veća više teorijska nego praktična. Ipak je asocijacija policajaca San Franciska izjavila da se zabranom otežava policajcima da istaržuje kriminal: „Mada mi shvatamo da ta tehnologija nije još 100 odsto precizna, mislimo da je bila uspešna makar u pružanju tragova našim detektivima."

Protivnici upotrebe nasumičnog snimanja građana tvrde da je suština u tome što vlasti i komercijalne kompanije nisu transparentne kod upotrebe tehnologija nadgledanja i da se javnost uglavnom nalazi u „mraku kada je stanje stvari u pitanju".

Lista gradova u kojima se koristi tehnologija prepoznavanja lica sastavljena je od strane pojedinaca i organizacija koji se zalažu za kontrolu te tehnologije. U te gradove spadaju i Las Vegas, Orlando, San Hose, San Dijego, Njujork, Boston, Detroit... Osim lokalne policije, tehnologiju daljinske identifikacije koriste i mnoge druge vladine agencije kao što su lokalne kancelarije šerifa, ministarstva pravde, mnoge državne policije i, naravno, špijunske i kontrašpijunske agencije.

Tehnologija prepoznavanja lica konstantno se usavršava, a i same video kamere svakim danom imaju veću rezoluciju i mogu da sasvim dobro funkcionišu u slabijim svetlosnim uslovima. Međutim, cela ta tehnologija može da bude veoma neprecizna, a naročiti kada se radi o ljudima sa tamnijom bojom kože kao i sa ženskim osobama. Postiže jako dobre rezultate kada su beli muškarci u pitanju, ali još je daleko od toga da precizno identifikuje druge rase, a i drugi pol. Ne postoje podaci kako ta tehnologija reaguje kada objektiv kamere fokusira na trans osobu, pa još tamnije puti.

Prepoznavanje lica spada u kategoriju biometričkih kompjuterskih programa koji matematički obeležavaju karakteristike lica i skladište podatke kao otisak lica. Ti programi koriste algoritme „dubokog učenja" da bi uporedili snimak uživo sa postojećom arhivom u nameri da potvrdi lični identitet.

Kamere visokog kvaliteta u mobilnim uređajima takođe su učinile prepoznavanje lica upotrebljivom opcijom za autorizaciju kao i identifikaciju korisnika-vlasnika mobilnog telefona ili kompjutera. Ejplov iPhone X, na primer, uključuje tehnologiju prepoznavanja lica i otključava dati uređaj kad prepozna lice čiji se snimak nalazi u memoriji.

Taj telefonski program, koji je dizajniran sa trodimenzionalnim modelima da bi odoleo prevarama sa fotografijom sa drugog telefona ili sa maskom na licu, upoređuje preko 30.000 varijacija korisničkog lica sve dok ne potvrdi da je lik onaj pravi. Slične programe ima kako Amazon, tako i Gugl. Fejsbook takođe koristi program za identifikaciju lica da bi na svakoj fotografiji obeležio identitet fotografisanog.

Inače, jedini način, kaže američka agencija Otadžbinska bezbednost, da bi neko izbegao da mu se snime biometričke karakteristike kada putuje u inostranstvo je da „ne putuje u inostranstvo". Program za čitanje karakteristika lica identifikuje 80 ključnih tačaka na ljudskom licu. Konkretno, snime se dužina i širina nosa, dubina očnih duplji i oblik jagodica.

Iako program koristi samo 80 ključnih tačaka, može brzo i tačno da identifikuje željenu osobu, ali samo ako su uslovi odgovarajući. Ali, ako lice nije sasvim dovoljno osvetljeno, nije snimljeno iz anfasa, odnosno ako se radi o profilu ili poluprofilu, rezultati mogu da budu pogrešni. Naravno da slabo ko sumnja da su bolji programi tajna za javnost i da njih koriste organizacije kao što je CIA i njima slične.

Luk Stark, jedan od stručnjaka iz Majkrosofta, u nedavno objavljenom članku tvrdi da je tehnologija prepoznavanja lica, koja je trenutna opsesija tek industrije, mogućno toliko otrovna po zdravlje ljudskog društva da bi moralo biti tretirano i obezbeđeno kao plutonijum. „Prepoznavanje lica", tvrdi Stark, „jednostavno samim tim što je dizajnirano i napravljeno je društveno otrovno bez obzira na namere stvaraoca. Potrebno je veoma strogo kontrolisati ga i trebalo bi ga zabraniti za skoro sve praktične primene."

Postoje dve nivoa zabrinutosti kada je prepoznavanje lica u pitanju, prvi je urgentni i drugi na duže staze i taj drugi je fundamentalniji. Prvi nivo zabrinutosti je da je ta tehnologija u ovom trenutko dovoljno dobra za prepoznavanje samo jednog tipa lica, uglavnom onih svetle puti, a da ima probleme sa licima ljudi drugih boja. To samo po sebi može da stvori rasne diskriminacije.

Briga na duže staze je što će tehnologija prepoznavanja biti svuda oko nas i ljudsko biće će u osnovi biti identifikovano mašinama gde kod da se kreće. U tom trenutku korporacije i vlast u svojim će rukama imati moćno oruđe za sortiranje i katalogiranje populacije. U ovom trenutku čini se da nema načina da se kontroliše takva tehnologija.

Ako bi farmaceuske kompanije radile na isti način kako rade tehnološke, bez ikakve kontrole, pola čovečanstva već bi bilo ili mrtvo ili otrovano. Druga bi polovina, možda, bila izlečena. Jedan program na Fejsbuku nudio je foto filtere, jedan od njih takozvani „vruć" filter koji je izbeljivao boju kože crnaca tako da bi oni izgledali „evropskiji". Taj je filter nakon velikog negodovanja povučen, ali i dalje se upotrebljavaju filteri sa imenima „crni", „indijski" i „azijski". Kada se sve oduzme i sabere, niko ne može da se pretvara da je tehnologija prepoznavanja lica bezopasna.

Londonska policija koristila je program prepoznavanja lica na Noting-hil karnevalu 2016. godine i sledeće godine na nedeljnom okupljanju na Dan sećanja. Njihov je sistem netačno obeležio 102 ljudi kao moguće osumnjičene, ali ipak niko nije uhapšen.

Policija Južnog Velsa utvrdila je 2.685 „poklapanja" u periodu između maja 2017. i marta 2018, ali su 2.451 bile pogrešne indikacije. Neke britanske policije odustale su od korišćenja sistema nasumičnog elektronskog skeniranja lica. Organizacija Posmatrači Velikog Brata tvrdi da prepoznavanje lica kroz objektive kamera vodi ka kršenju ličnog prava na privatan život, kao i na slobodu izražavanja.

Osman Bah, američki student, je tužio Ejpl kompaniju jer su protiv njega podignute četiri optužnice u četiri američka grada koje ga terete da je krao u Ejpl prodavnicama. Lažne optužbe uzrok su upotrebe sistema prepoznavanja lica u tim prodavnicama, mada Ejpl tvrdi da ne koriste tu tehnologiju. Bilo kako bilo, lik studenta Baha stigao je u bazu podataka i potom su počele da mu stižu tužbe.

Amazon tvrdi da je njihov sistem ekstremno precizan, ali su ispitivanja pokazala da Amazon program je pogodio pol snimljenog u samo 31 odsto slučajeva kada je u pitanju bila ženska osoba tamnije puti. Čak je i taj procenat bolji od rezultata programa konkurenata Kairos i IBM.

U slučaju snimaka beloputih muškaraca, sva tri programa su pogodila 100 odsto. Na jednom testiranju MIT (Masačusets tehnološki institut) većina programa za prepoznavanje lica tvrdili su da se na profesionalnoj fotografiji TV zvezde Opra Vinfrej „najverovatnije radi o muškarcu".

Već sedam decenija generacija nakon generacije pokušava da utvrdi, motri da li je noćna mora Džordža Orvela konačno stigla - jedna moćna, svemoguća Država koja birokratiše istinu i pretvara ljude u usporene automate. Nikolas Rajt, britanski neurolog koji je proučavao veštačku inteligenciju (VI) i politiku, predvideo je da će se porastom nadziranja ljudi stvoriti izazov američkom svetskom poretku - vrsta sistema koje je on nazvao „digitalni autoritarizam".

U jednom tekstu objavljenom u časopisu Feren afers, Rajt tvrdi i sledeće: „Kada kontrolišeš ljudsko ponašanje, onda u suštini deluješ na način kako razmišljaju... Isto kao što konkurencija između sistema liberalne demokratije, fašizma i komunizma definiše veći deo 20. veka, isto tako će borba između liberalne demokratije i digitalnog autoritarizma definisati 21. vek." Bitka je već počela: Kina izvozi svoje znanje i opremu za nadziranje stanovništva.

Među kupcima za sada se nalaze Etiopija, Iran, Šri Lanka, Rusija, Tajland, Vijetnam, Zambija, Zimbabve i Srbija. Kina ne izvozi komunizam već sistem kontrole. Neki stručnjaci smatraju da će VI podstreći već postojeće tenzije u društvima, uključujući nacionalizam.

Neki smatraju da će to biti „VI nacionalizam" jer će trka u razvoju i korišćenju Veštačke inteligencije biti surova. Priroda te trke, te borbe pokrenuće nestabilnost širom sveta jer je nagrada za one koji pobede veoma velika. Super-napredna tehnologija sistema VI biće u stanju da kreira samostalnu superiornost jer će kreirati nove naučne skokove, osim, naravno, nove modele ratovanja. Ubrzaće se trka u naoružanju među najjačim državama i tu mali sa zakržljalom tehnologijom VI neće imati šta da traže.

Postoje dva izvora informacija, dve slike na kojima može da se vidi moguća ljudska budućnost. Prvi je stariji i drugi savremeni. Prvi je Orvelova knjiga 1984, a drugi je Kina današnjih dana. Orvel je opisivao zastrašujuću budućnost u kojoj glavni junak knjige, Vinston Šmit, kada hoće da se sastane sa nelegalnom ljubavnicom, primoran je da koristi ekstremne mere da bi izbegao dvosmerni uređaj nazvan „teleskrin". Taj teleskrin je opisan u knjizi na sledeći način: „Teleskrin istovremeno prima i odašilje.

Svaki zvuk koji Vinston napravi iznad nivoa vrlo prigušenog šaputanja biće uhvaćen od strane uređaja. Osim toga, sve dok se on nalazi u polju vida teleskrina on može biti viđen i slušan." Već neko vreme kamere sa visokom rezolucijom koje rade i pri slabijoj svetlosti pasivno nas posmatraju na ulicama, na železničkim i autobuskim stanicama, na aerodromima, po kancelarijama i u prodavnicama.

Pasivno sve dok se u njih ne ugrade programi koji prepoznaju lica i povezuju sa imenama osoba. To je vreme već stiglo. Već kako su naša lica, lica bilo kojeg muškarca, žene ili deteta jedinstvena, kao što je slučaj sa otiskom prstiju, više niko nije deo bezimene mase ljudi.

Čim se kroči napolje preko kućnog praga nestaje privatnost. Niko ne sumnja da prepoznavanje lica može da spreči kriminalne radnje i može da pomogne pronalaženju masovnih ubica, terorista, pedofila i silovatelja, ali druga strana te iste medalje trebalo bi da natera ljude da izmere i procene koji bi to bio balans korisnog i štetnog, da se odobri „prihvatljiva formula".

Druga je priča što iskusni policajci tvrde da svaki talentovani detektiv sa jakim instinktom može da daje bolje rezultate od pametnih kamera. Svako društvo bi moralo da bude dovoljno obrazovano da bi moglo da odluči šta je korisno, a šta krši osnovna ljudska prava. Mnoga, većina, društava nisu dovoljno obrazovana. Interesantno je da kada se u Sjedinjenim Državama izdaje vozačka dozvola, što je praktično lična karta, ne uzimaju se otisci prstiju. Otisci se uzimaju samo onima koji su uhapšeni zbog nekog prekršaja ili kriminala.

Ukoliko sve ovo zvuči orvelijanski, to je zato što jeste orvelijanski. Život u orvelijanskom svetu već je započeo, a mnogi tvrde da će biti još gore, mnogo gore. Moderni programi, koji postaju sve efikasniji, mogu ne samo da nas identifikuju, već i da procene naše raspoloženje.

Sposobni su da identifikuju ljutnju, strah, gnušanje, tugu, sreću i iznenađenje. Otkrivanje emocija digitalnim uređajima postalo je industrija vredna 20 milijardi dolara. Može li mašina da prepozna teroristu na nekom aerodromu bolje od iskusnog detektiva je sasvim drugo pitanje.

Inače, tehnologija emocionalnog prepoznavanja zahteva dve tehnike: kompjuterski snimak da uhvati trenutak neke emocije na licu i algoritme za analizu i interpretaciju emocionalnog sadržaja tih izraza na licu. Ti algoritmi se zovu „mašinsko učenje". Jedna kompanija koja se bavi kreiranjem takvih algoritama tvrdi da je koristila 7,5 miliona lica iz 87 zemalja.

Izgleda da se ljudske emocije istovetno prepoznaju na licima ljudi bez obzira na starost, pol ili rasu. Već decenijama postoje upustva i teorije kako da se ćitaju emocije na ljudskim licima, ali sada to mogu da rade i mašine. Još početkom 1960-tih godina Pol Ekman proučavao je emocije kod ljudi na svetskom nivou, pa je oformio priručnike za treniranje profesionalaca u bezbednosnim službama. Svoje metode prodao je kako CIA, tako i FBI-a, službama na graničnim prelazima i sličnima.

Zastrašujuće je što, tvrdi BBC u jednom programu, ni tvorci algoritama „mašinskog učenja" ne znaju kako njihove mašine formiraju odluke. Niko još nema odgovora, mada mnogi izražavaju sumnju, da će razvojem tehnologija prepoznavanja lica, mašinskog učenja i, generalno, Veštačke inteligencije, doprineti pametnijim nacijama i pametnijoj planeti. Jedino što može da se u ovom trenutku pogleda su dosadašnja iskustva u primeni tih tehnologija.

Drugi izvor, druga slika prekopiranog sveta iz knjige 1984. nalazi se u Kini, odnosno, da kopija je sama Kina.

U toj zemlji živi Veliki Brat koji video kamerama i programom za prepoznavanje lica nadgleda građane na javnim mestima. Koristi se i jedan program koji obaveštava ljude da li se u njihovoj blizini nalazi neko ko je u dugovima do guše, već kako je poznato da su oni koji duguju na mnogo toga lošeg spremni.

Podaci o dugovanju stižu iz Nacionalnog centra za kredit informacije. Ukoliko nekome padne na pamet da u Pekingu pređe ulicu van pešačkog prelaza, njegova će se fotografija sa imenom i delimično zamračenim ličnim brojem pojaviti na obližnjoj elektronskoj oglasnoj tabli.

Nije potrebno mnogo mašte da bi se zamislilo zašta sve ta kontrola kineske komunističke, ili šta li je već, vlasti može da se upotrebi. U Kini su i svinje pod prismotrom, ali je to nadgledanje u produktivne svrhe.

Ova elektronska kontrola svinja zvuči dosta bizarno i kad bi neko danas dopunjavao Orvelovu knjigu Životinjska farma, mogao bi da dopiše o tome kako program prepoznavanja lica određuje koje su životinje „više jednake od drugih". Veštačka inteligencija takođe određuje koliko dugo će svako prase rasti i da li je uopšte dobrog zdravlja.

Program analizira i groktanje i prepoznaje da li neka svinja ima neki zdravstveni problem. Pretpostavimo da na svinjama to sve dobro funkcioniše i da bi nekoj vlasti u jednom trenutku moglo da zatreba da oslušne da li zdravo dišemo dok šetamo po parku. To čak ne moraju da budu vlasti već kad bi farmaceutskoj industriji bilo od velike koristi kad bi znali ko ima kakve probleme i mogli bi da im pošalju svoje reklame za čišćenje disajnih kanala.

Jedina odbrana privatnosti, ali to očigledno nije primenljivo u slučaju Kine, je jačanje demokratije. Svi podaci o svakom pojedincu već postoje ili će postojati i samo primenom zakona ti podaci mogu biti sprečeni da se zloupotrebe.

Stvar je jednostavna, Gugl može sve da zna o svakom od nas, ali vlast te podatke bi mogla da iskoristi samo uz dozvolu Suda. Taj demokratski sistem negde solidno funkcioniše, ali u mnogim društvima, čak i kad postoji na papiru, vlast ignoriše svoje sopstvene zakone.

A.1:

Hiljadu kamera špijuniraće nad Beogradom

U Beogradu će tokom ove i sledeće godine biti postavljeno hiljadu pametnih kamera na preko 800 lokacija. Te će kamere biti u stanju da zabeleže sve saobraćajne prekršaje, počevši od prolaska na crveno svetlo, vožnje u žutoj traci, nepropisno prestrojavanje, vožnje bez pojasa i upotrebe mobilnih telefona. Te kamere će moći jasno da snime registarske tablice, ali i lica vozača. Takođe će moći da procene brzinu kretanja, ali kazne za prekoračenje brzine u ovom momentu neće moći da se primene jer u zakonu ne postoji odredba koja priznaje ovakav način snimanja brzine.

MUP Srbije navodi da će samo jedan mali broj kamera biti korišćene u kontroli saobraćaja, a da će gro njih služiti za „druge policijske poslove". Inače, MUP uglavnom pruža nejasne i protivrečne izjave, a potom je odbio zahtev SHARE fondacije za pristup informacijama od javnog značaja. Jedini podaci, a čini se i kompletni, mogu da se dobiju na sajtu kineske kompanije Huavej koja je prodala i koja instalira kamere i kompjuterske programe. Cena celokupnih usluga nije poznata, a mala je verovatnoća da će se ikad saznati.

Nakon testiranja Srbija je potpisala ugovor sa Huavejom 2017. godine. Huavej takođe tvrdi da je zadržavanje prikupljenih podataka ograničeno na jednu godinu. Prema navodima te kineske kompanije, Ministarstvo unutrašnjih poslova Srbije će razviti plan „Sigurnog grada", koji će prvo pokrivati sam Beograd, a kasnije celu Srbiju. Direktor policije Vladimir Rebić je izjavio da će kamere snimati saobraćaj ali da je „to znatno manji deo u odnosu na tih ukupno 1.000 kamera." Rodoljub Šabić, poverenik za informacije od javnog značaja je rekao da „Grad može samo da nadzire saobraćaj".

Sredinom meseca, u sredu 15. maja, američki predsednik Donald Tramp potpisao je izvršnu naredbu kojom se zabranjuje američkim biznisima da koriste telekomunikacionu tehnologiju stranih firmi koja bi mogla biti opasnost po nacionalnu bezbednost.

U naredbi nije bilo precizirano o kojim se stranim kompanijama radi, ali jasno je da se to odnosilo na kineski Huavej koji promoviše svoju tehnologiju komunikacija 5G. Sam Huavej se oglasio tvrdeći da oni ne bi nikada špijunirali za Kinesku vladu i da bi radije ugasili svoju kompaniju nego to da urade. Huavej je takođe izjavio da će odluka američkog predsednika pre svega koštati same američke građane koji će morati skuplje da plaćaju za iste usluge.

Britanije nije zabranila Huavej, za razliku od Australije, jer je britanska bezbednosna služba rekla da oni mogu da kontrolišu šta Hauvej radi. Francuski predsednik Makron oglasio se sa sličnom porukom. Holandija istražuje podatke da bi se uverila da je Huavej već špijunirao u njihovoj zemlji. A bivši direktor britanske MI6 tvrdi da bi Huaveju bez pogovora trebalo zabraniti da operiše u Velikoj Britaniji.

Srbija tesno sarađuje sa Huavejom i za sada niko ništa ne pita, niti se iko išta pita.

podeli ovaj članak:

Natrag
Na vrh strane