“Pametna Srbija”
OTVARANJE DATA CENTRA: Premijerka A. Brnabić
foto: tanjug
Veštačka inteligencija ulazi u sve pore društva
Centralizacija podataka u Data centru u Kragujevcu donosi niz prednosti, poput lakšeg upravljanja i tehničke bezbednosti, ali i nosi rizik od zloupotrebe na većem obimu podataka, kažu stručnjaci sa kojima je BIRN razgovarao
Vlada Srbije objavila je u junu 2021. da pokreće platformu “Pametna Srbija” koja bi trebalo da “integriše višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou”, da služi “za sigurno prikupljanje i obradu podataka iz različitih javnih izvora”, a sve kako bi se “unapredile elektronske usluge za građane”. Istovremeno, podaci koji se prikupljaju u Data centru “predstavljaju ‘pamet’ države na osnovu koje mogu da se donose odluke i osmišljavaju strategije”.
Do danas nije poznato koje institucije su prebacile svoje podatke u Data centar u Kragujevcu, kao ni koji setovi podataka se tamo nalaze.
Stručnjaci Share fondacije, koja se duži niz godina bavi digitalnim pravima, upozorili su javnost na postojanje mogućnosti da se ukrštanjem različitih podataka koji su smešteni u ovim data centrima mogu formirati “digitalni identiteti” građana, ili algoritmi koji bi mogli da donose odluke o životu građana.
Sagovornici BIRN-a kažu da su centralizacija i kreiranje javnih usluga na bazi veštačke inteligencije procesi koji mogu dugo da traju, da je Srbija na samom početku, ali i da su etičke smernice koje bi pratile svaki nivo razvoja veštačke inteligencije od ključnog značaja.
Deo civilnog sektora zabrinut je zbog potencijalno novih vidova obrade podataka u okviru novog data centra. Sredinom decembra objavljen je Nacrt etičkih smernica za primenu veštačke inteligencije. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija”, kaže da je “dobro što se uopšte pristupilo izradi jednog ovakvog dokumenta”. “Međutim, na veštačku inteligenciju se već mogu primenjivati odredbe Zakona o zaštiti podataka o ličnosti, što se ne čini, a nema garancije da će se i bilo koji drugi propis, a posebno smernice koje nisu obavezujuće, primenjivati”, kaže Ana Toskić Cvetinović.
Paralelno sa ovim, na sceni je pravi mali tehnološki rat između Istoka i Zapada, u kome se Srbija nalazi između dve vatre. Kancelarija za IT i eUpravu je još 2019. godine, pre donošenja Strategije za razvoj veštačke inteligencije i pre nego što je otvoren Državni data centar, sa kineskom kompanijom Huawei potpisala memorandum o uspostavljanju platforme za veštačku inteligenciju, da bi onda napravila zaokret ka zapadnim partnerima.
“Mi tu dođemo kao neki ‘pokusni kunići’, nismo igrači, mi smo korisnici, gde će te tehnologije da se probaju, na velikom uzorku”, kaže Vladan Joler, profesor na Univerzitetu u Novom Sadu i vodeći istraživač za pitanja veštačke inteligencije u Share laboratoriji.
SUPERKOMPJUTER ZA SUPER OBRADU PODATAKA
Nameru da centralizuje sve podatke iz javne uprave u kragujevački data centar Vlada Srbije je započela još juna 2021. godine, kroz platformu “Pametna Srbija”. Krajem te godine u Data centar stigao je prvi superkompjuter, koji bi trebalo da koristi podatke prikupljene iz javnih uprava radi kreiranja javnih usluga na bazi veštačke inteligencije. U to vreme počela je i obuka javnih službenika u oblasti veštačke inteligencije i novih tehnologija.
Prvi korisnik Nacionalne platforme za veštačku inteligenciju postao je Institut za veštačku inteligenciju. Prilikom potpisivanja sporazuma o korišćenju platforme, sada bivši direktor Kancelarije za IT i eUpravu Mihajlo Jovanović je izjavio da očekuje da će Institut znatno pomoći Kancelariji u primeni i korišćenju veštačke inteligencije u daljem razvoju usluga eUprave.
Dubravko Ćulibrk iz Instituta za veštačku inteligenciju kaže da je još rano za razvoj javnih usluga na bazi veštačke inteligencije. “Nije trenutno plan da se uvode javne usluge bazirane na veštačkoj inteligenciji, eUprava ima u svom planu gomilu stvari koje treba da razviju. Recimo ono što radimo i želimo da poboljšamo je pretraga na portalu ‘Službeni glasnik’, da primenimo savremenije tehnike obrade govora i da ponudimo eUpravi da isto uradimo i za njih”, kaže on.
KAKO SE SISTEM “HRANI” PODACIMA
Javnost još nije obaveštena koji podaci i koje institucije su prebacile svoje podatke u Državni data centar u Kragujevcu. Dubravko Ćulibrk, direktor Instituta za veštačku inteligenciju, kaže za BIRN da je Institut za molekularnu genetiku i genetičko inženjerstvo preneo svoju genetsku banku u Državni data centar, ali da nije upoznat koje javne institucije su učinile slično.
Na sajtu Kancelarije za IT i eUpravu navodi se da platforma, između ostalog, služi za kreiranje elektronskih usluga na bazi veštačke inteligencije jednom kada javni podaci budu centralizovani. “Cilj je integrisati sve višestruke tokove informacija iz različitih organa javne uprave na lokalnom i državnom nivou. Kada su javni podaci tu, platforma ‘Pametna Srbija’ biće u mogućnosti da pruža usluge zasnovane na veštačkoj inteligenciji.”
Stručnjaci sa kojima je BIRN razgovarao kažu da je prebacivanje podataka u novi data centar proces za koji su nekada potrebne godine. Korisnici platforme za veštačku inteligenciju su naučno-tehnološki parkovi, pojedini tehnički fakulteti, instituti i startap kompanije. Broj lokacija sa kojih se pristupa Nacionalnoj platformi za veštačku inteligenciju, prema akcionom planu, trebalo bi da bude 50 do kraja 2022. godine.
Sagovornici BIRN-a kažu da je za pouzdano funkcionisanje programa veštačke inteligencije potrebno prethodno “nahraniti” sistem velikim brojem podataka, pa ako je cilj proizvodnja javnih usluga na bazi veštačke inteligencije, ulazni podaci, na kojima se sistem “trenira”, moraju da budu podaci koje poseduju organi javne uprave.
Diskriminacija u veštačkoj inteligenciji?
Stručnjaci sa kojima je BIRN razgovarao su saglasni u tome da je diskriminaciju koju proizvode sistemi veštačke inteligencije nemoguće izbeći, te da je diskriminacija prisutna i u procesu odabira podataka kojima se sistem “hrani”. Ana Toskić Cvetinović, direktorka nevladine organizacije “Partneri Srbija”, kaže da su “transparentnost i učešće čoveka neophodni u bilo kakvom procesu odlučivanja koji podrazumeva primenu veštačke inteligencije, pre svega u javnom sektoru”.
Nedavno je Zakon o socijalnoj karti dospeo u žižu javnosti zbog algoritma, čiji je princip funkcionisanja javnosti nepoznat, a koji je iz sistema socijalne zaštite “istisnuo” preko 20 hiljada socijalno ugroženih. “Algoritam mora da bude transparentan, pogotovu kada pričamo o javnim institucijama, jer one su naš servis i imamo sva prava da razumemo pravila unutar tog servisa”, kaže Vladan Joler.
Iako algoritam koji se koristi u sklopu informacionog sistema Socijalna karta nije baziran na veštačkoj inteligenciji, javnost je ostala uskraćena za mnoga etička pitanja koja se odnose na praktičnu primenu veštačke inteligencije.
Novinari BIRN-a su prošlog meseca pisali o pametnom softveru Griffeye Analyze DI Pro koji je nabavila srpska policija, a koji ima funkcionalnosti na bazi veštačke inteligencije. Nove izmene zakona o policiji trebalo bi da legalizuju ovakav tip softvera, pa i skorašnji nacrt etičkih smernica u oblasti veštačke inteligencije nije propustio da navede obaveznu procenu uticaja na zaštitu podataka u slučaju “sistemskog nadzora nad javno dostupnim površinama u velikoj meri”.
Primeri iz prakse
Na zvaničnim sajtovima Vlade Srbije navode se pozitivni primeri primene veštačke inteligencije u javnom sektoru Srbije – “Oko sokolovo”, program za sprečavanje utaje poreza i program za predikciju potrošnje struje koji je Majkrosoftov razvojni centar u Beogradu razvio za EPS.
Kako se navodi na sajtu, Majkrosoftova platforma za vizualizaciju i predikciju potražnje električne energije je uštedela EPS-u 600 hiljada evra.
U julu ove godine Vlada Srbije je pustila u rad poseban objekat u okviru kragujevačkog data centra u koji bi podatke trebalo da smesti MUP i bezbednosne strukture, a premijerka Srbije, Ana Brnabić ga je nazvala “srcem bezbednosti”.
U vreme kada je ovaj objekat bio u izgradnji, decembra 2021. godine, predsednik Srbije Aleksandar Vučić je izjavio: “Gradimo ovde poseban objekat koji će biti baza za apsolutno sve podatke MUP-a i BIA, odakle ćemo najbolje i najtačnije vaditi podatke za svaku situaciju koja se pojavi.”
Prikupljanje ovako velikog broja podataka izazvalo je zabrinutost kod stručnog dela javnosti, jer masovno prikupljanje informacija na jednom mestu može dovesti do njihove zloupotrebe u većem obimu. Vladan Joler smatra da je zloupotreba moguća i kada su podaci decentralizovani, a “kada su na jednom mestu lakše je podatke umrežiti, čuvati i kontrolisati”.
Share fondacija je na sajtu objavila potencijalne opasnosti centralizacije podataka, i to na mogućnost formiranja “digitalnih identiteta” ili algoritama koji donose odluke o životu građana ukrštanjem različitih podataka.
Vladan Joler i dodaje da je veći problem od centralizacije podataka u stvari njihova automatizovana obrada. “Država nije imala kapacitet automatizovanog, a sada može. Nekada je nadzor bio selektivan. Na primer, pratimo stotinu sumnjivih lica, a sa veštačkom inteligencijom je obrnuto – skupljaju se svi podaci, to je drugi nivo igrice, masovni nadzor. Skupljaš sve podatke, često bez kapaciteta da sve to analiziraš i onda sistem detektuje anomalije, sistem određuje šta su sumnjiva ponašanja”, kaže Joler.
Saradnja sa kineskim institutom
Idejno rešenje BIO4 kampusa na granici Kumodraža i Voždovca, koji bi trebalo da objedini različite grane bioindustrije i veštačku inteligenciju
foto: bio4.rs
Sa ciljem da objedini biotehnologiju i veštačku inteligenciju Vlada Srbije je pokrenula projekat pod nazivom BIO4 kampus, koji predstavlja plan izgradnje multidisciplinarnog naučnoistraživačkog kompleksa nadomak Agencije za lekove i medicinska sredstva, Instituta “Torlak”, Farmaceutskog fakulteta i Instituta za molekularnu genetiku i genetičko inženjerstvo, koji je od maja novi korisnik Nacionalne platforme za veštačku inteligenciju.
Institut za molekularnu genetiku otvorio je decembra 2021. godine Centar za sekvenciranje genoma i bioinformatiku u saradnji sa pekinškim BGI institutom, koji se našao na udaru američkih vlasti zbog spekulacija da prikuplja genetske podatke iz zemalja i analizira ih uz pomoć veštačke inteligencije, o čemu je pisao Radio Slobodna Evropa. Prema rečima doktorke Ivane Morić iz Instituta za molekularnu genetiku, kineski Institut “biće prisutan” na BIO4 kampusu koji je u planu izgradnje.
U razvoju platforme za veštačku inteligenciju Srbija se okrenula zapadnim, američkim kompanija poput Majkrosofta, Nividije, Orakla, IBM-a sa jedne strane, a kineskoj Huawei i arapskoj kompaniji G42, sa druge.
Novinari BIRN-a nisu dobili ugovore koje je Vlada potpisala sa ovim kompanijama, a koji bi otkrili na koji način one učestvuju u razvoju platforme za veštačku inteligenciju. Između ostalog, informacionim sistemom Kovid19 se upravljalo preko “Pametne Srbije”, koja je bazirana na Majkrosoftovoj tehnologiji.
Dubravko Ćulibrk iz Instituta se nada da će naša zemlja ulaganjem u veštačku inteligencije moći da bude nezavisnija. “Kada se rade neinvazivni testovi iz krvi, da bi se videlo da li je žena trudna, svi ti podaci su se slali u Švajcarsku, a mi sve to plaćamo. Voleo bih da su ti podaci ostali na serveru u Srbiji, da se istrenira model veštačke inteligencije, pa da neka naša firma napravi posao i prihod od toga, pa ako nešto pođe po zlu da znaš ko je odgovoran. Ipak, ne možemo u svemu da se merimo (sa velikim korporacijama), pa ako je benefit dovoljno veliki, moramo sa strane da uzmemo, to je skroz u redu.”
Vladan Joler, profesor na fakultetu u Novom Sadu i vođa Share laboratorije, veruje da se novi softveri veštačke inteligencije uvek testiraju nad onima koji se nalaze u pravnom vakumu. “U onoj šumi na granici Poljske i Belorusije, gde je gomila migranata, koje su to ludnice od tehnologije koje se testiraju. Uvek testiraš takve sisteme na prostorima koji su pravno neregulisani, i ja verujem da mi jesmo jedan takav prostor”, zaključio je Joler.
Ovaj tekst napravljen je uz finansijsku podršku Evropske unije. Izraženi stavovi isključiva su odgovornost autora i ne odražavaju nužno stavove donatora. Projekat “Povećanje učešća građana na polju Digitalne agende – ICEDA” sprovode Fondacija Metamorfosis (Severna Makedonija), Open data Kosovo (Kosovo), Akademija za eUpravu (Estonija), Partneri za demokratske promene Srbija (Srbija), NVO 35mm (Crna Gora) i Levizja Mjaft! (Albanija)
