Ulogujete se na sajt avio-kompanije da kupite kartu ili odete na šalter i otkrijete da je za vas to nemoguće. Ne zbog neke greške u sistemu, naprotiv, sistem radi i bolje nego što biste poželeli. I poručuje vam da ste suviše loš čovek, odnosno građanin, da bi vam dozvolili da putujete avionom. Ne plaćate svoje račune na vreme, pravite buku u vreme kada se spava, bacate đubre kroz prozor, pušite gde nije dozvoljeno, previše dangubite na kompjuteru ili pišete ružne stvari na društvenim mrežama.

Ovo nije siže neke naučnofantastične knjige, mada takva knjiga zaista postoji, ovo se stvarno događa u Kini, koja je pre par godina krenula da uvodi "društveni kreditni rejting" s namerom da 1,4 milijarde Kineza bude u sistemu do 2020. Sistem je formiran po ugledu na banke i kreditni rejting koji nam one daju prateći kako ispunjavamo finansijske obaveze prema njima. Ako nam je rejting nizak, to je signal banci da nam ne pozajmljuje pare ili da nam odreže visoku kamatu.

Suočavajući se sa naglim društvenim promenama, naročito onim koje su posledica omasovljenja interneta u Kini, kineska država odlučila je da napravi nešto slično. Ponašanje građana se pomno prati i svaka neredovnost se beleži. Algoritmi obrađuju podatke i dobijaju se rezultati između 350 i 950. Oni sa nižim rejtingom ne mogu da putuju avionom, čak i vozom, teško pronalaze posao, ne mogu decu da upišu u bolje škole. Čak su i portali za pronalaženje emotivnog partnera dozvolili da na profilu objavite svoj rejting, a nije neobično ni da vam ga zatraži osoba za koju ste zainteresovani.

S jedne strane stvar deluje zastrašujuće, sama po sebi, a tek ako pomislimo kako bi razni zlonamernici iz našeg okruženja mogli da nam naude. Zagovornici rejtinga kažu da to nije moguće jer sistem prepoznaje i kažnjava one koji lažu o drugima, dakle ako vas je neko "tužakao" biće da je u tome bilo nečega. Ima i onih koji primećuju da je sistem počeo da daje dobre rezultate, ljudi sada zaustavljaju automobil na pešačkom prelazu i kada nema policajca da ih kazni, vode računa o svojoj okolini, paze kako se obraćaju drugima. To zvuči veoma primamljivo, ali za mnoge izvan Kine ideja o društvenom kreditu deluje kao najgori mogući rezultat susreta Velikog brata i Velikih podataka.

Sve to se nas mnogo ne bi ticalo da se ovih dana nisu pojavile rasprave o nevoljama u kojima se mogu naći automobili bez vozača. Polazi se od pretpostavke da se dva automobila nađu u situaciji gde je nesreća neizbežna i kompjuteri treba da odluče kako će se odvijati. Da li automobil sa "manje vrednim" osobama (stariji muškarac, bez posla, osuđivan) treba da se zakuca u stub uz verovatno fatalan ishod jer je to manja šteta nego da velikom brzinom udari u vozilo u kojem se nalazi primerna porodica sa dvoje male dece, ali sa šansom da preživi? Čovek za volanom instinktivno bira za sebe najbolji ishod, ali ako odlučuje kompjuter to jest algoritam, onda se traži rešenje koje je najbolje za celo društvo. A to znači da moraju nekako da nas procene.

Jedino gore od kineskog modela jeste to da se taj posao prepusti kreditnom birou.