Big Brother po kitajsko: s pomočjo umetne inteligence bodo državljane razvrščali glede na obnašanje

Embed from Getty Images
Kitajska namerava v letu dni uvesti t.i. »sistem družbenega kredita«. Gre za nov korak k popolnemu nadzoru prebivalstva in izvajanju represije, s katerim bo partija dosegla vsakogar.

Sistem bo s pomočjo umetne inteligence obnašanje kitajskih državljanov in podjetij pretvarjal v številke, s pomočjo katerih bo celotno družbo rangiral glede na primernost obnašanja. Na ta način bo vsakdo ocenjen in uvrščen med bolj ali manj pokornega družbi, hkrati pa bo sistem napovedal tudi ravnanje posameznika v prihodnosti, posameznik pa bo tako že pred nekim dejanjem nagrajen ali sankcioniran.

Big Brother, ki tudi kaznuje in nagrajuje

Država bo beležila vse: lokacijo, prijatelje, zdravstvene podatke, zavarovanja, zasebna sporočila, finance, priljubljene medije, zgodovino nakupov, vedenje na spletu in v družbi. S tem bo s pomočjo pridobila popoln profil uporabnika, ki mu bo s pomočjo algoritmov dodelila družbeno oceno.

Kazni pa bodo različne; od omejitev pri izbiri službe, šole, omejitev hitrosti interneta, prepovedi uporabe hotelov itd. Ta način pokorščine državljanov je kitajska partija deloma že uporabljala, med drugim črno listo državljanov, ki jim je država omejila letenje ter listo podjetij z nizko bonitetno oceno, ki so prejela omejitve poslovanja.  Država naj bi sistem izpopolnila in zagnala do leta 2020.

Liste bodo vidne javno

Kitajska vlada trdi, da je njen namen ob tej novosti vzpostaviti družbe zaupanja in iskrenosti, v realnosti pa se bo preganjanje med vladi nevšečnimi posamezniki po napovedih tujih nevladnih organizacij tako še povečalo. Sezname ljudi in podjetij z najnižjimi ocenami namerava tudi javno objaviti, hkrati pa bodo visoke ocene tudi posamezniki lahko uporabljali kot simbol socialnega statusa.

»Pravim« bo omogočen lažji dostop do posojil, (boljših) delovnih mest in prednosti pri birokraciji. Največja kitajska spletna stran za spoznavanje partnerjev Baihe, svojim uporabnikom že omogoča objavo lastnih rezultatov. Sistem vpliva tudi na otroke staršev, ki se »neprimerno« vedejo.

Ureditev trga ter iskrena in zaupanja vredna družba?

Aplikacija sistema za podjetja naj bi po načrtih države prinesla ureditev trga, ki trenutno uživa nizko zaupanje, predvsem iz tujine. Podjetja z dobrimi kreditnimi točkami bodo uživala ugodnosti, kot so dobri kreditni pogoji, nižje davčne stopnje in več naložbenih priložnosti. Nasprotno bodo podjetja s slabimi kreditnimi točkami čakali precej manj ugodni pogoji posojil, plačila davkov in manj možnosti sodelovanja pri projektih iz javnih sredstev. Podjetja naj bi bila v prihodnje ocenjevana v realnem času, s čimer naj bi se njihove napake ob podpori ustrezne tehnologije poznale skoraj takoj.

Kritiki sistem ocenjujejo kot »masovni sistem discipliniranja« državljanov ter opozarjajo na množično kršenje človekovih pravic Kitajcev. A glede na politično in gospodarsko moč Kitajske trenutno ne kaže, da bi mednarodna skupnost proces poskušala kako zaustaviti.