Volivci, tehnološki giganti in proruski roboti: kdo bo odločal volitve?

Novoizvoljeni ameriški predsednik Donald Trump je zmagal tudi v številu "deepfake" videoposnetkov. Bil naj bi tarča kar 12.384. Vir: X profil Donalda Trumpa @realDonaldTrump
POSLUŠAJ ČLANEK

Na Hrvaškem je pred drugim krogom predsedniških volitev, na katerih je v nedeljo prepričljivo zmagal Zoran Milanović in dobil drugi mandat, razburilo poročilo britanske nevladne organizacije. To je razkrilo, da so se v volitve z dezinformacijami vmešali proruski roboti. V šestih jezikih so objavljali sporočila v podporo Milanoviću in napadali protikandidata HDZ, Dragana Primorca.  

Leto 2024 je bilo največje volilno leto v zgodovini: kar 3,7 milijard volivcev v 72 državah je imelo priložnost izbirati svoje politične vodje. V tem procesu ima vse večjo vlogo nova tehnologija.

Medtem ko nekateri kandidati s pomočjo umetne inteligence (UI) komunicirajo kar iz zaporniške celice, drugi napovedujejo smrt resnice v gori dezinformacij.

Leta 2023 sta poznavalca napovedala, da bodo volitve 2024 v ZDA »zadnje človeške volitve«. Ustanovitelj Centra za humano tehnologijo Aza Raskin in informatik ter tehnološki etik Tristan Harris s tem nista imela v mislih kandidature humanoidnega robota, pač pa, da bodo kandidati le figure, zmagal pa bo tisti, ki bo imel večjo računalniško moč.

»Umetna inteligenca lahko izboljša ali poslabša status demokracije v vseh njenih dimenzijah. To je odvisno predvsem od tega, kdo nek sistem UI nadzoruje in kak interes ima,« pa ugotavlja Timi Celcer, politolog, ki je raziskoval razmerje med umetno inteligenco in demokracijo.

Celcerja je karierna pot zanesla tudi na Google, kjer je delal v bolj komercialni vlogi, a je kulturo okrog UI v samem epicentru videl tudi od blizu. 

Roboti z zanimanjem za ameriške volitve

Celcer vidi med zahodnimi demokracijami in razširjenostjo njihove uporabe tehnologij nadzora in dezinformacij – tehnologij, ki vse bolj uporabljajo UI – nekakšno protislovje. »Vprašanje, kaj demokracija je, je ključnega pomena.«

Zdi se, da nove tehnologije, vključno z UI, na svoj način postavljajo naše razumevanje demokracije pod vprašaj.

Primer tega je vprašanje legitimnosti izidov volitev, če upoštevamo vse večjo moč družbenih omrežij, na katerih so aktivni nešteti roboti, ki pogosto uporabljajo tudi UI. Na spletu so orodja za izdelavo lastnega X (prej Twitter) robota z UI na voljo vsakomur. 

Uporabljajo se lahko za različne namene, tako koristne kot škodljive, vse pogosteje pa tudi za politično propagando. Povedno je dejstvo, da naj bi kar 20 % uporabnikov omrežja X, ki so se odzivali na z ameriškimi volitvami povezanimi objavami podjetnika Elona Muska, prav t. i. »botov«. S komentiranjem, deljenjem in všečkanjem objav so takorekoč »umetno« povečali vpliv političnih sporočil.

Na politične odločitve vpliva že sam Google

Znano je, da na omrežju X botov mrgoli. Tako je bilo že pred Muskovim prevzemom platforme. Raziskovalci na Univerzi Clesmon so na X-u na primer preučevali robota, ki je zagovarjal in širil politična sporočila Republikancev.

»Z razvojem UI bo vse težje regulirati takšne oblike vpliva na volivce. A že sama odločitev tehnološkega giganta, kot je Google, kaj predlagati na dano iskalno poizvedbo, vpliva na politične odločitve volivcev.«

Poleg tega pa je UI uporabljena tudi za proizvajanje lažnih fotografij in posnetkov, ki se lahko uporabljajo z namenom politične propagande kandidata ali spodbujanja razdeljenosti ljudstva s strani tujega akterja, na primer domnevno rusko vmešavanje v hrvaške volitve. Najpogostejša tarča predvolilnih »deepfakes« je bil novoizvoljeni ameriški predsednik Donald Trump.

Celcer meni, da je skrb upravičena: »Orodja umetne inteligence se bodo in se že uporabljajo za dezinformacije. Tako od “znotraj” kot od “zunaj”. Predvidevati moramo tudi, da bo moč umetne inteligence za ta namen z vsakim letom rasla.«

Ob tem opaža, da se svet pomika proti multipolarnosti in da lahko pričakujemo, da bodo različne države in drugi akterji uporabljali UI za škodovanje interesom drugih.

A proti temu se bomo najverjetneje poskušali obraniti prav s sistemi UI.

Možna tudi zloraba domnevnih tveganj in kršitev

V Romuniji so nedavno razveljavili rezultate prvega kroga volitev, saj se je drugouvrščeni kandidat pritožil, da naj bi TikTok prednostno obravnaval njegovega proruskega in skrajnega nasprotnika.

Bi se lahko podobno zgodilo na podlagi obtožb zlorabe UI? Celcer pritrjuje, da se lahko tehnologije zlorablja v vse smeri, a meni, da neupoštevanje rezultatov volitev ni rešitev, naj bodo sumi intervencije legitimni ali ne. Po njegovem bi s tem tvegali izgubo legitimnosti demokratičnega procesa. Rešitev, kot pravi, je v krepljenju demokratične politične kulture, s tem pa informiranosti in opolnomočenosti ljudstva v odnosu do UI. 

Na nas je, da ohranimo demokratično politično kulturo

»Grozi nam, da obdržimo okove političnega sistema demokracije, vendar izgubimo politično kulturo, kar vodi v razne oblike avtokracije. Najnevarneje pa je, da če se to zgodi, poti nazaj najbrž več ni.« Po mnenju Celcerja lahko neizogibni razvoj UI izboljša politično kulturo, informiranost, blagostanje in aktivnosti ljudstva – lahko pa se, nasprotno, uporabi za sprevračanje vsega naštetega. »Na nas je, da v odnosu do vzpona UI razvijemo politično kulturo in skozi njo politični sistem, ki vodi k večji demokratičnosti,« pravi.

Celcer meni, da imamo za demokratično rabo UI nekaj grobih vodil – izobraževanje o umetni inteligenci in tehnologiji nasploh, državno regulativo in neke vrste kolektivni nadzor nad deli UI – čeprav so ustrezne rešitve odvisne od konteksta posamezne države.

V vsem tem se mu zdi ključna transparentnost, h kateri pozivata tudi strokovnjak za tehnološko varnost, »guru varnosti«, dr. Bruce Schneier in informacijski znanstvenik Nathan Sanders.

Umetna inteligenca kljub napovedim ni privedla do »smrti resnice«

Čeprav je večino anketiranih Demokratov in Republikancev pred volitvami zelo skrbelo, da se bo umetno inteligenco uporabljalo v slabe namene, ocenjujeta, da se »zloglasna 'smrt resnice'« ni uresničila (vsaj ne zaradi UI).

Ena najkoristnejših rab UI v političnih kampanjah je prevajanje jezikov. Funkcijo naj bi med drugim uporabljali indijski premier Narenda Modi, newyorški župan Eric Adams in lokalne vlade na Japonskem ter v Kaliforniji.

Poleg politikov pa v ta namen UI pogosto uporabljajo tudi volivci. Google je lansko poletje omogočil brezplačne storitve prevajanja za dodatnih 110 jezikov, dostopnih milijardam ljudi preko pametnih telefonov.

Politični kandidati so uporabljali tudi UI klepetalnike, da bi se bolje povezali z volivci.

Nekdanji pakistanski premier Imran Khan je uporabljal umetno inteligenco za replikacijo svojega glasu, da je lahko imel govore kar iz zapora.

Na Japonskem je guvernerski kandidat Takahiro Anno uporabil svoj UI avatar, da je odgovoril na 8.600 vprašanj volivcev in tako uspel, kljub dejstvu, da je bil nepoznano ime, doseči peto mesto izmed 56 kandidatov.

Umetno inteligenco so uporabljali tudi za pisanje personaliziranih prošenj za zbiranje sredstev, za merjenje politične podpore in celo za organizacijo kampanj z UI asistenti.

V Argentini sta leta 2023 oba predsedniška kandidata uporabljala umetno inteligenco za oblikovanje posterjev, video posnetkov in podobnega.

Umetna inteligenca proti umetni inteligenci

Lani je prišlo do različnih zlorab UI v politične namene, kot sta lažni posnetek o manipulaciji volitev na Slovaškem ali lažni zvočni posnetek Joeja Bidna, v katerem poziva volivce New Hampshirea, naj ne volijo.

UI je imela tudi pomembno vlogo v ščitenju informacijskega ekosistema. Podjetje OpenAI, na primer, je uporabilo svoje modele za onemogočanje iranske operacije, ki je želela povečati politično polarizacijo v ZDA.

Številne platforme se za iskanje in preprečevanje kršitev zanašajo prav na orodja z UI.

Naroči se Doniraj Vse novice Za naročnike