Invazija lažnih UI-posnetkov z Bližnjega vzhoda: manipulacije iz Irana in regije se širijo po družbenih omrežjih

Vir: BBC
POSLUŠAJ ČLANEK

Ločevanje dejstev od fikcije na spletu in družbenih omrežjih je težko že v mirnih časih, v času vojne pa je vse skupaj še toliko težje. Lažne slike in videoposnetki preplavljajo družbene medije vse od začetka vojne na Bližnjem vhodu. Kako lahko ugotovimo, kaj je resnično in kaj ni?

Videoposnetki o vojni v Iranu, ki jih je ustvarila umetna inteligenca (UI), naraščajo, saj ustvarjalci uporabljajo nove tehnologije UI predvsem za hiter zaslužek in pozornost.

Boj za všečke, oglede in zavajanje

Od izmišljenih napadov na Teheran do portretov neobstoječih žrtev. V spopadu, kjer sleherna podoba lahko šteje več kot besede, umetna inteligenca ustvarja novo fronto propagande. Tako je vojni konflikt na Bližnjem vzhodu, vključno z Iranom, postal eden od največjih testov za družbena omrežja in njihovo sposobnost ločevanja in preverjanja neresničnih vsebin.

Medtem ko se digitalne platforme še vedno soočajo s klasičnimi manipulacijami, se je pojavila nova veliko nevarnejša kategorija. Gre za vrhunske vizualne ponaredke, ustvarjene z umetno inteligenco. Slike, ki so videti profesionalne in realistične, pogosto po spletu zaokrožijo hitreje kot preverjena dejstva. Učinek je jasen: preden so preverjene in razkrite kot ponaredki, dosežejo milijone uporabnikov, ki jih delijo iz strahu, ogorčenja ali sočutja.

Največji trendi ponaredkov UI

V zadnjih mesecih so organizacije, ki skrbijo tudi za preverjanje verodostojnosti in resničnosti oz. t. i. »fact-checking«, kot so Reuters, AFP, BBC Verify in Bellingcat, beležile skokovit porast lažnih UI-fotografij, povezanih z Iranom, Izraelom, Gazo in okolico. Medtem ko droni, sateliti z umetno inteligenco in družbeni nadzor prevzemajo osrednje mesto v sodobnih spopadih.

Zavajanje Irancev in sveta: Ali je ajatola Hamenej živ in se skriva?

Ajatola Ali Hamenej, ki je bil od leta 1989 najvišji verski in politični voditelj Irana, je bil ubit med zračno operacijo ZDA in Izraela v svojem teheranskem objektu. A približno 90 milijonov Irancev je živelo v upanju in negotovosti glede prihodnosti svojega vrhovnega voditelja.

Samo v pol dneva je bilo po vsem svetu več kot 25 milijonov interakcij z oznakami, ki se nanašajo na Hamenejevo stanje.

Ta fotografija iz puščave Sahara iz leta 2014 je zaokrožila po spletu in zavajajoče trdi, da prikazuje ajatolo Hameneija živega. Vir: X

Uspešnica na družbenih omrežjih: »Iran zadel Burdž Kalifo«

Videoposnetki o vojni v Iranu, ki jih je ustvarila umetna inteligenca, naraščajo, saj ustvarjalci uporabljajo novo tehnologijo v želji po dobrem zaslužku. Tukaj je ena najodmevnejših prevar: »Iran je zadel Burdž Kalifo« (več različic kroži od leta 2023 do 2024). Strokovnjaki za verodostojnost in avtentičnost, že večkrat omenjeni »fact‑checkerji«, so jo preverjali in potrdili, da gre za lažno objavo.

Vir: BBC

Spodaj zapisane številke se nanašajo na primer, ki ga je analiziral Reuters Fact Check. Gre za poseben oddelek, ki skrbi za preverjanje posnetkov in fotografij. Tukaj je povzetek podatkov iz njihovega poročila.

  • Najbolj viralna verzija na omrežju X je imela okoli 1,8 milijona ogledov, preden je bila označena kot lažna.
  • Ista objava je imela več kot 20.000 delitev.
  • Še dve manjši kopiji sta imeli skupaj približno 600.000 ogledov.
  • Reuters in AFP sta potrdila, da gre za staro pirotehnično rekonstrukcijo, ne za napad.
 
 
 
 
 
View this post on Instagram
 
 
 
 
 
 
 
 
 
 
 

A post shared by Daily AI Digest (@daily_ai_digest3)

Hitrost širjenja je posledica treh dejavnikov:

  • močan čustveni naboj, ki ga sprožajo vojni prizori;
  • algoritmi družbenih omrežij, ki dajejo prednost šokantnim objavam;
  • dostopnost UI‑orodij, ki omogočajo izdelavo prepričljivih slik tudi popolnim začetnikom.

UI tako postaja orodje ne samo informacijske vojne, temveč tudi »vojne čustev«, kjer je cilj ustvariti burne odzive, ne pa tudi širiti dejstva. UI je v kombinaciji z družbenimi omrežji lahko v rokah zlobnežev izjemno manipulacijsko orodje, žal celo novodobno medijsko orožje.

UI in uničenje ameriške letalonosilke USS Abraham Lincoln

Islamska revolucionarna garda (IRGC) je prav tako objavila videoposnetek, ustvarjen z UI, ki prikazuje uničenje ameriške letalonosilke USS Abraham Lincoln, na katerem so rakete, droni in gliserji preplavili ameriško vojno ladjo. Posnetek so razširili mediji, ki so povezani z IRGC. Čeprav to ni resnični posnetek, vsebuje ostro opozorilo in spodbuja podpihovanje vojne vihre.

Lažni UI-posnetek nastane v neverjetnih 15–30 sekundah

Treba se je zavedati, kako enostavno je vzeti eno samo sliko izpred skoraj 10 let, jo malo obrezati in ustvariti videz, kot da je iz vojne na Bližnjem vzhodu. Slike je na spletu in s pomočjo UI res enostavno prilagoditi.

Torej, odstranijo vodne žige, odstranijo podrobnosti ali celo popravijo besedilo. Zaradi tega je nekomu, ki brska po družbenih omrežjih, zelo težko ugotoviti, ali je fotografija resnična ali ne. Vešči mojstri UI bi za spremembo ambasade v vojno območje, verjeli ali ne, potrebovali neverjetnih 15–30 sekund.

Preverjali smo primere, ki krožijo po spletu

Tukaj so zapisani nekateri najbolj razširjeni primeri, ki so jih analizirali in označili kot lažne.

»Ruševine v Teheranu po napadu« – UI

Reuters je razkril, da gre za fotografijo, generirano z UI. Okna in robovi stavb se ponavljajo, porušeni predmeti so identični.

»Iranske eksoskeletne enote« – UI

AFP je potrdil, da gre za popolnoma izmišljene vojake. Uniforme in orožje ne ustrezajo resničnim standardom, geometrija predmetov je neenakomerna.

»Teheran ponoči gori« – UI

Reuters je pri viralni sliki razkril kopiranje arhitekturnih elementov ter nepravilnosti svetlobe in senc, ki so značilne za sintetično slikanje.

»General, padel v napadu« – UI

AFP je dokazal, da oseba na fotografiji ne obstaja, uniforma je neresnična, obraz preveč simetričen, insignije pa izmišljene.

»Izraelski tanki vstopajo v Iran« – UI

Bellingcat je potrdil manipulacijo z UI, saj ima tank nenaravne gosenice in neobstoječ model dvojnega vojaškega topa.

Primeri lažnih objav iz omrežja X

Prirejena in spremenjena vsebina iz videoiger, kot je uporaba ameriškega bojnega letala nad Teheranom, pa tudi video iz računalniške igre, ki je predstavljen kot resnični napad, kar je bilo objavljeno na omrežju X.

Stare slike in video kot iranski napadi: reciklirani foto in video materiali iz prejšnjih konfliktov. Objavo na omrežju X je omenil AFP.

Kako lahko bralci prepoznajo UI‑fotografije

Čeprav so sodobni modeli izjemno prepričljivi, obstaja nekaj znakov, ki lahko pogosto izdajo ponaredke:

  • anatomske napake (prsti, ušesa, roke, oči),
  • simetrični ali bolj »plastični« obrazi,
  • ponavljajoči se vzorci v ozadju,
  • čudne sence ali svetlobni odboji,
  • neresnična tekstura kože in tkanine,
  • neobičajno ostri ali preveč mehki elementi na isti sliki.

Konflikt na Bližnjem vzhodu se tako ne odvija zgolj na bojiščih, temveč tudi na zaslonih. UI-fotografije, ki jih ustvarjajo anonimni profili, propagandni akterji ali celo posamezniki, ki želijo pozornost, skrbijo za poplavo na družbenih omrežjih.

Če želimo ohraniti osnovno raven javnega razumevanja, je nujno, da se zavedamo njihovega vpliva ter se naučimo prepoznati vizualne prevare, še preden se čustveno odzovemo in jih nenamerno širimo tudi sami. Težava je v tem, da polovica vseh teh slik, kot jih vidimo, ni resničnih. Ker pa se vojna na Bližnjem vzhodu zaostruje, se ljudje za najhitrejše informacije in novice najprej obrnejo na družbena omrežja.

Naroči se Doniraj Vse novice Za naročnike