Umetna inteligenca lahko prepozna vaše politično prepričanje zgolj na podlagi obraznih potez

Tema zbiranja podatkov s socialnih omrežij ter obdelava le-teh z uporabo umetne inteligence je zelo aktualna in zanimiva, zato prilagam nekaj informacij o profesorju Kosinskem ter nekaj pomislekov, ki so se mi porodili med brskanjem po medmrežju o tej temi.

Michal Kosinski (41) ni kdorkoli, temveč je profesor organizacijskega vedênja na ameriški Univerzi Stanford (Silicijeva dolina, Kalifornija), ki je po šanghajski lestvici druga najboljša univerza na svetu. Vodilna je pač Univerza Harvard (Cambridge, Massachusetts)
Kosinski raziskuje takó človeške kognitivne procese kot tudi kognicijo umetne inteligence. Osredotoča se na preučevanje psiholoških procesov v velikih jezikovnih modelih (LLM) ter na uporabo umetne inteligence (AI), strojnega učenja (ML) velepodatkov in računalniške tehnologije za modeliranje in napovedovanje človeškega vedenja.

Leta 2017 je Kosinski pritegnil precej pozornosti z raziskavo, po kateri je zatrjeval, da umetna inteligenca lahko iz fotografij, ki jih posamezniki objavljajo na Facebooku, ugotovi spolno usmerjenost teh posameznikov. Kosinski je bil takrat deležen veliko kritik s strani pripadnikov lgbt skupnosti. Zagovarjal se je, da je med ostalim želel opozoriti na možnosti zlorab prostovoljno objavljenih osebnih podatkov in fotografij na medmrežja, na kar je opozarjal že tudi pred tem.

https://www.gsb.stanford.edu/insights/science-behind-cambridge-analytica-does-psychological-profiling-work

Kosinski je leta 2017 napovedal, da bi umetna inteligenca s pomočjo fotografij lahko prepoznala politična stališča ljudi, stopnjo njihove inteligence, nagnjenost h kriminalnemu vedenju ter številne osebnostne lastnosti in zasebne podrobnosti, kar bi lahko imelo velike družbene posledice. Njegova nedavna objava izsledkov o določanju političnega prepričanja ljudi na osnovi fotografij njihovih obrazov z orodji UI je torej takorekoč samouresničujoča se prerokba.

Kontroverzni znanstvenik Kosinski trdi, da je z uporabo nabora podatkov več kot milijona uporabnikov Facebooka in portalov za zmenke v Kanadi, ZDA in Združenem kraljestvu ustvaril algoritem za pravilno razvrščanje politične usmerjenosti ljudi na dva pola: na liberalnega in na konservativnega.
V resnici je njegov algoritem zadel politično orientacijo ljudi v 71% med pari podobnih obrazov in v 73% med pari različnih obrazov vseh starosti.
Tako piše na medmrežju, kaj to dejansko pomeni, pa si ne prestavljam.

Ne vem, ali ti odstotki pomenijo veliko ali majhno zanesljivost algoritma.
Ne vem niti tega, ali je algoritem politično pripadnost ugotavljal zgolj na obrazih pripadnikov iste rase (npr. belcev) ali med mešanimi fotografijami treh glavnih človeških ras (bela, črna, rumena). Zdi se mi, da je ta podatek pomemben, kajti priznati moramo, da se ljudje različnih ras v obraznih potezah precej razlikujemo med seboj in težko si predstavljam, da bi enoten algoritem lahko po istih kriterijih učinkovito obdeloval obrazne značilnosti vseh ras.

Raziskave Kosinskega in njegove ekipe namreč v osnovi temeljijo na psevdoznanstvenem konceptu fiziognomije, disciplini, ki trdi, da lahko razbere psihološke in moralne značilnosti ter značaj in druge lastnosti določene osebe iz njenega fizičnega videza, zlasti iz obraznih potez in izrazov.

Beseda fiziognomija izhaja iz grških besed physis (narava) in gnosis (znanje).
Fiziognomija je torej praksa ocenjevanja človekovega značaja ali osebnosti glede na njegov zunanji videz, zlasti obraz. (Izraz fizionomija se lahko nanaša tudi na splošen videz osebe, predmeta ali terena.)
Od 16. stoletja je ta disciplina uživala tolikšno pozornost, da so jo celó poučevali na univerzah.

Leta 1876 je italijanski zdravnik, antropolog, evgenik in utemeljitelj italijanske šole kriminologije Cesare Lombroso objavil delo "L' Uomo Delinquente", kjer je predstavil svoj izbor obraznih meril, ki naj bi bila značilna za obraze kriminalcev. Lombroso je namreč trdil, da imajo skoraj vsi kriminalci vrčasta ušesa, goste lase, tanke brade, izrazite sinuse, štrleče brade in široke ličnice. Po Lombrosu naj bi bil za tatove značilen ekspresiven obraz z majhnimi, begajočimi očmi, posiljevalci naj bi imeli mesnate ustnice in štrleče uhlje, medtem ko naj bi morilci imeli krvave oči in velik zakrivljen nos, podoben sokolovemu kljunu.
Skratka, Lombrosove razlage so temeljile na konceptu, da se človek že rodi kot kriminalec in da je njegovo kriminalno vedenje neločljivo povezano z anatomskimi značilnostmi, ki se pri kriminalcu fizično razlikujejo od običajnega človeka. Po Lombrosu naj bi kriminalci imeli prirojene anomalije in atavizme, ki naj bi napovedovali njihovo deviantno vedenje.

V kaj se je pod nemškimi nacionalsocialisti izrodilo ocenjevanje ljudi po obraznih potezah in ostalih telesnih značilnostih, najbrž ni treba posebej opisovati.
V tem tiči moj največji pomislek, kadar slišim, da se ljudi kakorkoli, s pomočjo naravne ali umetne inteligence, ocenjuje po njihovih telesnih značilnostih - prižge se mi rdeči alarm!

Pa še razmislek o psevdoznanosti:
psevdoznanost so ideje ali razlage, ki so predstavljene kot znanstvene, vendar ne temeljijo na znanosti in znanstvenih metodah. Znanstvene izjave so natančno določene in opredeljene, medtem ko je psevdoznanost nejasna in spremenljiva, saj je rezultat selektivne interpretacije podatkov - enkrat tako, drugič drugače.
Ključna razlika med znanostjo in psevdoznanostjo je ta, da je določeno znanstveno izjavo ali teorijo mogoče potrditi z dokazi in to ne enkrat, temveč vsakič znova, medtem ko psevdoznanstvenih izjav običajno ni mogoče potrditi ne z dokazi ne z opazovanjem.
Psevdoznanost torej največkrat niso nič drugega kot samovoljne trditve, prepričanja ali mnenja, ki so lažno predstavljena kot veljavna znanstvena teorija ali kot dejstvo.

Temu prispevku manjka vsaj še podatek, v koliko odstotkih AI vrne pravilen odgovor. Številka zanesljivo ni blizu 100%.

Tudi če bi bilo res, pa sam precej dvomim v visoko zanesljivost takih domnev oz.političnih "diagnoz" UI, ne vem, zakaj bi paničarili, če smo odločeni živeti v svobodi in demokraciji. Namreč, če je politično prepričanje stvar svobodne izbire, ne sme biti upravičenega razloga, da bi ga pred komerkoli morali v svoje dobro skrivati.

Neumnost. Je pa dobra reklama, kateri sledi obilen honorar.
Vedno se najde dovolj neumnežev, ki naedejo in celo plačajo, da so lahko neumni.

A se meni samo zdi, da na Domovini strašijo ljudi pred napredkom/tehnologijo? Tudi, če je to res vemo, da imamo tovrstne mehanizme "prepoznave obrazov" vgrajene v sebi. Sedaj so samo iznašli tehnološko podporo temu. Povprečen Slovenec se tehnologie itak boji oz je "zadržan" do nje. Slovencev ni treba strašit z AI, električnimi abtomobili, vetrnicami, el paneli ali pred (zlobnimi) računalniki. Ker sami tehnologije nismo in ne bomo obvladali,nam bodo z njo vladali drugi.

"Volitve dobivajo tisti, ki štejejo glasove." Stalin

Digitalna diktatura.