Prof. dr. Matjaž Gams: ChatGPT je nekaj božanskega, a lahko postane »pametno orožje!«

Intervju: prof. dr. Matjaž Gams, raziskovalec na Institutu Jožef Stefan

V najnovejši oddaji Vroča tema smo gostili prof. dr. Matjaža Gamsa, ki brez ovinkov razgalja svet tehnoloških bogov, energetskih preobratov in krute demografske usode Slovenije, ki že trka na naša vrata.

Novembra leta 2022 je podjetje Open AI v Kaliforniji sprožilo novo revolucijo, ki je za seboj potegnila celoten modri planet. In ne pretiravamo, če tako razmišljamo, ko je govora o umetni inteligenci. Korenito je posegla v digitalni svet in že spreminja številna življenja in način razmišljanja. Prof. dr. Matjaž Gams, kako vi kot raziskovalec UI, ki to raziskujete že 50 let, gledate na njen vpliv?

Ja, umetna inteligenca nas vsak dan dela boljše, tako človeštvo kot posameznika. Ta trend zdaj traja že nekaj časa, se dviguje, v nekaterih komponentah je razvoj še bolj počasen. Ampak s stališča prave inteligence se pomembni skoki dogajajo v zadnjih letih. In to je fenomenalno.

Kako ste vi prvič prišli v stik z umetno inteligenco in kaj vas je najbolj navdušilo?

Z umetno inteligenco se ukvarjam približno 50 let. Večino časa, torej večino delovnega časa. Raziskujemo tudi superinteligenco, bolj intenzivno kakšnih 20–25 let. Ko nekaj desetletij sanjaš, kaj naj bi naredili, kako naj bi uspeli, kako naj bi to napredovalo, in ko se to dogaja pred tvojimi očmi, je to zelo dober občutek.

Open AI podjetje iz Kalifornije, katerega voditelj je Sam Altman, eden od njegovih soustanoviteljev, je na trg poslal klepetalnik ChatGPT, ki je sto milijonov uporabnikov dosegel v samo dveh mesecih. Facebook je februarja leta 2004 za prvi milijon uporabnikov potreboval deset mesecev. Kako ste vi, najprej kot uporabnik in potem kot raziskovalec, začeli dojemati ChatGPT?

Zdaj ogromno ljudi uporablja GPT. Ampak mi, ki temu sledimo znanstveno, vidimo, kako je tukaj šlo v resnici za gromozanski napredek. Tisti prvi programi ChatGPT – zdaj je tukaj verzija ChatGPT4, pred njo je bila trojka, pa dvojka –so bili v glavnem zanič. Sem ter tja so proizvedli kakšen resnično lep odgovor in besedilo. Kakšen je zdaj standard; če napiše eno stran, je običajno tista stran kar dobra. Pred štirimi leti je bila kakšna stran dobra bolj po naključju. Zdaj je to za vse nas izjemen napredek. Glavni vizionarji so pred približno 25 leti napovedali, da bo leta 2029 prišla superinteligenca. Zdaj se ravno s tem pojavom ukvarjamo strokovnjaki, to je bilo pravzaprav pričakovano, predvideno, tudi želeno. Dogaja se tako, kot smo sanjali, da se bo. In morda nisem toliko presenečen, da je res tako hitro vse to prodrlo do toliko ljudi, da so ljudje začeli hitro uporabljati UI. Poleg tega kar dobro napovedujemo, kaj se dogaja. Nam se zdi, da znamo zelo dobro napovedati napredek, ne na leto natančno, ampak v kateri smeri bo šel razvoj.

Rad bi omenil človeka, ki so ga označili za botra umetne inteligence, to je Geoffrey Everest Hinton. Po letih razvoja in raziskav na Googlu je prišel do zanimivega zaključka. Ustrašil se je namreč te čarobne, enormne pameti UI, ki jo premorejo novodobni algoritmi in sistemi, ter se odpovedal nadaljnjim raziskavam. Ko je lani prejel Nobelovo nagrado za fiziko, se je ob prejemu nagrade odločil, da bo ozaveščal predvsem o temnih plateh, ki so lahko celo usodne za človeštvo. Kako vi doživljate izjave Geoffreyja Hintona, botra UI? Naprej so se na primer igrali s šahom. To je bilo vaše področje, mar ne?

Tudi, tudi. To sem naredil za diplomo, naredil sem šahovsko končnico in skoraj skuril cel računalnik, da sem to izračunal. Ampak to je bilo včasih. Zdaj pa, ko se pogovarjate z umetno inteligenco, imate včasih občutek, da je živo bitje, da se je sposobno pogovarjati z nami, vas učiti, če hočete. To so idealni učitelji, saj imajo na voljo ves čas, ko si ga zaželite. Če hočete poizkušati, če hočete prenehati, karkoli si želite. Izkušnje nam kažejo, da je praktično povsod boljše, če to delate s ChatGPT kakor brez njega. Čisto realnih primerov imamo ogromno. Zakaj milijarda ljudi uporablja ChatGPT? Zato, ker je koristen. Ključno vprašanje pa je, ali ga znamo uporabljati na pravi način. In odgovor na vprašanje, ali je to po besedah Hintona škodljivo? Je to škodljivo ali je to dobro? Hintona je strah in to javno priznava. Razumem ga: če začutite moč tega sistema in če se ukvarjate z njo, lahko začutite moč – tudi takrat, ko je bila UI še nemočna.

Zakaj milijarda ljudi uporablja ChatGPT? Zato, ker je koristen. Ključno vprašanje pa je, ali ga znamo uporabljati na pravi način.

Hinton pravi, da bo od 20 do 30 odstotkov tako imenovanih belih ovratnikov izgubilo službe. Kakšno je vaše mnenje glede tega, kako hitro se to lahko zgodi?

Podjetja se vedno bolj odločajo za uporabo umetne inteligence. Taka vprašanja so konceptualno zanimiva. Če uporabljate ChatGPT, lahko nekaj naredite v eni uri, za kar bi potrebovali uro in pol ali dve uri dela. Kaj bomo s to presežno energijo, s časom in s tem presežnim delom naredili? Tu se stvari zapletejo, ko ljudje delajo šest namesto osem ur na dan. Približno takole izgleda. Če imate direktorja in na primer sto ljudi, teh sto ljudi z uporabo GPT-ja lahko naredi toliko kot 150 ljudi. Potem bi celo lahko rekli, da bi 50 ljudi odpustili. Ampak praksa je takšna (to je zgodovinska praksa): ko direktor ugotovi, da lahko opravi z istim kadrom dela za 150 ljudi in se jim poveča dobiček, potem ne bo želel odpustiti 50 ljudi. Če pogledate cel svet, lahko zaradi vsega tega raste standard. Na ta način človeška civilizacija napreduje.

Če uporabljate ChatGPT, lahko nekaj naredite v eni uri, za kar bi potrebovali uro in pol ali dve uri dela.

Če še malce ostaneva pri Hintonu; ko so ga vprašali, kaj bo z vsemi temi ljudmi, ki bodo izgubljali službe ravno zaradi umestitve UI na delovnih mestih, je dejal: »Priučite se za vodovodarja!« Zanimiva izjava, mar ne?

Hinton je zelo pameten, zelo ga spoštujem. Ampak poglejte, imamo zgodovinske primere, ki nas naučijo, kaj se dogaja ob takšnih premikih. Ko so se pojavili prvi stroji, ki so jih dali v tovarno, se je pojavil tako imenovani ludizem, predvsem v Angliji, Veliki Britaniji in tako naprej. Ljudje so rekli, zdaj pa tovarna naredi toliko več in bomo ostali brez dela. In so razbili stroje, potem pa so dejansko bili brez dela.

Tudi bančni uslužbenci so se ustrašili, ko je prišel Excel. Mislili so, da bodo izgubljali službe, vsega bo konec. Bančniki so ga sicer toplo pozdravili, kajti vedeli so, s koliko procesi imajo opravka, ampak ljudje so še danes tam. Ampak marsikaj se bo spremenilo, kajne?

Na bolje, ja!

Če gremo naprej: ure, ki jih lahko privarčuje UI ... Zakaj potem ljudje ne bi zaradi UI imeli več časa za vzgojo otrok, za družino? Vaš pogled me zanima. Ampak doživeli bomo verjetno ravno obratno. Pohlep je lahko ključen?

Ja, področje ideologije, politike, družbenih norm, kjer nisem ravno briljanten. Če na primer gledate neko oddajo ali če pogledate nekega vplivneža na spletu ali nekega politika, vsi znajo vse. Ampak strokovnjaki presneto dobro vemo, da vemo nekaj na svojem področju, a daleč od tega, da bi vedeli vse tako dobro, kot to ve ChatGPT, ki tudi v resnici ve vse, za razliko od politikov in vplivnežev. Dejansko bi bile rešitve lahko zelo hitro implementirane. Tudi v nekem mestu, kakršno je Ljubljana, da bi mogoče prometni tokovi hitreje tekli ravno s pomočjo pametnih semaforjev.

Bil sem tudi na vladnih organih in sem jim predstavil te ideje, podobne ideje, kot vi govorite. Zakaj ne bi izboljšali cestnega prometa na dva načina? Ta, ki ga vidite zdaj, ni v redu. Navdušeni so bili nad tem, da bi vpeljali umetno inteligenco za vodenje prometa. Potem so nekaj idej pobrali in so jih implementirali. In to je bilo zame kar priznanje. Čeprav ga formalno ne dobiš, imaš občutek, da si pomagal, to mi je dovolj, čeprav mi pomagamo tudi zastonj. To je naloga vseh nas raziskovalcev in razvijalcev. Križišča so narejena tipično za nek normalen prevoz, potem ko se pojavi gneča, pa ne funkcionirajo več. Že hitro lahko vidite korak naprej, tudi za 50 odstotkov bi lahko izboljšali promet. Zakaj tega snovalci ne uporabljajo? Zato, ker ne uporabljajo inteligence pri konkretni izvedbi. V Sloveniji zadnja leta skušajo s tem, da predimenzionirajo število voznih pasov in podobno, rešiti problem, namesto da bi ga reševali s pomočjo UI.

Pogosto čakamo v prazno, če to pomnožimo s 365 dnevi, je to kar nekaj ur življenja, porabljenega za čakanje pri rdeči luči.

Če vprašate GPT, vam bo takoj povedal, da če namesto semaforjev uvedete krožišče, boste prihranili recimo 30 odstotkov pri gorivu, pri času, pri vzdrževanju. Ja, in tudi pri smrtnih nesrečah. V krožiščih je manj nesreč kot pri semaforjih. In zakaj potem ni toliko krožišč pri nas? Zato, ker imamo pri nas 'trapasto' zakonodajo in ljudje ne uvajajo krožišč, ker hočejo tisti, ki se s tem ukvarjajo profesionalno, narediti ogromna predimenzionirana križišča, čez katera ne more zapeljati tovornjak, namesto da bi imeli take rešitve kot drugod, kjer so križišča dovolj velika tudi za tovornjak, da lahko v celoti zapelje čez tisto površino.

Kaj pa fenomen Elona Muska, najbogatejšega zemljana. Ob tem, da je kupil Twitter, ga preimenoval v X, ima zdaj tudi že UI-klepetalnik, ki se imenuje Grok. Ampak Musk je nekako alergičen na »deepfake«, »woke«, na laži, na izprijene laži. Tako da je želel postaviti red in boj proti laži na X-u. Elon Musk je rekel, da bo to njegova misija, kar se tiče Groka?

Musk je genij. On je Leonardo da Vinci današnje dobe. Tega se ljudje ne zavedajo. V vsakem obdobju imate kakšne genije, ki jih samo občuduješ, ker so dejansko geniji. Elon Musk je točno tak. Poleg tega je on moja sorodna duša, ker je malo 'ubrisan', po domače rečeno.

Veliko bolj verjetno je, da bo superinteligenca rešila človeštvo pred prepadom. Kakšne so vaše informacije, vi imate zagotovo podatke?

Naše študije kažejo, da bo človeštvo izničilo samo sebe v tisoč ali deset tisoč letih. To je statistično gledano najbolj verjetno. Da se tega rešimo, smo očitno premalo pametni in potrebujemo še pametnejši sistem. In kaj je to? Edino superinteligenca se zdi tisti rešitelj. In to, kar govorim zdaj, ni nekaj iz trte zvito ali nekaj kar v tri dni, ko se malce pregloboko pogleda v kozarček, to kažejo naše analize. S tem se ukvarjam desetletja, konkretno pol stoletja. In zaenkrat vsi sistemi kažejo, vse analize kažejo v tej smeri.

Študije kažejo, da bo človeštvo izničilo samo sebe v tisoč ali deset tisoč letih. To je statistično gledano najbolj verjetno.

Pojasnite nam svoje izračune, napovedi, te projekcije demografije izginjanja določenih narodov.

Če pogledamo samo Slovence, potem smo kar prvi na tem seznamu. Je še nekaj držav, ki imajo manj prebivalcev, ampak smo med prvimi. Poglejte, mi smo po številu športnih dosežkov na glavo med najboljšimi na svetu, recimo skupaj s Hrvati. Vprašanje je, kaj nam grozi demografsko. Pred kratkim smo imeli posvet o slovenskem parlamentu. Zdaj pripravljamo zbornik in je to nesporno. Vse študije, vse analize, komplicirane, enostavne, kažejo, da bo slovenski narod, če se bo takšen tempo nadaljeval, pa tudi hrvaški, torej vsi majhni evropski narodi bodo izumrli v recimo dobrih dveh stoletjih. V dveh stoletjih, to sta dve človeški življenji.

Vsi ti bodo izumrli čez 200 let? To je praktično jutri, če zgodovinsko gledamo na to dobo, to je nekako le sekunda.

Seveda. Večina ljudi tega ne razume. Mi smo kot žaba, ki se kuha v loncu in se ne zaveda, da bo nekoč prevroče. To je resen izziv za politiko.

V letu 2018 smo imeli prvi posvet, kako preprečiti izumiranje slovenskega naroda. In po tistem dogodku so me razglasili za fašista, sovražnika žensk, sovražnika homoseksualcev itn.

Ne razumem, saj s to projekcijo poskušate dokazati, da dejansko izginjamo.

To je zanimivo vprašanje. To je grozno dognanje. To bi nas moralo skrbeti. Zakaj postaneš sovražnik Slovenije številka ena, ko opozoriš, da bomo izumrli in da je treba sprejeti ukrepe, da se to ne bi zgodilo? Evropa v nekem smislu dela demografski samomor, tudi Slovenija. To so težke novice. To govorim že deset let.

Vse analize kažejo, da bo slovenski narod, če se bo takšen tempo nadaljeval, pa tudi hrvaški, torej vsi majhni evropski narodi bodo izumrli v recimo dobrih dveh stoletjih.

Prof. dr. Matjaž Gams je eden od pionirjev umetne inteligence v Sloveniji in širši regiji. Njegovo delo združuje vrhunsko znanost, tehnološke inovacije in globoko družbeno angažiranost. Je redni profesor na Univerzi v Ljubljani, član Inženirske akademije Slovenije (IAS) in nekdanji državni svetnik. Za svoje delo je prejel številne mednarodne nagrade, vključno z zmagami na svetovnih tekmovanjih, kot je XPRIZE.

Svojo pot je začel pod mentorstvom legendarnega prof. Ivana Bratka. V pol stoletja raziskav je sodeloval pri več kot 200 projektih in razvil deset svetovno priznanih tehnoloških produktov.

Dr. Gams je eden vodilnih glasov pri razlagi in implementaciji LLM (Large Language Models), velikih jezikovnih modelov. Gre za vrsto umetne inteligence, ki se uči na ogromnih količinah besedil (milijardah besed), da bi razumela, generirala in predvidela človeški jezik. Najbolj znan primer LLM je ChatGPT.

Poleg računalništva je dr. Gams priznan raziskovalec demografskih trendov. Je soavtor Bele knjige slovenske demografije in avtor odmevnih znanstvenih projekcij, ki opozarjajo na kritično upadanje rodnosti. Njegova napoved o možnem izumrtju slovenskega naroda v naslednjih 200 letih temelji na kompleksnih matematičnih modelih, ki jih uporablja tudi v umetni inteligenci.

Sovražnik Slovenije številka ena postaneš, ko opozoriš, da bomo izumrli in da je treba sprejeti ukrepe, da se to ne bi zgodilo.

(D236: 13-17)