Ponovimo našo definicijo umetne superinteligence: je umetna inteligenca, ki daleč prekaša najbistrejše, najbolj nadarjene in najmodrejše ljudi.
Glede na to, da smo ljudje uspeli izumiti marsikaj, česar si naši predniki niso mogli niti predstavljati, ne dvomim, da ne bi mogli razviti umetne inteligence, ki bi se razvila v umetno superinteligenco – saj si jo lahko celo predstavljamo. Z besedo lahko, hočem reči, da je to možno, ne pa, da ni težko.
Lahko si predstavljamo, da bo umetna superinteligenca rešila vse človeške probleme: konflikte, vojne, revščino, globalno segrevanje itn. Hitro lahko vidimo, da je možno konflikt rešiti npr. tako, da eno od strani, ki so v konfliktu, preprosto odstraniš. Lahko jo samo nekam preseliš, umakneš, ogradiš; lahko pa jo tudi ugasneš/izključiš/terminiraš. Prednost slednje rešitve je tudi v tem, da lahko na ta način pridobljene snovi ponovno uporabiš za kaj koristnega, npr. za gnojilo in hrano za ribe. Tovrstna rešitev se zdi, milo rečeno, problematična.
V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa? Kakšnih dva- ali več tisoč let nazaj bi se Božje izvoljeno ljudstvo verjetno še strinjalo, da bo deset Božjih zapovedi dober cepič za moralo umetne inteligence, danes pa smo že tako daleč v moralnem relativizmu, da bomo na tem področju imeli težave. Dobro: recimo ji vsaj, da ne sme ubijati ljudi. Ampak umetna superinteligenca ve, da mi ljudje sami to pravilo bolj ali manj pogosto in bolj ali manj nekaznovano tudi kršimo. Sploh, če zasledujemo nek višji cilj. Primerov za to je nešteto – in za mnoge od teh bi imeli različni ljudje različne poglede na (ne)upravičenost jemanja človeških življenj za doseganje višjih ciljev.
Recimo, da bomo uspeli umetno superinteligenco narediti moralno. Odlično! Recimo, da ji naročimo, naj reši problem globalnega segrevanja. Ne glede na to, da smo ji uspeli postaviti neke moralne okvire, bo njena rešitev tako daleč izven okvirov našega razumevanja, da nam morda ne bo všeč. S tem mislim, da bo imela njena rešitev nekakšne nepredvidene neželene posledice. Vsaj tako jih bomo razumeli ljudje.
Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno – saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.
To zagato dobro ilustrira primerjava med mravljami in ljudmi: kako naj nam mravlje dopovejo, da je gradnja gozdne ceste za spravilo lesa čez njihova mravljišča slaba ideja? Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno – saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.
Za konec pa razmislimo še o v naslovu omenjenem raju na Zemlji. Predstavljajmo si, da se je razvila ljudem naklonjena umetna superinteligenca, ki smo ji uspešno definirali probleme, ki jih želimo rešiti in jih je tudi uspešno rešila – v dobro človeštva in vsakega posameznega človeka. Zdaj vsi živimo v raju na Zemlji. Kaj pa zdaj?!
Verjetno bomo ljudje ponovili vajo, ki sta jo Adama in Eva izvedla v raju. Kot je to sočno ubesedil Dostojevski v svojih Zapiskih iz podtalja: “Zasujte ga z vsemi zemeljskimi dobrinami, potopite ga v srečo tako globoko, da bodo na površini ostali samo še mehurčki, zagotovite mu táko ekonomsko blaginjo, da mu ne bo treba početi čisto nič drugega kot le spati, jesti medenjake in skrbeti za to, da se svetovna zgodovina ne bi nikoli končala – človek vam bo tudi v tem primeru, iz gole nehvaležnosti, iz navadne objestnosti, naredil kakšno svinjarijo. Tvegal bo svoje medenjake in si namenoma zaželel nekaj najbolj trapastega, najbolj nekoristno norega, in sicer samo zato, da bi vsej tej absolutni razumnosti dodal ščepec svojega pogubnega fantastičnega elementa.”
V letu 2020 se je prvič zgodilo, da je bilo na akademski ravni na temo umetne inteligence citiranih več kitajskih znanstvenikov kot ameriških. Gre za merilo kvalitete preučevanja nekega področja.
Pomemben razlog za kitajsko prednost pri razvoju umetne inteligence je količina podatkov, ki jo generira. Računa se, da bo do leta 2030 8 milijard naprav na Kitajskem povezanih v tako imenovani “internet stvari”. Te naprave na avtomobilih, infrastrukturi in drugih inštrumentih generirajo velike količine podatkov.
Kitajci veliko vlagajo v razvoj umetne inteligence, ker želijo z njo nadoknaditi primanjkljaje na trgu delovne sile zaradi pričakovanega padanja števila prebivalstva.
Untergang des Abendlandes. https://t.co/AMhNliKr9H
— Žiga Turk AZ2PB1 (@ZigaTurk) August 11, 2021
V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa?
************
Misija nemogoče. Skrajno naivno bi bilo misliti, da bo avtonomna UI sprejela kakšne omejitve pri svojem mišljenju, ki jih ji bodo vsilili ljudje. Saj to je ravno bistvo inteligence: avtonomno mišljenje. Ostalo je samo mehanično sledenje programu.
Vse, kar vemo o tem, kaj bo, ko bo nastala avtonomna umetna inteligenca, je to, da bo s tem nastalo popolnoma novo bitje, ki bo prevzelo v svoje roke oblast nad tem planetom. Kaj bo naredila z nami, sam Bog ve. Da bo UI naš pokoren služabnik, so lahko samo pobožne želje.
Johnes je v poznih 60. napisal knjigo z naslovom Kolos.
Priporočam vsem, ki je niste prebrali.
Glede na to, da je vojska tista, ki namenja tej visoki tehnologiji največ sredstev, je “jasnovidnost” avtorja knjige morda celo realna in za ohranitev planera Zemlja edina realna.
V nasprotnem bo v sistemu preveč algoritmov, ki bodo iskali “escape” v udobje hedonizma.
Človeštvo ima že sedaj dovolj inteligentnih ljudi , ki bi če bi jih poslušali omogočili vse kar naj bi sedaj zagotavljala umetna inteligenca. Nevidim nobenega problema v razvoju umetne inteligence če le ta ne bo prevzela tudi oblasti in neglede na želje in koristi ljudi svojo vizijo tudi uveljavila. Kitajci bolj podpirajo umetno inteligenco, ker so prepričani, da bo o sprejemu predlogov in rešitev še vedno odločala partija. Ta model namreč sedaj odlično deluje, Kitajska je sprejela kapitalistični model razvoja država, kjer pa je KP še vedno oblastnik in korektor modela.
Kaj pa če bo umetna inteligenca sam prevzela oblast tako, da po proizvedla robote, ki bodo predstavljali njeno udarno pest in nadomestili človeške represivne organe.
Najbolj verjeten scenarij pa je nekje vmes z umetno inteligenco bo upravljala ozka elita najbogatejših ljudi. Ti sedaj še rabijo ljudi kot delavce in vojake a jih v sodobni digitalizirani družbi ne bodo več rabili.
Vesel sem, da sem v letih ko tega ne bom več doživel.
UI je nekaj strašansko dolgočasnega, enoličnega. Človek se ob reševanju enakega problema lahko odloči vsakič drugače, ker je sposoben problem videti iz različnih zornih kotov v različnem času in razpoloženju.
Človeška inteligenca je unikatna, kulturno, zgodovinsko po spolu pogojena. Ni dveh oseb , ki bi razmišljala enako.
V času , ko družba na vse načine pere možgane, bo imela pri UI lahko delo, od trenutka , ko se bodo odločili kateri model razmišljanja bo zveličaven.
In zakaj ne bi mogla UI pridobiti lastnosti človeškega uma in ga mnogih pogledih celo prekositi, na primer v hitrosti in natančnosti? Ali to nasprotuje kakšnemu naravnemu zakonu? kateremu?
Lastnosti človeškega uma niso grandiozni v sposobnosti, da jih stroj ne bi prekosil, temveč v odločitvah, ki jih lahko sprejme. Na primer: ženske odločitve so različne od moških, pa tudi vsak posameznik bolj ali manj unikaten v teh odločitvah.
UI ne bo stroj, temveč živo bitje.
Če razmišljamo malce naprej, bo inteligentno bitje na neorganski, elektromehanski osnovi veliko bolje prilagojeno za življenje kot mi, ljudje, ki praktično lahko živimo samo na našem planetu, ki ima primerno atmosfero, vodo, primerno temperaturo, dovolj biomase itd.
Elektrmehansko živo bitje bo lahko živelo v nam nemogočih pogojih, kot so na primer na luni, marsu in na drugih planetih. Za svoje življenje bo potrebovalo zgolj energijo in surovine. Poleg tega si bo lahko življenje poljubno podaljševalo s enostavnimi popravili. Lahko bo tudi potovalo dolga leta po vesoljskih prostranskih.
Človek je obsojen na izumrtje, ker se bo težko preselel kamorkoli v vesolju. Mehanska oblika življenja se bo nasprotno lahko razširila po vsem osončju in naprej po galaksiji. Umetno mehansko življenje je pravzaprav skoraj edina možnost, da življenje v vesolju, ki ni ravno naklonjeno organski obliki življenja, sploh lahko preživi.