Umetna superinteligenca: če nam bo naklonjena, nas čaka raj na Zemlji, sicer pa …

Vir foto: https://towardsdatascience.com/
Ponovimo našo definicijo umetne superinteligence: je umetna inteligenca, ki daleč prekaša najbistrejše, najbolj nadarjene in najmodrejše ljudi.

Glede na to, da smo ljudje uspeli izumiti marsikaj, česar si naši predniki niso mogli niti predstavljati, ne dvomim, da ne bi mogli razviti umetne inteligence, ki bi se razvila v umetno superinteligenco - saj si jo lahko celo predstavljamo. Z besedo lahko, hočem reči, da je to možno, ne pa, da ni težko.

Lahko si predstavljamo, da bo umetna superinteligenca rešila vse človeške probleme: konflikte, vojne, revščino, globalno segrevanje itn. Hitro lahko vidimo, da je možno konflikt rešiti npr. tako, da eno od strani, ki so v konfliktu, preprosto odstraniš. Lahko jo samo nekam preseliš, umakneš, ogradiš; lahko pa jo tudi ugasneš/izključiš/terminiraš. Prednost slednje rešitve je tudi v tem, da lahko na ta način pridobljene snovi ponovno uporabiš za kaj koristnega, npr. za gnojilo in hrano za ribe. Tovrstna rešitev se zdi, milo rečeno, problematična. 

Zvočni posnetek je na voljo pod člankom


V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa? Kakšnih dva- ali več tisoč let nazaj bi se Božje izvoljeno ljudstvo verjetno še strinjalo, da bo deset Božjih zapovedi dober cepič za moralo umetne inteligence, danes pa smo že tako daleč v moralnem relativizmu, da bomo na tem področju imeli težave. Dobro: recimo ji vsaj, da ne sme ubijati ljudi. Ampak umetna superinteligenca ve, da mi ljudje sami to pravilo bolj ali manj pogosto in bolj ali manj nekaznovano tudi kršimo. Sploh, če zasledujemo nek višji cilj. Primerov za to je nešteto - in za mnoge od teh bi imeli različni ljudje različne poglede na (ne)upravičenost jemanja človeških življenj za doseganje višjih ciljev.

Recimo, da bomo uspeli umetno superinteligenco narediti moralno. Odlično! Recimo, da ji naročimo, naj reši problem globalnega segrevanja. Ne glede na to, da smo ji uspeli postaviti neke moralne okvire, bo njena rešitev tako daleč izven okvirov našega razumevanja, da nam morda ne bo všeč. S tem mislim, da bo imela njena rešitev nekakšne nepredvidene neželene posledice. Vsaj tako jih bomo razumeli ljudje.
Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno - saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.

To zagato dobro ilustrira primerjava med mravljami in ljudmi: kako naj nam mravlje dopovejo, da je gradnja gozdne ceste za spravilo lesa čez njihova mravljišča slaba ideja? Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno - saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.

Za konec pa razmislimo še o v naslovu omenjenem raju na Zemlji. Predstavljajmo si, da se je razvila ljudem naklonjena umetna superinteligenca, ki smo ji uspešno definirali probleme, ki jih želimo rešiti in jih je tudi uspešno rešila - v dobro človeštva in vsakega posameznega človeka. Zdaj vsi živimo v raju na Zemlji. Kaj pa zdaj?!

Verjetno bomo ljudje ponovili vajo, ki sta jo Adama in Eva izvedla v raju. Kot je to sočno ubesedil Dostojevski v svojih Zapiskih iz podtalja: "Zasujte ga z vsemi zemeljskimi dobrinami, potopite ga v srečo tako globoko, da bodo na površini ostali samo še mehurčki, zagotovite mu táko ekonomsko blaginjo, da mu ne bo treba početi čisto nič drugega kot le spati, jesti medenjake in skrbeti za to, da se svetovna zgodovina ne bi nikoli končala - človek vam bo tudi v tem primeru, iz gole nehvaležnosti, iz navadne objestnosti, naredil kakšno svinjarijo. Tvegal bo svoje medenjake in si namenoma zaželel nekaj najbolj trapastega, najbolj nekoristno norega, in sicer samo zato, da bi vsej tej absolutni razumnosti dodal ščepec svojega pogubnega fantastičnega elementa."

Pri razvoju umetne inteligence Kitajska prehitela ZDA

V letu 2020 se je prvič zgodilo, da je bilo na akademski ravni na temo umetne inteligence citiranih več kitajskih znanstvenikov kot ameriških. Gre za merilo kvalitete preučevanja nekega področja.

Pomemben razlog za kitajsko prednost pri razvoju umetne inteligence je količina podatkov, ki jo generira. Računa se, da bo do leta 2030 8 milijard naprav na Kitajskem povezanih v tako imenovani "internet stvari". Te naprave na avtomobilih, infrastrukturi in drugih inštrumentih generirajo velike količine podatkov.

Kitajci veliko vlagajo v razvoj umetne inteligence, ker želijo z njo nadoknaditi primanjkljaje na trgu delovne sile zaradi pričakovanega padanja števila prebivalstva.

https://twitter.com/ZigaTurk/status/1425342647292542976



Naroči se Doniraj Vse novice Za naročnike

Prihajajoči dogodki

MAR
28
Velikonočna tržnica
14:00 - 18:00
MAR
29
FKK 4: Za post
19:30 - 21:30