Umetna superinteligenca: če nam bo naklonjena, nas čaka raj na Zemlji, sicer pa …
Ponovimo našo definicijo umetne superinteligence: je umetna inteligenca, ki daleč prekaša najbistrejše, najbolj nadarjene in najmodrejše ljudi.
Glede na to, da smo ljudje uspeli izumiti marsikaj, česar si naši predniki niso mogli niti predstavljati, ne dvomim, da ne bi mogli razviti umetne inteligence, ki bi se razvila v umetno superinteligenco - saj si jo lahko celo predstavljamo. Z besedo lahko, hočem reči, da je to možno, ne pa, da ni težko.
Lahko si predstavljamo, da bo umetna superinteligenca rešila vse človeške probleme: konflikte, vojne, revščino, globalno segrevanje itn. Hitro lahko vidimo, da je možno konflikt rešiti npr. tako, da eno od strani, ki so v konfliktu, preprosto odstraniš. Lahko jo samo nekam preseliš, umakneš, ogradiš; lahko pa jo tudi ugasneš/izključiš/terminiraš. Prednost slednje rešitve je tudi v tem, da lahko na ta način pridobljene snovi ponovno uporabiš za kaj koristnega, npr. za gnojilo in hrano za ribe. Tovrstna rešitev se zdi, milo rečeno, problematična.
V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa? Kakšnih dva- ali več tisoč let nazaj bi se Božje izvoljeno ljudstvo verjetno še strinjalo, da bo deset Božjih zapovedi dober cepič za moralo umetne inteligence, danes pa smo že tako daleč v moralnem relativizmu, da bomo na tem področju imeli težave. Dobro: recimo ji vsaj, da ne sme ubijati ljudi. Ampak umetna superinteligenca ve, da mi ljudje sami to pravilo bolj ali manj pogosto in bolj ali manj nekaznovano tudi kršimo. Sploh, če zasledujemo nek višji cilj. Primerov za to je nešteto - in za mnoge od teh bi imeli različni ljudje različne poglede na (ne)upravičenost jemanja človeških življenj za doseganje višjih ciljev.
Recimo, da bomo uspeli umetno superinteligenco narediti moralno. Odlično! Recimo, da ji naročimo, naj reši problem globalnega segrevanja. Ne glede na to, da smo ji uspeli postaviti neke moralne okvire, bo njena rešitev tako daleč izven okvirov našega razumevanja, da nam morda ne bo všeč. S tem mislim, da bo imela njena rešitev nekakšne nepredvidene neželene posledice. Vsaj tako jih bomo razumeli ljudje.
To zagato dobro ilustrira primerjava med mravljami in ljudmi: kako naj nam mravlje dopovejo, da je gradnja gozdne ceste za spravilo lesa čez njihova mravljišča slaba ideja? Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno - saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.
Za konec pa razmislimo še o v naslovu omenjenem raju na Zemlji. Predstavljajmo si, da se je razvila ljudem naklonjena umetna superinteligenca, ki smo ji uspešno definirali probleme, ki jih želimo rešiti in jih je tudi uspešno rešila - v dobro človeštva in vsakega posameznega človeka. Zdaj vsi živimo v raju na Zemlji. Kaj pa zdaj?!
Verjetno bomo ljudje ponovili vajo, ki sta jo Adama in Eva izvedla v raju. Kot je to sočno ubesedil Dostojevski v svojih Zapiskih iz podtalja: "Zasujte ga z vsemi zemeljskimi dobrinami, potopite ga v srečo tako globoko, da bodo na površini ostali samo še mehurčki, zagotovite mu táko ekonomsko blaginjo, da mu ne bo treba početi čisto nič drugega kot le spati, jesti medenjake in skrbeti za to, da se svetovna zgodovina ne bi nikoli končala - človek vam bo tudi v tem primeru, iz gole nehvaležnosti, iz navadne objestnosti, naredil kakšno svinjarijo. Tvegal bo svoje medenjake in si namenoma zaželel nekaj najbolj trapastega, najbolj nekoristno norega, in sicer samo zato, da bi vsej tej absolutni razumnosti dodal ščepec svojega pogubnega fantastičnega elementa."
Glede na to, da smo ljudje uspeli izumiti marsikaj, česar si naši predniki niso mogli niti predstavljati, ne dvomim, da ne bi mogli razviti umetne inteligence, ki bi se razvila v umetno superinteligenco - saj si jo lahko celo predstavljamo. Z besedo lahko, hočem reči, da je to možno, ne pa, da ni težko.
Lahko si predstavljamo, da bo umetna superinteligenca rešila vse človeške probleme: konflikte, vojne, revščino, globalno segrevanje itn. Hitro lahko vidimo, da je možno konflikt rešiti npr. tako, da eno od strani, ki so v konfliktu, preprosto odstraniš. Lahko jo samo nekam preseliš, umakneš, ogradiš; lahko pa jo tudi ugasneš/izključiš/terminiraš. Prednost slednje rešitve je tudi v tem, da lahko na ta način pridobljene snovi ponovno uporabiš za kaj koristnega, npr. za gnojilo in hrano za ribe. Tovrstna rešitev se zdi, milo rečeno, problematična.
Zvočni posnetek je na voljo pod člankom
V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa? Kakšnih dva- ali več tisoč let nazaj bi se Božje izvoljeno ljudstvo verjetno še strinjalo, da bo deset Božjih zapovedi dober cepič za moralo umetne inteligence, danes pa smo že tako daleč v moralnem relativizmu, da bomo na tem področju imeli težave. Dobro: recimo ji vsaj, da ne sme ubijati ljudi. Ampak umetna superinteligenca ve, da mi ljudje sami to pravilo bolj ali manj pogosto in bolj ali manj nekaznovano tudi kršimo. Sploh, če zasledujemo nek višji cilj. Primerov za to je nešteto - in za mnoge od teh bi imeli različni ljudje različne poglede na (ne)upravičenost jemanja človeških življenj za doseganje višjih ciljev.
Recimo, da bomo uspeli umetno superinteligenco narediti moralno. Odlično! Recimo, da ji naročimo, naj reši problem globalnega segrevanja. Ne glede na to, da smo ji uspeli postaviti neke moralne okvire, bo njena rešitev tako daleč izven okvirov našega razumevanja, da nam morda ne bo všeč. S tem mislim, da bo imela njena rešitev nekakšne nepredvidene neželene posledice. Vsaj tako jih bomo razumeli ljudje.
Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno - saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.
To zagato dobro ilustrira primerjava med mravljami in ljudmi: kako naj nam mravlje dopovejo, da je gradnja gozdne ceste za spravilo lesa čez njihova mravljišča slaba ideja? Za razliko od nas ljudi, ki mravelj ne razumemo, bo umetna superinteligenca nas verjetno razumela, ampak zakaj bi nas sploh jemala resno - saj bo vendar po definiciji bistveno pametnejša in modrejša od nas.
Za konec pa razmislimo še o v naslovu omenjenem raju na Zemlji. Predstavljajmo si, da se je razvila ljudem naklonjena umetna superinteligenca, ki smo ji uspešno definirali probleme, ki jih želimo rešiti in jih je tudi uspešno rešila - v dobro človeštva in vsakega posameznega človeka. Zdaj vsi živimo v raju na Zemlji. Kaj pa zdaj?!
Verjetno bomo ljudje ponovili vajo, ki sta jo Adama in Eva izvedla v raju. Kot je to sočno ubesedil Dostojevski v svojih Zapiskih iz podtalja: "Zasujte ga z vsemi zemeljskimi dobrinami, potopite ga v srečo tako globoko, da bodo na površini ostali samo še mehurčki, zagotovite mu táko ekonomsko blaginjo, da mu ne bo treba početi čisto nič drugega kot le spati, jesti medenjake in skrbeti za to, da se svetovna zgodovina ne bi nikoli končala - človek vam bo tudi v tem primeru, iz gole nehvaležnosti, iz navadne objestnosti, naredil kakšno svinjarijo. Tvegal bo svoje medenjake in si namenoma zaželel nekaj najbolj trapastega, najbolj nekoristno norega, in sicer samo zato, da bi vsej tej absolutni razumnosti dodal ščepec svojega pogubnega fantastičnega elementa."
Pri razvoju umetne inteligence Kitajska prehitela ZDA
V letu 2020 se je prvič zgodilo, da je bilo na akademski ravni na temo umetne inteligence citiranih več kitajskih znanstvenikov kot ameriških. Gre za merilo kvalitete preučevanja nekega področja.
Pomemben razlog za kitajsko prednost pri razvoju umetne inteligence je količina podatkov, ki jo generira. Računa se, da bo do leta 2030 8 milijard naprav na Kitajskem povezanih v tako imenovani "internet stvari". Te naprave na avtomobilih, infrastrukturi in drugih inštrumentih generirajo velike količine podatkov.
Kitajci veliko vlagajo v razvoj umetne inteligence, ker želijo z njo nadoknaditi primanjkljaje na trgu delovne sile zaradi pričakovanega padanja števila prebivalstva.
https://twitter.com/ZigaTurk/status/1425342647292542976
V letu 2020 se je prvič zgodilo, da je bilo na akademski ravni na temo umetne inteligence citiranih več kitajskih znanstvenikov kot ameriških. Gre za merilo kvalitete preučevanja nekega področja.
Pomemben razlog za kitajsko prednost pri razvoju umetne inteligence je količina podatkov, ki jo generira. Računa se, da bo do leta 2030 8 milijard naprav na Kitajskem povezanih v tako imenovani "internet stvari". Te naprave na avtomobilih, infrastrukturi in drugih inštrumentih generirajo velike količine podatkov.
Kitajci veliko vlagajo v razvoj umetne inteligence, ker želijo z njo nadoknaditi primanjkljaje na trgu delovne sile zaradi pričakovanega padanja števila prebivalstva.
https://twitter.com/ZigaTurk/status/1425342647292542976
Povezani članki
Zadnje objave
Svoboda govora ali govor Svobode
28. 3. 2024 ob 7:31
Domovina 141: 30 let uroka Depale vasi
27. 3. 2024 ob 6:29
Ekskluzivno za naročnike
Domovina 141: 30 let uroka Depale vasi
27. 3. 2024 ob 6:29
Domovina 140: Kam gre denar od precenjenih železniških postaj
20. 3. 2024 ob 6:29
To je groza, ni pa strah – Justin Earl Grant
18. 3. 2024 ob 23:11
Prihajajoči dogodki
MAR
28
Velikonočna tržnica
14:00 - 18:00
MAR
28
Predstavitev knjige Materinska knjižica
18:00 - 20:00
MAR
29
V kapeli Zavoda ŽIVIM križev pot za življenje
15:00 - 15:45
MAR
29
FKK 4: Za post
19:30 - 21:30
MAR
31
ZAJETI V IZVIRU - SLOVENSKI OTROCI LEBENSBORNA
18:00 - 19:00
Video objave
Odmev tedna: Zbiranje lastovk za prihod pomladi
22. 3. 2024 ob 20:31
Odmev tedna: Mučeniki, cvetje in komunikacija
15. 3. 2024 ob 20:37
8 komentarjev
vengust
UI je nekaj strašansko dolgočasnega, enoličnega. Človek se ob reševanju enakega problema lahko odloči vsakič drugače, ker je sposoben problem videti iz različnih zornih kotov v različnem času in razpoloženju.
Človeška inteligenca je unikatna, kulturno, zgodovinsko po spolu pogojena. Ni dveh oseb , ki bi razmišljala enako.
V času , ko družba na vse načine pere možgane, bo imela pri UI lahko delo, od trenutka , ko se bodo odločili kateri model razmišljanja bo zveličaven.
rasputin
In zakaj ne bi mogla UI pridobiti lastnosti človeškega uma in ga mnogih pogledih celo prekositi, na primer v hitrosti in natančnosti? Ali to nasprotuje kakšnemu naravnemu zakonu? kateremu?
vengust
Lastnosti človeškega uma niso grandiozni v sposobnosti, da jih stroj ne bi prekosil, temveč v odločitvah, ki jih lahko sprejme. Na primer: ženske odločitve so različne od moških, pa tudi vsak posameznik bolj ali manj unikaten v teh odločitvah.
rasputin
UI ne bo stroj, temveč živo bitje.
rasputin
Če razmišljamo malce naprej, bo inteligentno bitje na neorganski, elektromehanski osnovi veliko bolje prilagojeno za življenje kot mi, ljudje, ki praktično lahko živimo samo na našem planetu, ki ima primerno atmosfero, vodo, primerno temperaturo, dovolj biomase itd. Elektrmehansko živo bitje bo lahko živelo v nam nemogočih pogojih, kot so na primer na luni, marsu in na drugih planetih. Za svoje življenje bo potrebovalo zgolj energijo in surovine. Poleg tega si bo lahko življenje poljubno podaljševalo s enostavnimi popravili. Lahko bo tudi potovalo dolga leta po vesoljskih prostranskih. Človek je obsojen na izumrtje, ker se bo težko preselel kamorkoli v vesolju. Mehanska oblika življenja se bo nasprotno lahko razširila po vsem osončju in naprej po galaksiji. Umetno mehansko življenje je pravzaprav skoraj edina možnost, da življenje v vesolju, ki ni ravno naklonjeno organski obliki življenja, sploh lahko preživi.
P. Kos
Johnes je v poznih 60. napisal knjigo z naslovom Kolos.
Priporočam vsem, ki je niste prebrali.
Glede na to, da je vojska tista, ki namenja tej visoki tehnologiji največ sredstev, je "jasnovidnost" avtorja knjige morda celo realna in za ohranitev planera Zemlja edina realna.
V nasprotnem bo v sistemu preveč algoritmov, ki bodo iskali "escape" v udobje hedonizma.
rasputin
Vse, kar vemo o tem, kaj bo, ko bo nastala avtonomna umetna inteligenca, je to, da bo s tem nastalo popolnoma novo bitje, ki bo prevzelo v svoje roke oblast nad tem planetom. Kaj bo naredila z nami, sam Bog ve. Da bo UI naš pokoren služabnik, so lahko samo pobožne želje.
rasputin
V redu, bomo pač umetni inteligenci vcepili neka moralna načela. Odlična ideja! Kako pa?
************
Misija nemogoče. Skrajno naivno bi bilo misliti, da bo avtonomna UI sprejela kakšne omejitve pri svojem mišljenju, ki jih ji bodo vsilili ljudje. Saj to je ravno bistvo inteligence: avtonomno mišljenje. Ostalo je samo mehanično sledenje programu.
Komentiraj
Za objavo komentarja se morate prijaviti.