Smo lahko (le) prijatelji? Ko že šibka umetna inteligenca nadigra človeka

Obe igri sta izrazito matematični, lahko izračunljivi in z natančno določenimi pravili.
>>>>
Zelo zelo se motiš. Saj ravno to je zanimivo: možnosti pri igri go je toliko (menda več kot je atomov v vesolju), da niti najbolj zmogljivi superračunalniki ne morejo zaporedno preveriti vseh možnosti in potem izbrati najboljšo potezo. Računalnik mora izbrati potezo, za katero domneva, da je dobra, podobno kot človek. In vendar je računalnik premagal najboljše igralce goja. Se pravi, da ne zgolj mehanično "računa", temveč misli na podoben način kot človek.
Kar zadeva zavesti, pa znanost nima teorije zavesti. Nihče ne ve, kaj zavest sploh je. Zato ne moremo vnaprej reči, da umetna inteligenca ne bo imela lastnosti zavesti. Da zavest obstaja, pa je dejstvo. Če jo je narava ustvarila z evolucijo, je to mogoče ponoviti.
Nekateri pravijo, da s tem, ko so računalniški programerji naredili programe, ki se sami nadgrajujejo, tako da nihče več ne ve, kako sploh delujejo, so pravzaprav ustvarili avtonomno umetno inteligenco. Ta se razvija sama in to s hitrostjo, ki ji nihče ne more slediti.
https://www.youtube.com/watch?v=mhutZM8Hmt8

Prijeten članek za branje o odličnih napredkih na področju računalništva, ki je trenutno zelo popularno. Manjka mi le nekoliko bolj konkretna definicija in razlaga inteligence programov, pomanjkljivost katere se avtor sicer zaveda, vendar je za laika vseeno nujno potrebna.

Trenutna umetna inteligenca je od resnične inteligence zelo daleč in je včasih kar nekoliko nerodno uporabiti besedo "inteligenca" za program, ki dobro odigra partijo goja ali šaha. Obe igri sta izrazito matematični, lahko izračunljivi in z natančno določenimi pravili. Tak problem je kot nalašč za spisati program, ki ga bo efektivno rešil. Dobro se je zavedati, da to ni nekaj novega - šahovski programi so prisotni že vrsto let npr. spomnim se, da smo v mojem otroštvu doma imeli šahovsko igro Fritz, kjer se je dalo nastaviti zahtevnost programa. Pa temu nikoli ne bi rekel inteligenca. Vprašamo se lahko že, kako določamo inteligenco živim bitjem. Zakaj rečemo, da so nekatere živali inteligentnejše? Primer so lahko delfini, ki so se sposobni zabavati in igrati, ali pa opice, ki uporabljajo orodje. Pri živalih in ljudeh je torej inteligenca pogojena s tem, da se zavedamo samega sebe in okolice ter se znamo v njo umestiti, jo raziskovati, uporabiti in biti v odnosu z drugimi. Ravno zavest in zavedanje samega sebe sta največji prepreki pri ustvarjanju dejanske inteligence. Od raziskave obojega smo še izredno daleč, do takrat pa so to programi, ki zmorejo obdelati ogromno količino podatkov pod določenimi pravili in pogoji.

Seveda imajo vsi programi lahko napake in posledice le-teh so odvisne od njihove kritičnosti v naši infrastrukturi (že sedaj imajo avti veliko programskih komponent, ki nadzirajo vožnjo). Ampak smo še vedno zelo daleč od nevarnosti, da bi nam zavladal Skynet. Nenazadnje tudi zmogljivost superračunalnikov še ni na nivoju zmogljivosti (kaj šele ucinkovitosti) človeških možganov.

Za zaključek še misel glede avtonomnih vozil. Močno dvomim, da bomo resnično avtonomen promet doživeli še v tem stoletju. Poleg vprašanja nosilca odgovornosti, ki je zaenkrat še vedno voznik, so tudi povsem nerešljiva vprašanja. Kako naj ravna avto, če pride do situacije, ko je levo stena, desno na cestišču pa otrok? Ali naj povozi otroka ali naj se v stilu kamikaze zaleti v steno? Kaj če je namesto otroka odrasla oseba, starostnik, skupina ljudi, ...? Tovrstnih vprašanj je preveč, da bi lahko našim avtomobilom podali odgovore.

A je umetna inteligenca že prevzela komando na Domovini? oddanih komentarjev kar ni in ni...?

Ni nemogoče, da je atomska bomba predzadnji znani primer kolektivne samodestruktivnosti in da je Covid zadnji ali med zadnjimi znanimi.

Igrati se boga in ustvariti novega, ki bo "starega" v nepredvidljivi in nepredstavljivi meri (tudi nori?) presegal, je precej samodestruktivno ravnanje. Res je, da to ne bi bilo prvič (zadnje doslej je bila atomska bomba, kjer smo še vedno na nezavarovanem robu prepada!) lahko pa, da zadnjič. Štafeto razuma delegirati drugemu - tako rekoč pod geslom "novi obrazi!" Sledil bo naš izbris, ker bomo novemu bogu nerazumen strošek. Hecno, pravega Boga nočemo, sami pa bi se takoj predali v roke novemu, ki nas bo v vsem (?) neobvladljivo presegal. Ne pomeni to, da smo slab gospodar? Nesposobni zadržati svoj razum? Zemlja nam je dana v "obdelovanje in varovanje" mi bi pa vse to nerazumno velikodušnk podarili neznanemu tretjemu? Moj oče se obrača v grobu in ječi: "Adijo pamet!" Kadar Bog kaznuje, mu najprej vzame razum, a ne?

"Ko že šibka umetna inteligenca nadigra človeka"

Pa saj je tudi šibak motor hitrejši od nas, pa vseeno tečemo ... za zdravje.

Ko bo umetna inteligenca prehitela človeka, bomo na milost in nemilost prepuščeni njej.
Potem se bodo lahko zgodili vsi tisti črni scenariji, ki jih napovedujejo pisci znanstvene fantastike, namreč uničenje človeštva.
V benevolentno, altruistično in servilno umetno inteligenco verjamejo samo ljudje kot je Ray Kurzweil, ki bi rad igral boga na zemlji z njeno pomočjo.