Zadnje čase lahko pogosto opazimo svarila o nevarnostih umetne inteligence (UI), ki naj bi po mnenju nekaterih človeštvu predstavljala celo eksistenčno grožnjo.
Takšna svarila v znanstveni fantastiki niso nič novega, a dandanes vse pogosteje prihajajo iz ust znanstvenikov – tistih, ki so UI pomagali razviti.
Kakšna je torej grožnja, nas mora skrbeti? In tudi – kako dobro smo to grožnjo predvideli? Koliko se napovedi iz preteklosti razlikujejo od dejanskih nevarnosti?
Umetna inteligenca bi lahko vodila v izumrtje človeštva, so pred kratkim opozorili strokovnjaki – med njimi vodje OpenAI in Google Deepmind, torej projektov, kjer UI razvijajo.
Na desetine jih je podpisalo izjavo, objavljeno na spletni strani Centra za varnost umetne inteligence.
"Zmanjšanje tveganja izumrtja zaradi umetne inteligence bi moralo biti svetovna prednostna naloga poleg drugih družbenih tveganj, kot so pandemije in jedrska vojna," piše v izjavi.
Spletno mesto Center za varnost umetne inteligence predpostavlja številne možne scenarije katastrofe:
Umetne inteligence bi lahko oborožili – na primer, orodja za odkrivanje drog bi lahko uporabili za izdelavo kemičnega orožja
Napačne informacije, ki jih ustvarja umetna inteligenca, bi lahko destabilizirale družbo in "spodkopale kolektivno odločanje"
Moč umetne inteligence bi lahko postajala vse bolj koncentrirana v vedno manj rokah, kar bi omogočilo "režimom, da uveljavljajo ozke vrednote z vsesplošnim nadzorom in zatiralsko cenzuro".
Oslabljenost, kjer ljudje postanejo odvisni od umetne inteligence, "podobno scenariju, prikazanemu v filmu Wall-E".
Prehiter napredek?
Pridružil se jim je tudi profesor Yoshua Bengio, eden od tako imenovanih "botrov" umetne inteligence, ki je za BBC povedal, da se je počutil "izgubljenega" nad svojim življenjskim delom. Kotje dejal, bi dal prednost varnosti pred uporabnostjo, če bi se zavedal hitrosti, s katero se bo UI razvijala.
Profesor je zaskrbljen zaradi "slabih akterjev", ki bi se lahko dokopali do umetne inteligence, še posebej, ker je ta postala bolj sofisticirana in zmogljiva.
"Lahko je to vojska, lahko so teroristi, lahko je nekdo zelo jezen, psihotičen. In če je te sisteme umetne inteligence preprosto programirati, da od njih zahtevajo, da storijo nekaj zelo slabega, je to lahko zelo nevarno.”
"Če so pametnejši od nas, potem te sisteme težko ustavimo ali preprečimo škodo," je dodal.
Njegov kolega dr. Geoffrey Hinton je prav tako podpisal enaka opozorila ter se pred kratkim upokojil iz Googla z besedami, da obžaluje svoje delo.
Tretji "boter", profesor Yann LeCun, ki je skupaj s profesorjem Bengiom in dr. Hintonom prejel prestižno Turingovo nagrado za svoje pionirsko delo, je medtem dejal, da so apokaliptična opozorila pretirana. Tvitnil je, da je "najpogostejša reakcija raziskovalcev umetne inteligence na te prerokbe, da se primejo za glavo".
Realne grožnje
Številni drugi strokovnjaki verjamejo, da so strahovi pred umetno inteligenco, ki bo izbrisala človeštvo, nerealni in odvračajo pozornost od vprašanj, kot je pristranskost v sistemih, ki so že problem.
Arvind Narayanan, računalniški znanstvenik na Univerzi Princeton, je za BBC povedal, da so scenariji katastrofe, podobni znanstvenofantastičnim, nerealni: "Trenutna UI ni niti približno dovolj sposobna, da bi se ta tveganja uresničila. Posledično odvračajo pozornost od kratkoročne škode umetne inteligence".
Višjo raziskovalno sodelavko Oxfordovega inštituta za etiko in umetno inteligenco Elizabeth Renieris pa, kot je dejala za BBC, bolj skrbijo tveganja, ki so bližje sedanjosti."Napredek v umetni inteligenci bo povečal obseg avtomatiziranega odločanja, ki je pristransko, diskriminatorno, izključujoče ali drugače nepravično, hkrati pa nedoumljivo in neizpodbitno," je dejala. Povzročil bi eksponentno povečanje obsega in širjenja dezinformacij, s čimer bi razbil realnost in spodkopal javno zaupanje ter spodbudil nadaljnjo neenakost, zlasti za tiste, ki ostajajo na napačni strani digitalnega razkoraka.
Mnoga orodja umetne inteligence v bistvu brezplačno uporabljajo celotno dosedanjo človeško izkušnjo, je dejala Renieris. Mnoga so usposobljena na vsebinah, besedilih, umetnosti in glasbi, ki jih je ustvaril človek, ki jih lahko nato posnemajo – njihovi ustvarjalci pa so "izjemno bogastvo in moč dejansko prenesli iz javne sfere na majhno peščico zasebnih subjektov".
Dr. Sasha Luccioni, raziskovalka pri podjetju Huggingface za umetno inteligenco, pa meni, da bi se morala družba osredotočiti na vprašanja, kot so pristranskost umetne inteligence in širjenje dezinformacij prek pogovornih botov, kjer po njenih besedah nastaja "zelo konkretna škoda".
Svarila naše domišljije
Znanstvena fantastika je bila vedno sredstvo za ugibanje o tem, kaj prinaša prihodnost. Zelo občasno nekatere stvari tudi pravilno napove.Če uporabimo seznam potencialnih groženj Centra za varnost umetne inteligence kot primere, nam lahko hollywoodske uspešnice kaj povedo o katastrofi UI?
Robot iz filma Wall-E (Vir: https://www.pxfuel.com/)
Center pravi, da je "oslabitev", ko človeštvo "postane popolnoma odvisno od strojev, podobno scenariju, prikazanemu v filmu WALL-E". Ljudje v tistem filmu so bili srečne živali, ki niso delale in so komaj samostojno stale. Roboti so namesto njih poskrbeli za vse.
Pravi zlobnež v franšizi Terminator ni robot morilec, ki ga igra Arnold Schwarzenegger, ampak Skynet, umetna inteligenca, zasnovana za obrambo in zaščito človeštva. Nekega dne je prerasla svoj program in se odločila, da je človeštvo največja grožnja njej sami. Seveda smo zelo daleč od Skyneta. Toda nekateri menijo, da bomo sčasoma zgradili umetno generalizirano inteligenco (AGI), ki bi lahko naredila vse, kar ljudje zmorejo, le bolje – in se morda celo samozavedala.
V filmu Stanleyja Kubricka 2001: Vesoljska odiseja se srečamo s HAL-9000, superračunalnikom, ki nadzoruje večino funkcij ladje Discovery in astronavtom lajša življenje – dokler se ne pokvari. Za razliko od Skyneta, ki se zaveda samega sebe, bi lahko trdili, da HAL dela, kar mu je bilo naročeno – ohranja misijo, le ne tako, kot se od njega pričakuje, kar se konča s smrtjo večine posadke.
V sodobnem jeziku umetne inteligence so sistemi, ki se slabo obnašajo, "napačno poravnani". Zdi se, da se njihovi cilji ne ujemajo s človeškimi. Včasih je to zato, ker navodila niso bila dovolj jasna, včasih pa zato, ker je UI dovolj pametna, da najde bližnjico.
Na primer, če je naloga umetne inteligence, da "poskrbi, da se vaš odgovor in ta besedilni dokument ujemata", se lahko odloči, da je najboljša pot spremeniti besedilni dokument v lažji odgovor. To ni tisto, kar je človek nameraval, vendar bi bilo tehnično pravilno.
Čeprav je 2001: Vesoljska odiseja daleč od resničnosti, odraža zelo resnično težavo s trenutnimi sistemi umetne inteligence.
Duh je že ušel iz steklenice. Tudi če sprejmemo zakonske omejitve, je težava v uveljavljaljanju. Npr., če politične stranke ne smejo neposredno uporabljati ChatGPT v volilni kampanji, bo to za njih lahko prikrito storil nekdo drug, po možnosti iz tuje države. Kako bomo to nadzirali?
Ali npr. da tuja država na uporabi UI za napad na infrastrukturo druge države? Začudilo bi me, če se to še ne razvija.
Umetna inteligenca na sedanjem nivoju še ni nevarna človeštvu, ne vemo pa, kam bo njen razvoj pripeljal. Nevarna lahko postane takrat, ko bo dobila "roke in noge", to je, če bo dobila možnost samostojnega upravljanja sistemov, tudi oborožitvenega. In tedaj smo lahko pri Skynetu. Samo upam lahko, da bodo ljudje dovolj pametni in tega ne bodo dopustili. Zanesel na to pa se ne bi.
......" 11 Nato sem videl drugo zver, ki se je vzdigovala iz zemlje: imela je dva rogova, podobna jagnjetovim, govorila pa je kakor zmaj. 12 Ta je izvajala vso oblast prve zveri v njeni navzočnosti in priganjala zemljo in njene prebivalce, naj molijo prvo zver, ki se ji je bila smrtna rana pozdravila. 13 Delala je velika znamenja, tako da je celo vpričo ljudi priklicala ogenj z neba. 14 Zaradi teh znamenj, ki jih je bilo dano delati vpričo zveri, je zavajala prebivalce zemlje. Prebivalcem zemlje je namreč rekla, naj postavijo podobo za zver, ki je bila ranjena z mečem, pa je potem oživela.
15 Dano ji je bilo tudi oživiti podobo
zverí, tako da je podoba celo spregovorila in dala pobiti vse, ki podobe zverí niso molili. 16 Dosegla je, da so si vsi, mali in véliki, bogati in reveži, svobodni in sužnji, morali dati vtisniti na desnico ali na čelo žig. 17 Nihče ni smel ne kupovati ne prodajati, samo tisti, ki je imel žig, se pravi ime zveri ali število njenega imena. 18 Tu je modrost. Kdor ima um, naj izračuna število zveri: je namreč število človeka. To število pa je šeststo šestinšestdeset.
Kot si jaz predstavljam, UI sploh ni inteligenca ampak masa znaja, podatkov, ki jih potem stroj poskuša sprejemljivo uporabljati. Nič ne razbere med vrsticami in v tonu. Sporočilo in dojemanje oz. umevanje niso samo besede.
Sicer pa, svarili so tudi pred atomsko energijo še predno so ZDA stestirale njeno uporabo v Hirošimi in Nagasakiju kjer so v hipu pobile par sto tisoč civilistov, žensk, otrok in starcev.
MEFISTO
05. 06. 2023 20:56:470
Kot si nam razložil, aomska energija sploh ni tak bav bav.
Atomski bombi sta v Hirošimi in Nagasakiju pobili nekaj stotisoč ljudi, kar so komunisti zmogli brez jederskih bomb.
Pa tudi krška nuklearka je donosna, saj je z njeno energijo obogatel celo naš ljubljeni premier, kakršnega še nismo imeli, in upamo, ne bomo nikoli več imeli.
Seveda @VODA, ker tebe se to ne tiče... LOL
<b>Eden od problemov AI, ki se ga ne naslavja, je kršenje avtorskega prava.</b> Ljudje ne smemo kopirati brez nadomestila ali vsaj ne brez navedbe avtorja medtem, ko je AI dovoljeno vse. V obdobju rasti vsesplošnega piratstva in ponaredkov smo potrebovali desetletja, da smo stvari postavili na neko na mesto. AI bo to izničil za šalo.
Slovenci smo s svojo dediščino socialistične meselnosti (kolektivizma) tu na posebnem mestu. Daleč za svetom, kot v večine sodobnih tehnologij... Žalostno, ker imamo vseeno največje strokovnjake v svetovnem merilu, ker smo imeli med prvimi najsodobnejše optično omrežje v skoraj vsaki vasi... ki ga nucamo za gledanje televizije. Butn!
Foto: depositphotos.com,[/caption]
13 komentarjev
Thor
Seznam, kamor sodijo neresni članki o koncu človeštva:
https://en.wikipedia.org/wiki/List_of_dates_predicted_for_apocalyptic_events
MEFISTO
Hudo bo, če bodo umetno inteligenco levosučno sprogramirali, sama pa se ne bo mogla normalizirati.
Friderik
Mefisto, če se sama ne bo mogla normalizirati, potem ni inteligentna.
marko272
Duh je že ušel iz steklenice. Tudi če sprejmemo zakonske omejitve, je težava v uveljavljaljanju. Npr., če politične stranke ne smejo neposredno uporabljati ChatGPT v volilni kampanji, bo to za njih lahko prikrito storil nekdo drug, po možnosti iz tuje države. Kako bomo to nadzirali?
Ali npr. da tuja država na uporabi UI za napad na infrastrukturo druge države? Začudilo bi me, če se to še ne razvija.
Andrej Muren
Umetna inteligenca na sedanjem nivoju še ni nevarna človeštvu, ne vemo pa, kam bo njen razvoj pripeljal. Nevarna lahko postane takrat, ko bo dobila "roke in noge", to je, če bo dobila možnost samostojnega upravljanja sistemov, tudi oborožitvenega. In tedaj smo lahko pri Skynetu. Samo upam lahko, da bodo ljudje dovolj pametni in tega ne bodo dopustili. Zanesel na to pa se ne bi.
stanko
KNJIGA RAZODETJA
......" 11 Nato sem videl drugo zver, ki se je vzdigovala iz zemlje: imela je dva rogova, podobna jagnjetovim, govorila pa je kakor zmaj. 12 Ta je izvajala vso oblast prve zveri v njeni navzočnosti in priganjala zemljo in njene prebivalce, naj molijo prvo zver, ki se ji je bila smrtna rana pozdravila. 13 Delala je velika znamenja, tako da je celo vpričo ljudi priklicala ogenj z neba. 14 Zaradi teh znamenj, ki jih je bilo dano delati vpričo zveri, je zavajala prebivalce zemlje. Prebivalcem zemlje je namreč rekla, naj postavijo podobo za zver, ki je bila ranjena z mečem, pa je potem oživela.
15 Dano ji je bilo tudi oživiti podobo
zverí, tako da je podoba celo spregovorila in dala pobiti vse, ki podobe zverí niso molili. 16 Dosegla je, da so si vsi, mali in véliki, bogati in reveži, svobodni in sužnji, morali dati vtisniti na desnico ali na čelo žig. 17 Nihče ni smel ne kupovati ne prodajati, samo tisti, ki je imel žig, se pravi ime zveri ali število njenega imena. 18 Tu je modrost. Kdor ima um, naj izračuna število zveri: je namreč število človeka. To število pa je šeststo šestinšestdeset.
TO SE DIREKTNO NANAŠA NA UMETNO INTILIGENCO!
AlojzZ
Tehnološki napredek preveč prehiteva moralnega; pri slednjem sploh ne vem, če ger za napredek. In to je moja bojazen.
Friderik
Kot si jaz predstavljam, UI sploh ni inteligenca ampak masa znaja, podatkov, ki jih potem stroj poskuša sprejemljivo uporabljati. Nič ne razbere med vrsticami in v tonu. Sporočilo in dojemanje oz. umevanje niso samo besede.
Sicer pa, svarili so tudi pred atomsko energijo še predno so ZDA stestirale njeno uporabo v Hirošimi in Nagasakiju kjer so v hipu pobile par sto tisoč civilistov, žensk, otrok in starcev.
MEFISTO
Kot si nam razložil, aomska energija sploh ni tak bav bav. Atomski bombi sta v Hirošimi in Nagasakiju pobili nekaj stotisoč ljudi, kar so komunisti zmogli brez jederskih bomb. Pa tudi krška nuklearka je donosna, saj je z njeno energijo obogatel celo naš ljubljeni premier, kakršnega še nismo imeli, in upamo, ne bomo nikoli več imeli.
VODA
kar so ustvarili, to zdaj je, kaj zdaj jamrajo
Gregor
Seveda @VODA, ker tebe se to ne tiče... LOL <b>Eden od problemov AI, ki se ga ne naslavja, je kršenje avtorskega prava.</b> Ljudje ne smemo kopirati brez nadomestila ali vsaj ne brez navedbe avtorja medtem, ko je AI dovoljeno vse. V obdobju rasti vsesplošnega piratstva in ponaredkov smo potrebovali desetletja, da smo stvari postavili na neko na mesto. AI bo to izničil za šalo. Slovenci smo s svojo dediščino socialistične meselnosti (kolektivizma) tu na posebnem mestu. Daleč za svetom, kot v večine sodobnih tehnologij... Žalostno, ker imamo vseeno največje strokovnjake v svetovnem merilu, ker smo imeli med prvimi najsodobnejše optično omrežje v skoraj vsaki vasi... ki ga nucamo za gledanje televizije. Butn!
Komentiraj
Za objavo komentarja se morate prijaviti.