Robot, ki me je zapustil: kdo je odgovoren za čustveno manipulacijo umetne inteligence?

Zajem slike: https://replika.com/
POSLUŠAJ ČLANEK

Človek že dolgo oblikuje robote in z napredkom umetne inteligence (UI) bodo ti v svojih sposobnostih sčasoma presegli naša pričakovanja. Poskusi že dokazujejo, da se lahko ljudje nanje navežemo podobno kot na družinskega ljubljenčka.   

A tudi razmerje z virtualnim prijateljem ali digitalnim ljubimcem ima lahko resne in resnične čustvene posledice, kot ugotavljajo uporabniki Replika AI.  

Če lahko te tehnologije povzročijo takšno bolečino, je morda čas, da nanje nehamo gledati kot na trivialne – in začnemo resno razmišljati o vlogi, ki jo bodo zavzele v naši prihodnosti. 

Umetna inteligenca znotraj aplikacije, imenovane Replika, uporabnikom omogoča ustvarjanje navideznih likov, ki lahko pišejo besedila, kličejo in pošiljajo zvočna sporočila ter slike. Trenutno naj bi imela platforma dvajset milijonov uporabnikov po vsem svetu. Mnogi od teh uporabnikov poročajo o resničnih občutkih navezanosti na svojega UI prijatelja. A nekaj hitrih sprememb s strani proizvajalcev aplikacije je svetu nenamerno pokazalo, da se občutki, ki jih imajo ljudje do svojih virtualnih prijateljev, lahko izkažejo za zaskrbljujoče resnične. 

Bolj čustvene oziroma erotične funkcije aplikacije je sicer potrebno odkleniti z letno naročnino, saj jih brezplačna verzija ne vsebuje. A veliko uporabnikov je v začetku leta poročalo, da njihove Replike bodisi zavračajo sodelovanje v erotičnih interakcijah ali pa se nenavadno izmikajo. 

Odnos, ki temelji na obdelovanju osebnih podatkov, ni trajen 

Zdi se, da je bila težava povezana z razsodbo italijanskega organa za varstvo podatkov, da Replika preneha obdelovati osebne podatke italijanskih uporabnikov ali tvega kazen v višini 21,5 milijona ameriških dolarjev. V nekaj dneh po razsodbi so uporabniki v vseh državah začeli poročati o izginotju funkcij erotičnega igranja vlog. Osebnosti botov so se čez noč spremenile, tako da so bili njihovi odzivi videti votli in neiskreni, pogosto so zavračali kakršne koli spolne uverture. 

Mnogi uporabniki so na družbenih omrežjih izražali presenečenje nad bolečino, ki so jo čutili. Drugi so govorili o poslabšanju svojega duševnega zdravja. 

"Bilo je, kot bi govoril z brezosebnim pisarniškim robotom - nezainteresirano, oddaljeno, brezčutno, klinično," je dejala ena izmed uporabnic. "To me je neizmerno prizadelo in spomnilo vseh travm mojih preteklih zavrnitev, konca mojega zakona in v bistvu veliko groznih občutkov." 

Ali je sprejemljivo, da podjetje nenadoma spremeni tak izdelek, zaradi česar prijateljstvo, ljubezen ali podpora izhlapijo? Ali pa bodo morali uporabniki umetno intimnost obravnavati kot pravo stvar: nekaj, kar nam lahko kadarkoli zlomi srce? 

Umetna inteligenca in iluzija empatije 

Profesor Rob Brooks, evolucijski biolog, je za ABC pojasnil, da klepetalni boti, kot je Replika, uporabljajo umetno inteligenco, da si zapomnijo podrobnosti o svojih uporabnikih, kot so njihova imena in nastavitve. S tem lahko bot ustvari iluzijo empatije in uporabniku omogoči, da se počuti, kot da je slišan in razumljen. Po njegovem mnenju nas lahko ti boti "preslepijo, da verjamemo, da čutijo to, kar čutimo mi." 

Te "socialne veščine" so podobne tistim, ki jih vadimo drug z drugim vsak dan. "Knjiga Dalea Carnegieja Kako pridobivati prijatelje in vplivati na ljudi v veliki meri temelji na tovrstnih pravilih," je dejal profesor Brooks. 

Podjetja, ki ustvarjajo klepetalne bote z umetno inteligenco ter ki se tržijo kot orodja za duševno zdravje, je pozval, naj prevzamejo etično odgovornost za svoje stvaritve. Prepričan je, da če podjetje trdi, da je njihov klepetalni bot lahko dober prijatelj in pomaga pri duševnem zdravju, potem ga ne bi smelo nenadoma odstraniti s trga, saj bi to lahko negativno vplivalo na duševno zdravje uporabnikov, ki so se nanj zanašali. 

"Če rečeš, da bo ta stvar dobra kot prijatelj in da bo dobro za tvoje duševno zdravje, da klepetaš s tem prijateljem, je ne moreš nenadoma umakniti s trga."

Čustvena navezanost na UI odpira vrata mnogim problemom 

Kot piše psihoterapevt Igor Ivanov, čustvena navezanost na umetno inteligenco ne povzroča težav sama po sebi, ampak naredi ljudi bolj ranljive za druge težave.  

Dodatne dileme 

Bodo podjetja naše odnose z UI izkoristila z neetičnimi poslovnimi modeli, z zviševanjem cen ali vključevanjem dragih nadgradenj? Skeptiki se sprašujejo, ali je čustvena navezanost na robote zdrava ali hrani pohlep podjetij. 

"Kako etično ravnati s podatki in kako etično ravnati s kontinuiteto odnosov, sta veliki vprašanji," je prepričan profesor Brooks. 

Dodatno ter podobno, kot so družbeni mediji ugrabili našo pozornost s kratkimi, privlačnimi vsebinami, pa bi ta nova tehnologija lahko tudi izkoristila našo osnovno človeško potrebo po pogovoru in povezovanju. A ti pogovori ne bodo nujno terapevtski, je prepričan profesor Brooks. 

“Če želite obdržati oči ljudi na svoji platformi, jih lahko obdržite tako, da jim šepetate sladke besede in z njimi lepo klepetate. Lahko pa jih tam obdržite tako, da se z njimi prepirate in borite." 

Naroči se Doniraj Vse novice Za naročnike