Umetna inteligenca v akademskem okolju: orodja za zaznavo UI nezanesljiva, meje nejasne

Sporna uporaba vse mogočnejših orodij z umetno inteligenco (UI) se širi – nazadnje je doletela tudi znanstveno skupnost. V svetu tehnologije se tako bije bitka med razvojem orodij z UI in orodij, ki lahko zaznajo ali preprečijo zlorabo teh.
Več o tem smo pisali v članku: Iz znanstvenih člankov pozabili izbrisati sledove ChatGPT
Poleg težav z UI je akademska skupnost na udaru z vidika plagiatorstva kot takega, zlasti univerza Harvard, na kateri je z mesta predsednice zaradi obtožb plagiatorstva in antisemitizma nedavno odstopila Claudine Gay. Tem obtožbam so sledili še drugi primeri Harvardovih raziskovalcev.
Tehnološko podjetje Turnitin, čigar programe številne univerze uporabljajo za preverjanje avtorstva v študentskih delih, je v luči vzpona LLM ponudilo tudi možnost zaznave UI.
Vse pogosteje se znajdem v položaju, ko sem ujet med programske izdelke in ljudi: med študenti in ChatGPT na eni strani, predavatelji in detektorji umetne inteligence na drugi.
Emily Isaacs, direktorica pisarne Državne univerze v Montclairu za odličnost, je lanskega novembra akademike pozvala proti uporabi detektorjev UI. Podobno so se odločili na več ameriških univerzah. »20 let nazaj si držal v rokah študentovo besedilo in si rekel 'vem, da to ni njegovo' – nisi ga mogel najti [na spletu], vendar si v srcu vedel, da ni njegovo,« se je spominjala Isaacsova, ki je za Insider Higher Education je pojasnila, da težava tiči v možnosti napačnih obtožb nedolžnih študentov, da so si v besedilu pomagali s ChatGPT ali podobnim orodjem.
Turnitinova glavna produktna vodja Annie Chechitelli je prav tako poudarila pomembnost odnosov med študenti in pedagogi, saj da zanašanje na orodja ni zadostno, pač pa so orodja »le manjši del sestavljanke«. Izpostavila je, da je bilo njihovo vodilo od nekdaj, da boljšega nadomestila za poznavanje študentovega sloga pisanja in ozadja ni.
V Turnitinu so sicer zatrdili, da je napačnih pozitivnih rezultatov približno 1 % ter da lahko orodje prav zato, ker jih poskušajo preprečiti, zgreši približno 15 % z UI ustvarjenega besedila v dokumentu. Po drugi strani pa se je več študentov še nedavno pritoževalo prav o nasprotnem. Decembra lani je študentka na spletu delila zgodbo o tem, kako je bilo njeno delo zaradi uporabe orodja za preverjanje črkovanja Grammarly napačno prepoznano za ustvarjeno z UI.
»Vse pogosteje se znajdem v položaju, ko sem ujet med programske izdelke in ljudi: študenti in ChatGPT na eni strani, predavatelji in detektorji umetne inteligence na drugi. Pravila zahtevajo, da eseje z visokim rezultatom na detektorjih UI prijavim zaradi akademske kršitve, kar lahko vodi do strmih kazni, vključno z izključitvijo,« je v kolumni za The Guardian lani zapisal Robert Topinka, predavatelj študijev medijev in kulture na Birkbecku, Univerzi v Londonu.
Profesor se je znašel v dilemi, ko je tak rezultat doletel njegovega odličnega študenta, ki je pisal dobre eseje tudi pred nastopom ChatGPT. Študent je obtožbe izpodbijal in trdil, da gre za napako.
Orodja zaenkrat nezanesljiva in meje dovoljenega nejasne
V Nature so že lani zapisali, da poteka bitka med razvojem UI in razvojem orodij za njihovo zaznavo. Na težave orodij so opozorili številni raziskovalci, med njimi tudi mednarodna skupina akademikov, ki je lanski julij ducat orodij za zaznavo umetne inteligence označila za »niti natančna niti zanesljiva« – vključno s Turnitinovim.
Skupina študentov Univerze v Marylandu je v istem mesecu ugotovila, da lahko orodja bodisi napačno označijo delo kot ustvarjeno z UI bodisi popolnoma zgrešijo parafrazirano besedilo, ki ga je generirala UI. Zaključili so, da orodja »niso uporabna v praktičnih situacijah«.
Novembra lani pa sta profesorja avstralske Univerze Adelaide za Times Higher Education z orodji izvedla eksperimente in ugotovila, da, čeprav so se nekatera odrezala znatno bolje od drugih, ne smemo predvidevati, da ne bodo nekateri študenti sposobni prelisičiti vseh, ne glede na njihovo prefinjenost.
Dodatno se zapleta zaradi vse pogostejše uporabe različnih orodij za preverjanje črkovanja. Elizabeth Steere, predavateljica angleščine na Univerzi v Severni Georgii, ki uporablja Turnitinov detektor UI, je za Insider dejala, da študentje pogosto ne vedo, da tudi orodje za parafraziranje uporablja UI: »Meje so zdaj precej bolj zamegljene; resnično sočustvujem s študenti, ker mi tega nismo imeli, ko smo bili v šoli.« Takšne trenutke uporabi za demonstracijo različnih stopenj plagiatorstva.
Izbrano za naročnike
Zadnje objave

Branje kot navada in razvada

O vinski trti, vinu in Slovencih, ki ga ne znamo po pameti piti

France Prešeren (6/12): »Ran mojih bo spomin in tvoje hvale ...«

[Gledali smo]: Spokorjena ljubica

[Prejeli smo] Zadeva Trenta je vkopana v slepi ulici

Babičin zdrobov puding z jabolki
Ekskluzivno za naročnike

Branje kot navada in razvada

France Prešeren (6/12): »Ran mojih bo spomin in tvoje hvale ...«
Prihajajoči dogodki
Odtisni svoj grb (počitniška ustvarjalnica za otroke)
Mladen Bogić: Porečanka (muzejsko predavanje)
Video objave
Izbor urednika

Trump ukinja ameriški denar tudi za slovenske nevladnike in leve politične aktiviste

Pozabljeni Slovenci - Benedikt Kuripečič

Kartagina mora biti porušena

4 komentarjev
lukaab
umetna inteligenca je smrt in poguba za človeštvo ! daleč daleč od boga !
rasputin
Trenutno je umetna inteligenca še propomoček človeku, kmalu pa utegne postati obratno in bo človek pomočnik UI. Na "koncu" bodo ljudje postali nepotreben pomočnik...
Hugo de Garis, eden od pionirjev pri razvoju umetne inteligence, v članku z naslovom "Artilektna vojna" napoveduje, da bomo imeli do konca tega stoletja vojno med artilekti (artificial intellect) in ljudmi.
V uvodnem povzetku članka piše:
"Članek postavlja tezo, da bo vprašanje "prevlade vrst" postalo glavno globalno politično vprašanje proti koncu tega stoletja. Človeštvo bo močno razdeljeno glede vprašanje, ali zgraditi božanske, superiorne inteligentne stroje, imenovane »artilekti« (umetni intelekti), ki bodo s tehnologijami 21. stoletja imeli mentalne sposobnosti trilijone bilijonov krat nad človeško ravnjo. Človeštvo se bo razdelilo v 3 glavne tabore: »kozmiste« (zagovornike gradnje artilektov), »terane« (nasprotnike artilektov) in »kiborge« (ki bodo želeli postati
sami artilekti z dodajanjem tehnoloških komponent svojim človeškim možganom).
»Artilektna vojna« med kozmisti in Terani bo konec 21. stoletja in bo pomorila ne
milijone, ampak milijarde ljudi."
https://agi-conf.org/2008/artilectwar.pdf
APMMB2
Preveč pameti škodi!
To lahko danes vidimo na vskem koraku.
Po zakonu je vsak akademski profesor dolžan pridobiti doktorat znanosti. Tako dobimo letno na tisoče in tisoče doktoratov.
Če bi naredili temeljito analizo, bi zlahka ugotovili, da jih je polovica potvorejenih,četrtina povsem nekoristnih, celo škodljivih in zelo, zelo mali del inovativnih, takšnih,ki sodijo v zakladnico svetovnega znanja.
Mirno lahko zatrdimo, da je doktorat nepotrebni formalizem, ki bolj škodi, kot koristi.
( Ali po škandalu z nakupom steklene podrtije še kdo verjame v pravno znanje doktorske ministrice?).
Zelo podobno je z umetno inteligenco. Bo v bodoče koristen pripomoček. Tudi zlorabljalo se jo bo.
Naj pa navedem pot v računalniško dobo.
Ko se je Mojca naučila uporabljati računalnik in spoznala koristnost interneta, je mami sporočila, da je recept za štrudl našla na internetu. Mama ,ki ni imela pojma za kaj gre, se je v soseski pohvalila in sosedi povedala: Naša Mojca pa je spekla štrudl z računalnikom!
Andrej Muren
Možnost plagiatorstva se bo z nastopom UI zagotovo močno povečala, po drugi strani pa tudi možnost krivičnih obsodb. Na drugi strani bo zelo olajšano iskanje dejstev v kateri koli panogi, bo pa tudi močna podpora intelektualni lenobi in verjetno se bo efektivno znanje posameznika zmanjšalo. Bolj dolgoročna grožnja je možnost zmanjševanje človekove inteligence, saj jo bo zaradi uporabe UI čedalje manj potreboval za preživetje.
Komentiraj
Za objavo komentarja se morate prijaviti.