Založ si blog

Detekcia textu vytvoreného umelou inteligenciou v študentských prácach (príklad z Kanady)

Časté sú otázky, či by sa mali používať detekčné nástroje na identifikáciu textu napísaného aplikáciou ChatGPT alebo inými aplikáciami s umelou inteligenciou. Existuje len málo skutočne vedeckých dôkazov o tom, že text vytvorený umelou inteligenciou možno efektívne detegovať.

Nástroje na detekciu textu napísaného umelou inteligenciou nie sú v skutočnosti spoľahlivé ani účinné. Bolo by múdre byť skeptický voči akýmkoľvek marketingovým tvrdeniam o opaku.

V správach sa objavujú informácie o študentoch, ktorí boli falošne obvinení z nevhodného správania, keď sa ako dôkaz použili výsledky nástrojov na detekciu textu písaného umelou inteligenciou. Takéto obvinenia z akademických priestupkov môžu byť pre študentov zničujúce.

Hoci nahlasovanie obvinení z nevhodného správania zostáva povinnosťou pedagógov, je nevyhnutné mať plne rozvinuté (a povinné) postupy riešenia takýchto prípadov a ich vyšetrovania. Rozhodnutia o tom, či došlo k nevhodnému správaniu, by sa mali prijímať starostlivo a premyslene s využitím riadneho procesu, ktorý sa riadi zavedenými smernicami.

Musíme mať na zreteli, že  text generovaný umelou inteligenciou možno revidovať a upravovať tak, že konečný produkt nie je ani úplne napísaný umelou inteligenciou, ani úplne napísaný človekom. Na univerzite, kde pôsobí autorka článku (S. E. Eaton, PhD) sa používanie technológie na odhaľovanie možných priestupkov nesmie používať skryto. Ak sa detekčné nástroje používajú post factum, možno to považovať za podvod zo strany profesora, pretože študenti neboli o tejto technológii informovaní pred odovzdaním hodnotenia.

Študenti sa môžu odvolať proti akémukoľvek prípadu pochybenia, ktorý bol predložený v súvislosti s použitím nezverejnených hodnotiacich nástrojov alebo technológií (a úprimne povedané, odvolanie by pravdepodobne vyhrali).

Ak očakávame, že študenti budú transparentne používať nástroje umelej inteligencie, potom je aj na pedagógoch a administrátoroch, aby boli transparentní pri používaní technológií umelej inteligencie pred hodnotením, a nie až po ňom. Technologické preteky v zbrojení v mene integrity sú proti etickému vyučovaniu a učeniu a môžu upevniť antagonistické a nepriateľské vzťahy medzi pedagógmi a študentmi.

Etické zásady na zisťovanie textu vytvoreného umelou inteligenciou v študentských prácach

Autorka článku nie je fanúšikom používania detekčných nástrojov na identifikáciu možných prípadov akademického pochybenia. Jej rada: ak trváte na používaní detekčných nástrojov, buďte pri ich používaní transparentní a otvorení.

Nižšie je infografika „Etické zásady detekcie textu vytvoreného umelou inteligenciou v študentských prácach“ (licencia Creative Commons: Attribution-NonCommercial-ShareAlike 4.0 International), ktorú môžete použiť a zdieľať.

Ako postupovať?

Najprv si skontrolujte svoje inštitucionálne pravidlá

Predtým, ako začnete používať akékoľvek nástroje na detekciu študentských prác, uistite sa, že používanie takýchto nástrojov je povolené v súlade so zásadami akademickej integrity vašej školy. Ak vaša škola takúto politiku nemá alebo ak sa používanie detekčných nástrojov v politike nespomína, neznamená to automaticky, že máte právo takéto nástroje tajne používať. Kontrola inštitucionálnych politík a smerníc je prvým krokom, ale nie je jediným krokom pri etickom uplatňovaní používania technológií pri hodnotení študentských prác.

Predpokladá sa, že na katedre alebo fakulte  je osoba majúca v náplni práce dohľad nad učebnými osnovami a záležitosťami týkajúcimi sa správania študentov. Skôr ako sa pustíte do nečestného používania detekčných nástrojov na prichytenie študentov pri podvádzaní, opýtajte sa osoby, ktorej podávate správu, či má námietky proti používaniu takýchto nástrojov. Ak má námietky, tak nepoužívajte detekčné nástroje. Aj keď súhlasí, stále je dôležité používať takéto nástroje transparentným a otvoreným spôsobom..

Zahrňte vyhlásenie o používaní detekčných nástrojov do osnovy predmetu/kurzu. Do osnovy  zahrňte jasné písomné vyhlásenie, ktoré zrozumiteľným jazykom presne uvádza, ktoré nástroje sa budú používať pri hodnotení študentských prác. Neinformovanie študentov písomne o používaní detekčných nástrojov pred ich použitím by mohlo predstavovať neetické hodnotenie, lebo detekčné nástroje by sa nemali používať tajne, ich použitie by sa malo študentom otvorene a transparentne písomne oznámiť pred začatím akéhokoľvek hodnotenia alebo klasifikácie. Takéto  hodnotenie je porušením akademickej integrity zo strany pedagóga. Ak chceme, aby študenti konali čestne, je na pedagógoch, aby sami boli vzorom etického správania.

Samozrejme, že písomné vyhlásenie v učebnom pláne kurzu nezbavuje pedagógov zodpovednosti za otvorené a úprimné rozhovory so študentmi. So študentmi sa otvorene a úprimne porozprávajte o tom, ako plánujete používať detekčné nástroje. Zdôraznite, že v osnove predmetu je písomné vyhlásenie a že máte podporu vedúceho katedry a inštitúcie na používanie týchto nástrojov. Voči študentom sa vyjadrujte otvorene a jasne. Je tiež dôležité zapojiť študentov do rozhovorov založených na dôkazoch o obmedzeniach nástrojov na odhaľovanie písania textov pomocou umelej inteligencie vrátane súčasného nedostatku empirických dôkazov o tom, ako dobre fungujú.

Autorka zdôrazňuje, že vôbec nepropaguje používanie akejkoľvek technológie na detekciu umelej inteligencie. V skutočnosti je proti používaniu technológií na sledovanie a detekciu, ktoré sa používajú na trestanie študentov, najmä ak sa to robí v mene vyučovania a učenia sa. Ak však chcete trvať na používaní technológie na odhaľovanie možných porušení akademickej integrity, potom to aspoň robte otvorene a transparentne – a priznajte, že samotné nástroje sú nedokonalé.

V žiadnom prípade by sa výsledky nástroja na detekciu písania textov za pomoci umelej inteligencie nemali používať ako jediný dôkaz v prípade obvinenia študenta z akademického pochybenia.

Zdroj:

The Use of AI-Detection Tools in the Assessment of Student Work

Úspešné zlyhávanie slovenských vlád

21.02.2024

Všetky vlády u nás úspešne zlyhávajú v boji proti propagácii podvodov.

Nenásytný Bermudský trojuholník sa presunul na Slovensko

18.02.2024

Pohlcuje morálku, etiku, základnú úctu.

Hlas väčšiny nie je dôkazom spravodlivosti

12.02.2024

Stále opakovanie istých tvrdení môže vzbudiť dojem ich pravdivosti v časti publika hlavne vtedy, ak ich prednáša ich populárny líder.

trump

Súd nariadil Trumpovi za nafukovanie majetku zaplatiť s úrokmi 454 miliónov dolárov

23.02.2024 22:38

Podľa sudcu firma Trump Organization niekoľko rokov vytvárala nepravdivé majetkové priznania v snahe zaistiť si lepšie podmienky na pôžičky alebo poistenie.

A-50

Rusom sme zostrelili ďalšie lietadlo za 350 miliónov dolárov, tvrdia Ukrajinci. Pred vojnou ich mali deväť

23.02.2024 21:04

"A-50 s volacím znakom Bajan dolietal! Blahoželáme okupantom k sviatku obrancov vlasti!" ironicky poznamenal ukrajinský veliteľ.

čaputová

Čaputová: Musíme využiť všetky možnosti na obhajovanie ľudskej dôstojnosti

23.02.2024 20:19

Prezidentka sa v Dubnici stretla aj s primátorom mesta Petrom Wolfom.

Zdiar I

SHMÚ varuje pred víchricou na horách, platia aj výstrahy pred dažďom

23.02.2024 18:44

V okresoch Michalovce a Trebišov zase platí výstraha druhého stupňa pred povodňami.

julius petrus

Štatistiky blogu

Počet článkov: 95
Celková čítanosť: 163937x
Priemerná čítanosť článkov: 1726x

Autor blogu

Kategórie