petrus

Časté sú otázky, či by sa mali používať detekčné nástroje na identifikáciu textu napísaného aplikáciou ChatGPT alebo inými aplikáciami s umelou inteligenciou. Existuje len málo skutočne vedeckých dôkazov o tom, že text vytvorený umelou inteligenciou možno efektívne detegovať.

Nástroje na detekciu textu napísaného umelou inteligenciou nie sú v skutočnosti spoľahlivé ani účinné. Bolo by múdre byť skeptický voči akýmkoľvek marketingovým tvrdeniam o opaku.

V správach sa objavujú informácie o študentoch, ktorí boli falošne obvinení z nevhodného správania, keď sa ako dôkaz použili výsledky nástrojov na detekciu textu písaného umelou inteligenciou. Takéto obvinenia z akademických priestupkov môžu byť pre študentov zničujúce.

Hoci nahlasovanie obvinení z nevhodného správania zostáva povinnosťou pedagógov, je nevyhnutné mať plne rozvinuté (a povinné) postupy riešenia takýchto prípadov a ich vyšetrovania. Rozhodnutia o tom, či došlo k nevhodnému správaniu, by sa mali prijímať starostlivo a premyslene s využitím riadneho procesu, ktorý sa riadi zavedenými smernicami.

Musíme mať na zreteli, že  text generovaný umelou inteligenciou možno revidovať a upravovať tak, že konečný produkt nie je ani úplne napísaný umelou inteligenciou, ani úplne napísaný človekom. Na univerzite, kde pôsobí autorka článku (S. E. Eaton, PhD) sa používanie technológie na odhaľovanie možných priestupkov nesmie používať skryto. Ak sa detekčné nástroje používajú post factum, možno to považovať za podvod zo strany profesora, pretože študenti neboli o tejto technológii informovaní pred odovzdaním hodnotenia.

Študenti sa môžu odvolať proti akémukoľvek prípadu pochybenia, ktorý bol predložený v súvislosti s použitím nezverejnených hodnotiacich nástrojov alebo technológií (a úprimne povedané, odvolanie by pravdepodobne vyhrali).

Ak očakávame, že študenti budú transparentne používať nástroje umelej inteligencie, potom je aj na pedagógoch a administrátoroch, aby boli transparentní pri používaní technológií umelej inteligencie pred hodnotením, a nie až po ňom. Technologické preteky v zbrojení v mene integrity sú proti etickému vyučovaniu a učeniu a môžu upevniť antagonistické a nepriateľské vzťahy medzi pedagógmi a študentmi.

Etické zásady na zisťovanie textu vytvoreného umelou inteligenciou v študentských prácach

Autorka článku nie je fanúšikom používania detekčných nástrojov na identifikáciu možných prípadov akademického pochybenia. Jej rada: ak trváte na používaní detekčných nástrojov, buďte pri ich používaní transparentní a otvorení.

Nižšie je infografika „Etické zásady detekcie textu vytvoreného umelou inteligenciou v študentských prácach“ (licencia Creative Commons: Attribution-NonCommercial-ShareAlike 4.0 International), ktorú môžete použiť a zdieľať.

Ako postupovať?

Najprv si skontrolujte svoje inštitucionálne pravidlá

Predtým, ako začnete používať akékoľvek nástroje na detekciu študentských prác, uistite sa, že používanie takýchto nástrojov je povolené v súlade so zásadami akademickej integrity vašej školy. Ak vaša škola takúto politiku nemá alebo ak sa používanie detekčných nástrojov v politike nespomína, neznamená to automaticky, že máte právo takéto nástroje tajne používať. Kontrola inštitucionálnych politík a smerníc je prvým krokom, ale nie je jediným krokom pri etickom uplatňovaní používania technológií pri hodnotení študentských prác.

Predpokladá sa, že na katedre alebo fakulte  je osoba majúca v náplni práce dohľad nad učebnými osnovami a záležitosťami týkajúcimi sa správania študentov. Skôr ako sa pustíte do nečestného používania detekčných nástrojov na prichytenie študentov pri podvádzaní, opýtajte sa osoby, ktorej podávate správu, či má námietky proti používaniu takýchto nástrojov. Ak má námietky, tak nepoužívajte detekčné nástroje. Aj keď súhlasí, stále je dôležité používať takéto nástroje transparentným a otvoreným spôsobom..

Zahrňte vyhlásenie o používaní detekčných nástrojov do osnovy predmetu/kurzu. Do osnovy  zahrňte jasné písomné vyhlásenie, ktoré zrozumiteľným jazykom presne uvádza, ktoré nástroje sa budú používať pri hodnotení študentských prác. Neinformovanie študentov písomne o používaní detekčných nástrojov pred ich použitím by mohlo predstavovať neetické hodnotenie, lebo detekčné nástroje by sa nemali používať tajne, ich použitie by sa malo študentom otvorene a transparentne písomne oznámiť pred začatím akéhokoľvek hodnotenia alebo klasifikácie. Takéto  hodnotenie je porušením akademickej integrity zo strany pedagóga. Ak chceme, aby študenti konali čestne, je na pedagógoch, aby sami boli vzorom etického správania.

Samozrejme, že písomné vyhlásenie v učebnom pláne kurzu nezbavuje pedagógov zodpovednosti za otvorené a úprimné rozhovory so študentmi. So študentmi sa otvorene a úprimne porozprávajte o tom, ako plánujete používať detekčné nástroje. Zdôraznite, že v osnove predmetu je písomné vyhlásenie a že máte podporu vedúceho katedry a inštitúcie na používanie týchto nástrojov. Voči študentom sa vyjadrujte otvorene a jasne. Je tiež dôležité zapojiť študentov do rozhovorov založených na dôkazoch o obmedzeniach nástrojov na odhaľovanie písania textov pomocou umelej inteligencie vrátane súčasného nedostatku empirických dôkazov o tom, ako dobre fungujú.

Autorka zdôrazňuje, že vôbec nepropaguje používanie akejkoľvek technológie na detekciu umelej inteligencie. V skutočnosti je proti používaniu technológií na sledovanie a detekciu, ktoré sa používajú na trestanie študentov, najmä ak sa to robí v mene vyučovania a učenia sa. Ak však chcete trvať na používaní technológie na odhaľovanie možných porušení akademickej integrity, potom to aspoň robte otvorene a transparentne – a priznajte, že samotné nástroje sú nedokonalé.

V žiadnom prípade by sa výsledky nástroja na detekciu písania textov za pomoci umelej inteligencie nemali používať ako jediný dôkaz v prípade obvinenia študenta z akademického pochybenia.

Zdroj:

The Use of AI-Detection Tools in the Assessment of Student Work