Sú nástroje na detekciu textu generovaného umelou inteligenciou spoľahlivé?

Štúdia výskumného osemčlenného tímu zo siedmich krajín (DE, LV, SE, CZ, MX, UK) odpovedá na otázky, či existujúce detekčné nástroje, ktoré dokážu spoľahlivo rozlíšiť text písaným človekom a text generovaným umelou inteligenciou (UI). Výskum zahŕňa dvanásť voľne dostupných nástrojov a dva komerčné systémy (Turnitin a PlagiarismCheck), ktoré sú široko používané v akademickom prostredí.

Výskumný tím dospel k záveru, že skúmané detekčné nástroje nie sú presné ani spoľahlivé a majú sklon klasifikovať  text ako text písaný človekom a nie text generovaný UI. Štúdia prináša niekoľko významných prínosov:

  • sumarizuje aktuálne podobné vedecké a nevedecké snahy v tejto oblasti,
  • predstavuje výsledok jedného z najkomplexnejších testov, ktoré sa doteraz uskutočnili na základe dôslednej metodológie výskumu, pôvodného súboru dokumentov a širokého pokrytia nástrojov
  • diskutuje o dôsledkoch a nevýhodách používania detekčných nástrojov pre text generovaný UI v akademickom prostredí.

Zistenia štúdie silne naznačujú, že „jednoduché riešenie“ na detekciu textu generovaného UI neexistuje (a možno ani nemôže existovať). Preto navrhujú nezameriavať sa na detekčné stratégie, ale pedagógovia sa musia zameriavať na preventívne opatrenia a pokračovať v prehodnocovaní stratégií akademického hodnotenia, ktoré by sa malo zamerať skôr na proces rozvoja zručností študentov ako na finálny produkt (písomná práca).

Link na štúdiu: https://arxiv.org/ftp/arxiv/papers/2306/2306.15666.pdf

Klame sa nielen v politike

12.11.2024

Využiť nepozornosť spotrebiteľa a predávať, aj keď to má od poctivosti ďaleko.

Demokracia v kríze (nielen u nás) – pomôže reparát?

03.11.2024

Som tu hlavný a môžem si robiť čo chcem (západná demokracia). Som súčasťou väčšieho celku a musím brať ohľad aj na ostatných (reparatívna demokracia)

Peter Pellegrini

Pellegrini odcestuje do Lotyšska. Na vojenskej základni v Adaži navštívi slovenských vojakov

03.12.2024 17:44

Slovenskí vojaci tam pôsobia v rámci vojenskej misie NATO.

Kažimír

V procese s Kažimírom bude možno rozhodovať Súdny dvor EÚ, jeho obhajca v tom však vidí naťahovanie

03.12.2024 16:14

Proces s Kažimírom má na Špecializovanom trestnom súde v Pezinku pokračovať v pondelok 9. decembra.

asteroid

Na Zem sa rúti asteroid: Experti predpokladajú, že sa rozpáli nad Ruskom

03.12.2024 15:30

Do zemskej atmosféry vletí asteroid a podľa astronómov našu planétu Zem aj zasiahne.