KI-genererte oppgaver blir ikke oppdaget

Kunstig intelligens setter utdanningen på prøve. Den representerer en betydelig trussel mot akademisk integritet. En ny studie viser at sensorer ikke klarer å skille mellom ekte studentarbeid og tekster generert av KI.

Av Martin Johannessen

Det finnes ingen KI-detektor som er presise nok, de er unøyaktige. Du er heller ikke en god KI-detektor. Å tro at du kan oppdage om elevene har brukt språkmodeller eller ikke er en feiltagelse. Du har kanskje oppdaget det et par ganger og tenkt "hei, jeg kjenner igjen tegnene!", men det meste av tiden har vi ingen anelse.

Uten pålitelige verktøy for å avsløre KI-generert tekst står utdanningssektoren overfor et dilemma. Skal vi forby KI i skolen, eller skal vi forsøke å integrere det i undervisningen? Å ignorere KI er ikke et alternativ, men å omfavne det uten forbehold kan svekke studentenes evne til å tenke kritisk og skape originalt arbeid.

I en studie ble sensorer, som ikke visste at de deltok i en studie, bedt om å vurdere oppgaver generert av kunstig intelligens (ChatGPT 4) sammen med vanlige studentoppgaver. Hele 94% av de KI-genererte oppgavene gikk uoppdaget. Det var også en 83,4% sjanse for at KI-oppgavene ville prestere bedre enn studentoppgavene.

Studien ble utført ved University of Reading i Storbritannia. Den avdekket at nesten alle eksamensbesvarelser generert av ChatGPT gikk ubemerket hen av sensorene. I tillegg presterte disse KI-genererte besvarelsene bedre enn de faktiske studentene.

Karakterene som ble gitt til KI-innleveringene, var i gjennomsnitt en halv karaktergrense høyere enn det som ble oppnådd av ekte studenter.

- Mange institusjoner har gått bort fra tradisjonelle eksamener for å gjøre vurderingene mer inkluderende. Forskningen vår viser at det er av internasjonal betydning å forstå hvordan kunstig intelligens vil påvirke integriteten til vurderinger, sier førsteamanuensis Peter Scarfe, en av hovedforfatterne av studien.

Å stole på læreren for å oppdage bruk av KI er ikke en bærekraftig løsning for å sikre læring. Deteksjonsprogramvaren er utilstrekkelig. Vi må innse at vi lever i en verden der vi ikke kan kontrollere bruken av KI utenfor overvåkede omgivelser.

I lys av disse utfordringene er det avgjørende at utdanningsinstitusjoner utvikler nye strategier for å håndtere bruken av KI i akademiske sammenhenger. Dette kan innebære å integrere KI-verktøy i undervisningen på en etisk og transparent måte, samt å fokusere på å utvikle studentenes kritiske tenkning og analytiske ferdigheter.

Videre forskning og dialog er nødvendig for å forstå de fulle implikasjonene av KI i utdanningen og for å sikre at teknologien brukes på en måte som fremmer læring og opprettholder akademisk integritet.

Akademia har stilt seg på bakbena når det gjelder å ta denne teknologien i bruk. Enkelte institusjoner kan ikke undervise studentene sine i hvordan man bruker verktøyene selv om studentene bruker dem. Morten Irgens tror dette er i endring, og at folk vil se hvilke muligheter forskning og undervisning har til å bli påvirket av KI.

Studien fra Reading peker på behovet for å finne nye måter å vurdere studenters kunnskap på. Den økende bruken av kunstig intelligens gjør hjemmeeksamener mer sårbare for juks. Forskerne foreslår en retur til mer kontrollerte eksamensformer eller utviklingen av nye, KI-resistente oppgaver.

Studien indikerer også at det å stole på at akademikere skal oppdage KI-generert innhold ikke er en pålitelig metode for å sikre læringens integritet.