Hva betyr EUs KI-forordning for skole og utdanning?

Alle skoler i EU må forholde seg til nye regler for kunstig intelligens. Skoler som bruker KI må sikre at systemene overholder loven. Det innebærer blant annet å risikovurdere KI-verktøy, sikre menneskelig kontroll og gi ansatte KI-opplæring. Her er de ti viktigste tiltakene skoleledere må iverksette nå.

Av Martin Johannessen

EUs KI-forordning er en omfattende regulering som skal sikre at kunstig intelligens utvikles og brukes på en måte som beskytter menneskerettigheter og samfunnssikkerhet. Loven bruker en risikobasert tilnærming og deler KI-systemer inn i fire kategorier:

1. Uakseptabel risiko: Systemer som utgjør alvorlige farer (f.eks. manipulerende algoritmer eller sosial poengscore) er helt forbudt.
2. Høy risiko: Systemer som påvirker kritiske sektorer som utdanning, må følge strenge krav til risikohåndtering, dokumentasjon og tilsyn.
3. Begrenset risiko: KI-applikasjoner i denne kategorien må være transparente, for eksempel ved å varsle brukere om at de samhandler med KI.
4. Minimal risiko: De fleste KI-applikasjoner faller inn her, med få reguleringer. Eksempler er KI i videospill og spamfiltre.

Nå trer de første delene av EUs KI-forordning i kraft. Det betyr mye for skole og utdanning. For alle som bruker KI-systemer i EU, eller tilbyr KI-tjenester til EU, trer del 1 og 2 av denne reguleringen i kraft 2. februar 2025. Dette betyr at systemer med uakseptabel risiko blir forbudt, høy-risiko systemer må risikovurderes og nødvendige tiltak settes inn, og alle ansatte må få opplæring i trygg bruk av KI.

Viktig for skoler
Alle KI-systemer som blir brukt i skolen, særlig med elever under 18 år, kan klassifiseres som høy risiko – selv systemer som vanligvis er lav- eller begrenset risiko, som chatboter. Skoler i EU må derfor umiddelbart iverksette tiltak for å sikre at de overholder KI-loven.

Loven handler ikke om å hindre skolene i å bruke KI til fordel for undervisningen, men om å sikre trygg og ansvarlig innovasjon innenfor klare rammer. De første årene med generativ KI har vært uten tilsyn – nå er det på tide å regulere teknologien for en tryggere og mer balansert bruk.

Ti tiltak for skoleledere

Darren Coxon i Kompass Education har laget en liste over ti tiltak skoleledere trenger for å forberede skolen på KI-forordningen:

1. Kartlegg hvilke KI-systemer som brukes: Gå gjennom alle KI-systemer i skolen – fra læringsanalyseverktøy til systemer for elevoppfølging – og vurder hvilken risikokategori de faller inn under.

2. Sikre åpenhet om KI-interaksjoner: Alle som bruker KI i skolen (elever, lærere og foreldre) må informeres om når de samhandler med en KI, f.eks. hvis KI brukes til karaktersetting eller rapportskriving. Dette skaper tillit og er et krav i loven.

3. Sørg for at høy-risiko KI-systemer følger lovens krav: Systemer som påvirker skoleplassering, karakterer eller atferdsanalyse må ha dokumentert risikovurdering og kvalitetssikring.

4. Etabler retningslinjer for databehandling: Sørg for at KI-systemer som bruker elevdata, behandler informasjonen på en korrekt og sikker måte, i tråd med GDPR og KI-lovens krav. Skolen har et medansvar for dette, ikke bare KI-leverandørene.

5. Dokumenter og overvåk bruken av KI: Skolen må kunne vise hvordan KI brukes og sikre sporbarhet i tilfelle klager eller gransking.

6. Sikre menneskelig kontroll over KI-beslutninger: Selv om KI brukes til vurderinger av elever, må sluttbeslutningen alltid tas av et menneske.

7. Tilpass skolens regler for automatiserte avgjørelser: Hvis KI brukes til å overvåke atferd eller elevprestasjoner, må det være klare retningslinjer for klageprosesser.

8. Gi ansatte, elever og foreldre opplæring i KI: Alle må forstå hvordan KI brukes i skolen og kjenne til sine rettigheter. Opplæring må starte i februar og være fullført innen august 2025.

9. Utpek en ansvarlig for KI-styring: Skolen bør ha en person med ansvar for å følge opp KI-bruken og sikre at skolen overholder loven.

10. Følg med på frister og nye retningslinjer: Loven har ulike tidsfrister for ulike systemer – hold deg oppdatert for å sikre etterlevelse.

Skoleledere må handle nå. Start med KI-opplæring for ansatte og utpek en ansvarlig for KI-styring. Dette kan ikke utsettes – alle skoler må ta KI-styring på alvor.

Les mer:

EU: Implementation Timeline

EU: The EU Artificial Intelligence Act

Regjeringen: Forordning om kunstig intelligens

Universitetet i Stavanger: KI-forordninga enkelt forklart