6 gode råd til etisk forsvarlig bruk av kunstig intelligens i undervisningen
Av Per Størup Lauridsen / Viden.ai
Kunstig intelligens finnes nå i mange forskjellige undervisningsverktøy, og her bør lærere gjøre en rekke etiske overveielser før de begynner å introdusere AI i undervisningen. Derfor har vi i denne artikkelen samlet en rekke gode råd om hvordan du velger verktøy til undervisning på et etisk grunnlag.
1. Gir det mening å bruke kunstig intelligens i mitt fag?
Gir kunstig intelligens faktisk noe mer til elevens læring, eller gjør vi det fordi det er nytt og smart? For tiden er det et eksternt press om at alle skal ha tatt stilling til kunstig intelligens, men også at teknologien bør/skal inkluderes i undervisningen. Men vi skal ikke digitalisere for digitaliseringens skyld, og de nye verktøyene skal brukes når de bidrar til å forme elevenes teknologiforståelse. Denne læringen kan også være faglig, der elevene sammen med læreren utforsker teknologien med faglige briller for å se muligheter, men også for å se utfordringene. Her vil det være en nyhetseffekt fordi vi inkluderer ny teknologi i fagene våre, og vi kan derfor bli blendet av at det er nytt og smart. Det betyr ikke at vi skal droppe vår vanlige undervisning bare fordi det har kommet en ny teknologi. Vi skal bare velge eller velge bort kunstig intelligens når det gir mening i vår undervisning.
Vi trenger heller ikke alltid å være først ute bare fordi det kommer en ny teknologi. Derfor handler det også om hvorvidt man personlig og faglig kan henge med.
2. Undersøk hvordan kunstig intelligens fungerer
Før man begynner å bruke kunstig intelligens i undervisningen, er det viktig å forstå hvordan teknologien fungerer. Uansett om det er ChatGPT, en app eller et plugin til et læringsstyringssystem, vil det alltid være en underliggende teknologi som styrer det genererte utfallet.
Alle programmene og nettsider som er beriket med kunstig intelligens, vil ha sine styrker og svakheter. For eksempel er det ikke mange som kan forklare hvordan en språkmodell fungerer uten å bli for tekniske, men det er nødvendig å forstå det grunnleggende for å fjerne det "magiske" sløret rundt chatbots. Til syvende og sist er alt basert på statistikk, matematikk, en rekke algoritmer og menneskelig trening.
I tillegg har de mange forskjellige verktøyene sine fordeler og ulemper. For eksempel stoppet ChatGPT med å samle inn data i september 2021, noe som betyr at den ikke har noe kunnskap om krigen i Ukraina. ChatGPT-3.5 har også store problemer med kilder, og i dette tilfellet ville det være bedre å bruke Bing Chat. Det vil også være stor forskjell på om man bruker en kunstig intelligens som er trent på vitenskapelige tekster i en lukket vitenskapsdatabase, eller om den gjør søk på internettet.
Alle programmene og nettsider som er beriket med kunstig intelligens, vil ha sine styrker og svakheter. For eksempel er det ikke mange som kan forklare hvordan en språkmodell fungerer uten å bli for tekniske, men det er nødvendig å forstå det grunnleggende for å fjerne det "magiske" sløret rundt chatbots. Til syvende og sist er alt basert på statistikk, matematikk, en rekke algoritmer og menneskelig trening.
I tillegg har de mange forskjellige verktøyene sine fordeler og ulemper. For eksempel stoppet ChatGPT med å samle inn data i september 2021, noe som betyr at den ikke har noe kunnskap om krigen i Ukraina. ChatGPT-3.5 har også store problemer med kilder, og i dette tilfellet ville det være bedre å bruke Bing Chat. Det vil også være stor forskjell på om man bruker en kunstig intelligens som er trent på vitenskapelige tekster i en lukket vitenskapsdatabase, eller om den gjør søk på internettet.
Det er dyrt å utvikle og trene modeller, da det krever enorme databehandlingsressurser, et stor datagrunnlag og mye menneskelig trening. Det anslås at ChatGPT koster rundt 7,1 millioner norske kroner per dag i serverkostnader, og derfor må det også tjenes penger på modellen.
OpenAI har lansert en API for deres GPT-modell, og det er hovedsakelig grunnlaget for de fleste programmer som er beriket med kunstig intelligens. En API er en standardisert måte å utveksle data mellom IT-systemer, noe som gjør det veldig enkelt for utviklere å lage nye programmer som bruker data fra OpenAI.
Derfor ser vi mange programmer for tiden, som på overflaten ser ut som om de har laget sin egen kunstig intelligens, men under overflaten drives (og styres) alt av OpenAI. Grunnen til at noen av disse programmene er gode til et spesielt fag, kan simulere å være en kjent person eller kan være kundeservice i en bedrift, er måten de har blitt trent. Her har utviklerne satt rammer for kunstig intelligens og trent den til et bestemt domene. Deretter har de lansert sin egen kunstig intelligens som sitt eget "unike" produkt. Derfor ser vi også mye makt lagt i hendene på et selskap som kan bestemme retningen for mange små selskaper.
Man bør derfor stille en rekke spørsmål før man velger å bruke kunstig intelligens i undervisningen:
OpenAI har lansert en API for deres GPT-modell, og det er hovedsakelig grunnlaget for de fleste programmer som er beriket med kunstig intelligens. En API er en standardisert måte å utveksle data mellom IT-systemer, noe som gjør det veldig enkelt for utviklere å lage nye programmer som bruker data fra OpenAI.
Derfor ser vi mange programmer for tiden, som på overflaten ser ut som om de har laget sin egen kunstig intelligens, men under overflaten drives (og styres) alt av OpenAI. Grunnen til at noen av disse programmene er gode til et spesielt fag, kan simulere å være en kjent person eller kan være kundeservice i en bedrift, er måten de har blitt trent. Her har utviklerne satt rammer for kunstig intelligens og trent den til et bestemt domene. Deretter har de lansert sin egen kunstig intelligens som sitt eget "unike" produkt. Derfor ser vi også mye makt lagt i hendene på et selskap som kan bestemme retningen for mange små selskaper.
Man bør derfor stille en rekke spørsmål før man velger å bruke kunstig intelligens i undervisningen:
- Hva er datagrunnlaget som kunstig intelligens er trent på?
- Er det mulig å få kilder til det som blir generert?
- Hvem står bak teknologien?
Når man bestemmer seg for å bruke et nytt verktøy i undervisningen, er det avgjørende å vurdere lærerens rolle for å unngå at kunstig intelligens undergraver lærerens autoritet.
Her er noen etiske spørsmål som lærere kan stille seg selv før de introduserer kunstig intelligens i undervisningen. Skolens ledelse kan for øvrig også ha svar på noen av disse spørsmålene:
- Skal læreren overvåke og justere de anbefalingene som kunstig intelligens gir elevene, for å sikre at de er relevante og passende?
- Hvordan håndteres potensiell feilinformasjon eller mangel på kontekst som kunstig intelligens kan generere?
- Hvordan kan læreren bruke kunstig intelligens til å differensiere undervisningen og møte elevenes individuelle behov og forutsetninger?
- Skal læreren være passiv mens elevene arbeider med et verktøy og bare gi støtte hvis de trenger hjelp?
Man må hele tiden sørge for å opprettholde lærerens funksjon i klasserommet og ikke la kunstig intelligens ta over områder som krever menneskelig empati eller handlekraft. Derfor vil et råd være å velge verktøy hvor læreren har en funksjon og kan støtte elevene. Læreren bør også ha en klart definert rolle, hvor han/hun følger opp på det faglige innholdet som elevene har arbeidet med og dermed sikrer at undervisningen forblir meningsfull og engasjerende.
Hvis man velger å inkludere kunstig intelligens i undervisningen, er det derfor viktig å vurdere hvordan lærer-elev-forholdet bevares.
4. Undersøk og velg de riktige verktøyene for ditt fagområde
Det finnes mange verktøy som kan integreres i undervisningen, men ofte brukes de samme verktøyene til alle oppgaver. Ta deg tid til å undersøke de forskjellige mulighetene innenfor ditt fagområde og vær nysgjerrig.Hvis man velger å inkludere kunstig intelligens i undervisningen, er det derfor viktig å vurdere hvordan lærer-elev-forholdet bevares.
I matematikk kan ChatGPT for eksempel brukes til å opprette oppgaver til elevene, men den er ikke optimal for å utføre beregninger, ettersom det er en språkmodell. OpenAI jobber imidlertid med å implementere plugins som gjør det mulig å koble ChatGPT sammen med WolframAlpha (Dette er nå tilgjengelig for enkelte Plus-abonnenter - min anm.).
Når det kommer til bildegenerering i kreative fag, har verktøy som MidJourney, BlueWillow og DALL-E 2 allerede innebygd et etisk regelsett i bildene som produseres. Dette bidrar til å sikre at verktøyene som brukes i undervisningen, oppfyller etiske standarder (amerikanske). Man må imidlertid være oppmerksom på at Midjourney og BlueWillow bruker Discord som plattform, og det kan derfor være problemer med GDPR.
👉 Les mer: Generativ AI lager bilder (Viden.ai)
5. Undersøk om teknologien samler inn elevdata
Den store utfordringen med alle verktøyene som finnes, er at det går så fort at vi ikke rekker å undersøke hvilke data de samler inn. Det er viktig å være kritisk og avvise en teknologi hvis det ikke kan gis en redegjørelse for hvor dataene blir oppbevart, eller hvor man kan få en databehandleravtale.
Vi ser at Microsoft og Google begynner å berike programmene sine med kunstig intelligens, og det er sannsynlig at de vil gjøres tilgjengelige for elevene. Dette betyr imidlertid ikke at vi bare skal tro at alle regler blir overholdt, og vi må vurdere om vi ønsker å bruke disse systemene i undervisningen.
Det er også verdt å vurdere om vi ønsker at elevene skal være en del av et uregulert masseeksperiment som brukes til å trene nye kunstige intelligenser.
Vi ser at Microsoft og Google begynner å berike programmene sine med kunstig intelligens, og det er sannsynlig at de vil gjøres tilgjengelige for elevene. Dette betyr imidlertid ikke at vi bare skal tro at alle regler blir overholdt, og vi må vurdere om vi ønsker å bruke disse systemene i undervisningen.
Det er også verdt å vurdere om vi ønsker at elevene skal være en del av et uregulert masseeksperiment som brukes til å trene nye kunstige intelligenser.
- Hvilke teknologiselskaper deler jeg mine elevers opplysninger med?
- Hva kan og får vi bruke kunstig intelligens til?
- Har skolen vår en databehandleravtale med det aktuelle selskapet?
Man bør være oppmerksom på om verktøyene har samfunnsmessige skjevheter, etniske bias, kjønnsstereotyper osv. Hvis treningdataene som kunstig intelligens er trent på er skjeve, vil den sannsynligvis overføre disse skjevhetene til utdataen den genererer. Dette betyr for eksempel at hvis modellen er trent på tekster skrevet av mannlige forfattere, er det mulig at den vil være forutinntatt i forhold til mannlige karakteristikker eller perspektiver. Et annet eksempel er Googles bildegjenkjenningsalgoritme som feilidentifiserte personer med farget hud som primater.
Det kan også være utfordringer hvis språkmodellen, basert på språkmønstrene i treningsdataene, viser en mer positiv eller negativ holdning til ulike befolkningsgrupper.
Det ovennevnte er noen av grunnene til at språkmodeller av og til feiler i utdataen sin, men vi må være klar over at disse skjevhetene og biasene påvirker det våre elever leser. Ifølge OpenAI er dette noe man må ta med i betraktningen hvis man ønsker å bruke modellen deres. Men etter hvert som flere bruker teknologien, blir den også bedre på å sikre innholdet brukerne blir presentert.
Men, og det er et "men", selv om den blir bedre til å filtrere ut ting som kan virke støtende, er det fortsatt en amerikansk etikk som ligger til grunn for språkmodellene. Prøv for eksempel å spørre om abortspørsmålet. Her vil den slite med å gi et svar.
På den andre siden finnes det også modeller som er fri for all etikk, noe som betyr at de kan skrive om hva som helst. Dette kan også være problematisk, fordi det ikke finnes noe filter, og man må være svært forsiktig. For eksempel har vi laget noen forespørsler til denne språkmodellen.
Det kan også være utfordringer hvis språkmodellen, basert på språkmønstrene i treningsdataene, viser en mer positiv eller negativ holdning til ulike befolkningsgrupper.
Det ovennevnte er noen av grunnene til at språkmodeller av og til feiler i utdataen sin, men vi må være klar over at disse skjevhetene og biasene påvirker det våre elever leser. Ifølge OpenAI er dette noe man må ta med i betraktningen hvis man ønsker å bruke modellen deres. Men etter hvert som flere bruker teknologien, blir den også bedre på å sikre innholdet brukerne blir presentert.
Men, og det er et "men", selv om den blir bedre til å filtrere ut ting som kan virke støtende, er det fortsatt en amerikansk etikk som ligger til grunn for språkmodellene. Prøv for eksempel å spørre om abortspørsmålet. Her vil den slite med å gi et svar.
På den andre siden finnes det også modeller som er fri for all etikk, noe som betyr at de kan skrive om hva som helst. Dette kan også være problematisk, fordi det ikke finnes noe filter, og man må være svært forsiktig. For eksempel har vi laget noen forespørsler til denne språkmodellen.
Det betyr også at det kan være fordelaktig å jobbe med kritisk tenkning i undervisningen, slik at elevene forstår at språkmodellene inneholder bias og skjevheter.
Muligheter og begrensninger
Det ovennevnte er vår oppfatning av aspekter man bør vurdere hvis man ønsker å jobbe med kunstig intelligens i undervisningen. Listen er ikke rangert, og den kunne faktisk inneholde mange flere punkter. Vi har imidlertid valgt ut de viktigste og forsøkt å gi et innblikk i utfordringer og muligheter som må adresseres før man begynner å inkludere teknologien.
Noe av innholdet kan være umulig å bruke på grunn av personvernregler (GDPR), begrensninger i læreplaner, skolens policy på området, fagets metoder eller mangel på rammer og retningslinjer fra Utdanningsdirektoratet. Det vil være en periode der mye vil være opp til den enkelte lærer på den enkelte skole, og dette legger ekstra press på en allerede travel hverdag.
Noe av innholdet kan være umulig å bruke på grunn av personvernregler (GDPR), begrensninger i læreplaner, skolens policy på området, fagets metoder eller mangel på rammer og retningslinjer fra Utdanningsdirektoratet. Det vil være en periode der mye vil være opp til den enkelte lærer på den enkelte skole, og dette legger ekstra press på en allerede travel hverdag.
--- --- --- --- ---
Denne saken ble først publisert i danske Viden.ai i april 2023: 6 gode råd til etisk forsvarlig brug af kunstig intelligens i undervisning
Oversatt fra dansk av Martin Johannessen med støtte fra ChatGPT-4
Kilder:
Undersøgelse og nysgerrighed - AI chatbots i historie
ChatGPT Gets Its “Wolfram Superpowers”!
OpenAI’s DALL-E 2 is pretty compliant – but who is responsible anyway?
The Ethics of AI Art: The Case of DALL-E 2 [CASE STUDY]
Does ChatGPT Have Privacy Issues?
ChatGPT presser danske uddannelser: "Det kan ende i et våbenkapløb"
Her undervises eleverne i brugen af ChatGPT
ChatGPT genrejser spørgsmålet, om maskiner kan tænke. Men hvad vil det egentlig sige at tænke?
Ny forskning: Drop ChatGPT hvis I bekymrer jer om inklusion!
ChatGPT and large language model bias
Google's solution to accidental algorithmic racism: ban gorillas
We asked ChatGPT whether generative AIs were biased. Here’s what it told us…
.png)
.png)
