Førsteamanuensis Malgorzata Cyndecka deltar i Datatilsynets første utgave av «Sandkasse for ansvarlig kunstig intelligens»
Kunstig intelligens er på vei inn i grunnskolen for å tilby skreddersydd undervisning. Førsteamanuensis Malgorzata Cyndecka er ansvarlig for at det rettslige grunnlaget ivaretas i et tverrgaglig prosjekt om datalæringsanalyse.
Hovedinnhold
Prosjektet "Aktivitetsdata for Vurdering og Tilpasning" (AVT), som Cyndecka er involvert i, vil vurdere behandling av personopplysninger til elever til datalæringsanalyse. Prosjektet eies av KS, SLATE: Centre for the Science of Learning & Technology ved UiB og Utdanningsetaten i Oslo. Datalæringsanalyse innebærer en analyse av elevers aktivitetsdata for å vurdere hvordan elever lærer og hvordan man kan tilpasse opplæringen til den enkelte elev. Formålet med å bruke en nyutviklet algoritme og applikasjon MittFagkart som skal analysere elevers personopplysninger er både å (1) tilpasse undervisningen til den enkelte elev sine behov og progresjon, og (2) videreutvikle algoritmen slik at algoritmens anbefalinger som læreren kan benytte seg av i undervisningen stadig blir bedre.Denne typen behandling av personopplysningene til elever og anvendelsen av KI fører naturligvis til mange spørsmål, og reiser flere personvernrettslige utfordringer.
Malgorzata har blitt invitert av SLATE til å bli med i prosjektet for å undersøke behandlingsgrunnlag for å kunne behandle personopplysninger til elever. Det må først besvares om det er lov å bruke KI i norske skoler. I den forbindelse er det ikke kun et spørsmål om GDPR og personopplysningsloven, men også spørsmål om det såkalte supplerende rettsgrunnlag som i dette tilfelle er opplæringslova. Dersom opplæringslova stilles krav til supplerende rettsgrunnlag må det stilles spørsmål om det er nødvendig med flere behandlingsgrunnlag som følger av at vi har to formål med bruken av nyutviklet algoritme og applikasjon MittFagkart. Hva med forslaget til en ny opplæringslov som er på høring? Disse og flere andre personvernsrettslige spørsmål må man svare på før man tillater bruk av KI i norske skoler, noe som er et sterkt ønske fra myndigheter.
Vil du vite mer om AVT-prosjektet? Hør på Datatilsynets podcast hvor Malgorzata og flere eksperter fra prosjektgruppen forklarer hva AVT-prosjektet dreier seg om og hvorfor dette er fremtiden til den norske skole https://www.datatilsynet.no/regelverk-og-verktoy/personvernpodden/2021/4-sandkasten-skreddersom-pa-samleband/.