Om LEXplain

De nyeste KI-teknologiene bygger på store språkmodeller og er utviklet gjennom maskinlæring. Virkemåte er ikke fullt ut forståelig for alminnelige brukere eller eksperter. Dette skaper et problem i forhold til begrunnelsesplikten som offentlige myndighetene skal overholde når de treffer avgjørelser om borgernes rettigheter og plikter.

Begrunnelseskravet skal sikre at borgeren kan forstå avgjørelsen. Samtidig er begrunnelseskravet en måte å kvalitetssikre saksbehandlingen og bidra til rettens legitimitet. Begrunnelseskravet betyr nemlig at forvaltningsmyndighetene skal gjøre en innsats for å opplyse og forstå borgerens situasjon, for å bli i stand til at anvende rettsreglene korrekt, og dermed kunne gi borgeren visshet for dette.

Hvis teknologien som anvendes i saksbehandlingen ikke understøtter begrunnelseskravet, kan den ikke anvendes på en måte som er rettssikkerhetsmessig betryggende. LEXplain skal undersøke hvordan AI teknologi kan tilpasses den juridiske saksbehandlingen på en måte som sikrer overholdelse av begrunnelsesplikten.

Prosjektet er et samarbeid mellom jurister og teknologer fra både Danmark og Norge og innebærer et samarbeid med skatte- og velferdsmyndigheter i begge land.

Prosjektets formål

LEXplain har som mål å skape ny kunnskap om hvor vidt bruk av forklarbar kunstig intelligens (XAI) som ledd i beslutningskjeden lar seg forene med et rettsstatlig begrunnelseskrav for forvaltningsvedtak. Dette skal gjennomføres som tre overlappende «forskningsstrømmer» (research streams):

1. Utviklingstrekk og differensiering; studier i hvordan krav om og til begrunnelse har utviklet seg parallelt med utviklingen av kommunikasjonsteknologi og kartlegging av de nærmere kriteriene for forsvarlig begrunnelse som i dag er gjeldende rett.

2. KI som beslutningsstøtte; studier av hvilke krav som må stilles til en beslutningsstruktur som kombinerer bruk av store språkmodeller med tilgjengelige rettsinformasjonssystemer og menneskelig overvåking for at beslutningsstrukturen skal kunne tilfredsstille de kriteriene for forsvarlig begrunnelse som er gjeldende rett. 

3. Implementering og transformasjon; studier av hvilke begrensninger EUs AI Act setter for bruk av KI som beslutningsstøtte ved avgjørelsen av forvaltningsvedtak og av hvordan saksbehandlere i offentlig forvaltning responderer på KI-assistenter som allerede er tatt i bruk som ledd i beslutningsprosesser de selv er en del av. Her undersøkes det også hvordan den anvendte teknologien kan bidra til endret syn på kriterier som har vært ansett som nødvendig for å tilfredsstille rettsstatlige krav.