KI-kompetanse ved UiB

Et eget kompetansetilbud for vitenskapelig ansatte er klart i løpet av oktober. Tilbudet blir kort, nettbasert og fleksibelt, og består av to deler: en felles kjernemodul om hva KI er og hvilke rammer som gjelder ved UiB, og en teknisk modul om praktisk og sikker bruk av UiBs KI-verktøy.

Begge delene må være gjennomført for å kunne få tilgang til Claude. Selve tilgangen tildeles av fakultetet ditt. Du finner mer om verktøyet på KI-verktøy ved UiB.

KI Kompetanseløft er UiBs nettbaserte kompetansetilbud for teknisk og administrativt ansatte, bygget opp av korte moduler med videoer, oppgaver og quiz. Modulene tar deg fra grunnleggende KI-forståelse til å se muligheter i egne arbeidsprosesser.

Modul 1 og 2 handler om hva KI er, hvordan du kommuniserer med en KI-assistent, og hvordan du bruker den trygt – innenfor rammene som gjelder ved UiB. Modul 3 handler om å finne forbedringsmuligheter i egne arbeidsprosesser, om KI-agenter, og om risikoene du bør kjenne.

Oppstart av KI Kompetanseløft modul 3

For studenter bygges digital kompetanse og KI-kompetanse inn i studiet ditt, og tilbys gjennom de dedikerte DIGI-emnene. DIGI-emnene gir studiepoeng, krever ingen forkunnskaper, og er åpne for alle studenter med aktiv studierett – uansett studieprogram og progresjon. Undervisningen går på ettermiddag og kveld, slik at den ikke kolliderer med den øvrige undervisningen din.

DIGI-pakken består av to innføringsemner og en rekke emner på 2,5 studiepoeng, undervist av forskere og fagfolk fra fem av UiBs sju fakulteter:

• DIGI100 – Digital student gir deg grunnleggende digital kompetanse og gode digitale arbeidsmetoder i studietiden, og viser hvordan du tar i bruk UiBs KI tjenester 
• DIGI101 – Digital kildekritikk lærer deg å finne, vurdere og gjenbruke kilder i tråd med akademisk praksis, og å skille informasjon fra misinformasjon.
• DIGI110 – Fantastiske data handler om hva data er, hvor de kommer fra og hva de brukes til – hvordan data samles inn, forvaltes, bearbeides og formidles, og hvilken rolle de spiller i samfunnet.
• DIGI114 – Kunstig intelligens avmystifiserer KI: historien, de ulike tilnærmingene, og begrepene du trenger for å forstå hva teknologien er og ikke er.
• DIGI117 – Språkteknologi forklarer teknologien bak verktøy som ChatGPT og Copilot: hvordan datamaskiner behandler menneskespråk, og hva de faktisk klarer og ikke klarer.

Målet er at du forstår teknologien og metodene som ligger bak verktøyene du kommer til å bruke i studiene og senere i arbeidslivet – uansett hva du studerer.

Hva du kan bruke KI til i emnene dine, avgjør emnebeskrivelsen og faget ditt. Se Studenters bruk av kunstig intelligens ved UiB for råd og regler som gjelder for deg.

Kompetansebygging rettet mot undervisning og vurdering planlegges som påbygging etter kjernemodulen. Denne siden oppdateres etter hvert som det er på plass.

Under finner du en generell innføring i KI-verktøy: hva de er, hvilke fallgruver de har, hva de betyr for undervisning og vurdering, og hvilke juridiske rammer og krav til kildeføring som gjelder. Innholdet er felles bakgrunnsstoff, og er ikke knyttet til et bestemt verktøy eller et bestemt kompetansetilbud.

Hva mener vi med KI-baserte verktøy? 

• Generativ kunstig intelligens: Dette er en fellesbetegnelse for verktøy som kan frembringe tekst, bilder, lyd, videoer osv. Generativ KI kan også skape nyttige strukturer som proteiner, enzymer, bygningskonstruksjoner og løsningsforslag og på den måten bidra til vitenskapelige fremskritt. På denne siden omtaler vi kun tekst- og samtaleverktøy. 

  ChatGPT er et eksempel på et verktøy som lager tekst basert på input fra brukeren, og verktøy som Microsoft Copilot og Claude fungerer på lignende måte. 

• Trening av modellen: For å lage innhold må KI-verktøyet trenes opp ved å lære fra data. Modellen som verktøyet er basert på, finner mønstre i dataene som gjør at den kan gi gode oversikter og oppsummeringer, og ofte kan lage innhold som fremstår som nytt. 
   
• Pålitelighet: Det er viktig å være klar over at disse verktøyene ikke er pålitelige kilder til informasjon. De frembringer svar basert på sannsynligheter, og fungerer ikke som en vanlig søkemotor. De kan feilkoble informasjon som ikke i utgangspunktet er relaterte, noe som resulterer i såkalte "hallusinasjoner". 
   
• Hvilket potensial har KI-verktøy: Metoder og verktøy basert på kunstig intelligens bringer med seg muligheter for store vitenskapelige fremskritt, spesielt innen naturvitenskap, teknologi og medisin. Eksempler på slike blir stadig vist frem og diskutert på seminarserien til UiB AI, som er åpne for alle studenter. Tekst- og samtaleverktøy ble først diskutert på UiB AIs seminar om ChatGPTs rolle i forskning og utdanning. 

Fallgruver ved bruk av tekst- og samtaleverktøy basert på KI

Du vet aldri hvilke data modellen er trent på 

Enhver generativ KI-modell som et tekst- og samtaleverktøy er basert på, må bli trent på et sett med data. Hvilke data som blir brukt under opplæringen vil i svært stor grad kunne påvirke hvilke resultater vi får ut, og dette er noe vi må være bevisste på når vi mottar en respons fra den generative modellen. 

På samme måte som at meningene og holdningene våre kan bli formet av informasjonen vi har, vil generative modeller produsere innhold i tråd med dataene de er trent på. Som bruker av disse tjenestene kan du aldri være sikker på hvilke data som er blitt brukt i opplæringen, med mindre tjenestene har gjort dette tilgjengelig på en måte som kan gjennomgås. 

Selv om KI kan gi oss nyttige verktøy, er kunnskap og ekspertise i det aktuelle fagområdet helt nødvendig for å kunne vurdere påliteligheten til innholdet disse verktøyene produserer.  

For mer informasjon om hvordan data kan, og har påvirket kunstig intelligens til å gjøre feilslutninger, se f.eks. Rise of AI Puts Spotlight on Bias in Algorithms - WSJ 

Modellen er et resultat av dataene den er trent på

Selv om vi vet hvilke data en modell er trent på, er det ikke nødvendigvis slik at den produserer fornuftige resultater. Forenklet sagt kan vi si at en modell som benytter data av høy kvalitet, som oftest vil produsere innhold av høy kvalitet. Tilsvarende vil en modell som er trent på data av lav kvalitet, som oftest produsere innhold av lav kvalitet. 

Som brukere av disse tjenestene kjenner vi ikke til kvaliteten på dataene eller hvordan disse er prosessert. Dersom vi stoler blindt på resultatet av en generativ modell, risikerer vi å ta i bruk upålitelige svar. Spør du ChatGPT hvem som var rektor ved UiB i 1955, kan du få som svar at dette var Asbjørn Øverås, og ikke Erik Waaler som er riktig. Dette er et eksempel på faktafeil, noe du kan lese mer om i professor Jill Walker Rettberg sin kronikk i NRK. 

Du har ikke kontroll på data du sender inn

Ved å ta i bruk generative modeller på internett sender du informasjon til servere du ikke nødvendigvis vet hvor befinner seg. EU har et svært strengt regelverk som regulerer hva bedrifter kan og ikke kan gjøre med opplysningene dine, men for nettbaserte tjenester er det ingen garanti for at de opererer i EU/EØS i henhold til dette regelverket.  

Med mindre bedriften som leverer modellen du bruker har forpliktet seg til å håndtere dataene dine på en lovlig og etisk måte, risikerer du at dataene blir brukt for å trene opp andre modeller, eller av ulike grunner kommer på avveie. Det er derfor svært viktig at vi er bevisste på hvilke data vi sender, i likhet med de fleste andre tjenester på internett. 

Eksempelvis er studentarbeid som eksamensbesvarelser ikke lov å sende til generative modeller, ettersom eksamensbesvarelser er å regne som personopplysninger. I alle tilfeller hvor UiB skal sende personopplysninger til en tredjepart, må det foreligge en databehandleravtale. 

Språkmodeller har et begrenset virkeområde

Digitalisering, teknologi og kunstig intelligens påvirker fagene våre og arbeidslivet på tvers av bransjer. Kunstig intelligens,  også i andre former enn generative modeller, blir tatt i bruk i mange sammenhenger. Kombinasjonen av spesialisert fagkunnskap og digital forståelse, inkludert kjennskap til kunstig intelligens, blir viktigere i både arbeids- og samfunnsliv.   

Fremveksten av nye og tilgjengelige verktøy har ulike implikasjoner for ulike fag- og disipliner, og ulike fakultet og institutt kan dermed ha ulike tilnærminger til bruken. Uavhengig av dette er det juridiske rammer, regelverk for plagiat og fusk, og for kildeføring som må respekteres.  

Hva betyr dette for deg som underviser og ansatt? 

Digitalisering, teknologi og kunstig intelligens påvirker fagene våre og arbeidslivet på tvers av bransjer. Hvordan det slår ut i det enkelte fag, er det fagmiljøene selv som vurderer. Kombinasjonen av spesialisert fagkunnskap og digital forståelse blir viktigere i både arbeids- og samfunnsliv.

Det ble gjennomført en undersøkelse om bruken og syn på Chatbots og andre verktøy basert på kunstig intelligens blant studenter i Sverige. Majoriteten av studentene er positiv til slike verktøy og mener at de gjør læringsprosessen mer effektiv. Samtidig uttrykker mer enn halvparten en bekymring rundt virkningen av chatbots for fremtidig utdanning, men er mindre bekymret for andre KI-baserte språkverktøy. Mer enn 60 prosent av studentene mener at bruk av chatbots under eksamen er fusk, men majoriteten av studenter er imot et forbud mot KI-baserte verktøy i utdanningene. Les mer i oppsummeringen av undersøkelsen.  

Fremveksten av nye og tilgjengelige verktøy har ulike implikasjoner for ulike fag og disipliner. Det er derfor viktig at fagmiljøene selv vurderer bruken av slike verktøy i sine emner og studieprogram. Felles for alle fagmiljø gjelder at juridiske rammer, regelverk for plagiat og fusk, og for kildeføring må respekteres.  

Betydningen av verktøy for kunstig intelligens for læring og undervisning 

Generative modeller har et vidt spekter av måter de kan benyttes på i en undervisnings- og læringssituasjon. Fagmiljøene må selv vurdere hvordan og i hvilken grad verktøyet kan benyttes i egne emner og studieprogram, og tydeliggjøre premissene for bruk overfor studentene i emnebeskrivelser og aktuelle kommunikasjonskanaler. Uavhengig av om generative modeller er tillatt i vurderingssituasjonen, er det ulike måter studenter kan benytte slike modeller for å tilegne seg kunnskap, ferdigheter og generell kompetanse. Studenter kan eksempelvis benytte slike verktøy til å få laget en oppsummering av sine forelesningsnotater som sammenhengende tekst, utarbeiding av "puggekort" (flash cards), og som en sparringspartner som kan forklare ulike deler av pensum.
Andre eksempler kan være at ChatGPT eller lignende, kan hjelpe en student gjennom å stille spørsmål fra et kjent pensum eller å utbedre tekster.

Studentene vil i eksempelet over ha benyttet seg av generative modeller for å tilegne seg kunnskap under egenstudier, som så kan brukes i en vurderingssituasjon. Dette kan sammenlignes med å samarbeide med andre studenter, noe som generelt oppfordres til som en del av egenstudiet, men som vanligvis ikke er lov i vurderingssituasjoner. I tillegg vil studentene tilegne seg ferdigheter når det gjelder bruken av denne type verktøy.  

I hvilken grad studenter velger å bruke slike verktøy i egenstudier avhenger i stor grad av studentenes ferdigheter og interesse for disse. For å legge til rette for at studentene tilegner seg slike ferdigheter, kan undervisningsopplegget aktivt inkludere verktøy basert på kunstig intelligens. 

Gjennom en utforskende tilnærming til slike verktøy kan man få innsikt i positive effekter på læring og konstruktiv bruk av teknologi, samt kritisk refleksjon og tenkning rundt bruken av slike verktøy.  

I flere emner på UiB har ChatGPT blitt brukt som en del av undervisningen. Våren 2023 har de i INF100 brukt tid på å presentere hva ChatGPT er, nemlig en språkmodell, og at en skal være forsiktig med å kalle det kunstig intelligens. Foreleser viste studentene gode og dårlige svar på spørsmål stilt til ChatGPT, og studentene fikk lov til å bruke ChatGPT i sine besvarelser så lenge de siterte bruken og var sikre på at de kunne faget godt nok til å vurdere verktøyets nøyaktighet. 

I INF250 ble studentene som tok emnet våren 2023 bedt om å generere kode ved å bruke ChatGPT for å visualisere et datasett. Studentene ble bedt om å levere koden som ChatGPT produserte, samt en refleksjon over opplevelsen av å bruke ChatGPT, som hvor lett/vanskelig det var å få ønsket resultat, om koden var korrekt, hvordan visualiseringen så ut m.m. 

Våren 2023 jobbet studentene i DIKULT304 med AI. Her ble studentene gjort oppmerksomme på at ChatGPT og andre KI-modeller er verktøy med begrensninger. De diskuterte for eksempel kildekritikk og referering i kunstig intelligens, og KI-modellens tendens til å finne opp ting som ikke har blitt sagt eller gjort. I flere emner på Digital Kultur bruker de Spannagel’s «Rules for Tools» som en veileder for bruk av ChatGPT og andre KI-modeller i deres emner. 

I emnet MUTP104 har studentene våren 2023 jobbet med hvilke spørsmål en kan stille slike verktøy med et sterkt fokus på kildekritikk. Stemmer det med studentenes egen oppfatning, og er det andre kilder som kan underbygge dette? 

Ved flere emner ved Det medisinske fakultet er det tatt i bruk KI-Chatboter til å lage forslag til kollokvieoppgaver, eksamensoppgaver eller quizer i undervisningen. Et konkret eksempel fra Det medisinske fakultet er MED6, hvor foreleser har på generell basis tatt for seg hvordan kunstig intelligens kan benyttes innen medisinen, både hvilke fordeler det har, og hvilke utfordringer det kan by på. 

Betydningen av verktøy for kunstig intelligens i vurdering  

Det store spennet i bruken av generative modeller blir tydeligst i vurderingssituasjoner. I ytterkantene finner man på den ene siden "ingen bruk" av generative modeller, og på den andre siden "omfattende bruk", hvor den generative modellen har produsert hele innholdet. Avhengig av hvilken linje man legger seg på i eget fag, vil det kunne oppstå gråsoner for hva som er akseptabel bruk. Bruken må uansett respektere gjeldende regelverk for plagiat og fusk, samt kildeføring.  

Dersom man legger seg på en linje hvor generative modeller i noen grad benyttes som en del av vurderingen, kan det potensielt dukke opp noen gråsoner. Hva skjer dersom en student har skrevet en tekst uten bruk av generative modeller, men bruker et verktøy for å kutte ned på antall ord for å komme innenfor ordgrensen? I hvilken grad er teksten fremdeles studentens eget selvstendige arbeid? Dersom modellen kun fjerner og ikke legger til, vil studenten ha brukt generative modeller, men kan man si at studenten har produsert innholdet selv? 

Et annet eksempel kan være å bruke generative modeller til å rette opp i språklige og grammatiske feil. I en vurderingssituasjon hvor det er språk og grammatikk som blir vurdert vil man sannsynligvis ikke tillate dette, men i tilfeller hvor det er andre aspekter ved studentenes læringsutbytte som blir vurdert, kan det være rom for å tillate bruken av generative modeller til dette.  

En tredje måte studenten kan benytte seg av generative modeller på, er å be modellen om å kritisere eller gi tilbakemeldinger på innleveringer. Dersom man som underviser har publisert vurderingskriterier for en oppgave, kan studentene bruke vurderingskriteriene sammen med det de selv har skrevet, og mate dette inn i en modell. Studentene kan da f.eks. be modellen ta utgangspunkt i vurderingskriteriene, emnebeskrivelsen, og annen relevant informasjon og gi tilbakemelding på form og innhold. 

Avhengig av hvordan man legger opp undervisningen og vurderingen i et emne, vil det være svært ulike problemstillinger man bør ta stilling til. Dersom generative modeller tillates i et emne, skal studentene måtte legge ved samtalene de har hatt med modellene? Når er det eventuelt dette skal bli gjort? Og, blir samtaleloggen også en del av vurderingsgrunnlaget?  

Dersom man velger å gå for en vurdering hvor studentene ikke skal kunne bruke generative modeller, må man tenke gjennom hvilken vurderingsform man skal benytte seg av, og hvordan man skal avdekke eventuelt juks. Siden de generative modellene krever internettilgang, kan man sikre seg mot bruken av disse ved å benytte seg av saleksamen uten tilgang til internett. Selv om det å bruke saleksamen kan være et godt virkemiddel for å hindre bruk av generative modeller, er det ikke nødvendigvis ønskelig dersom man har ambisjoner om f.eks. å bruke formative vurderingsformer. 

Ved andre vurderingsformer enn saleksamen må man derfor tenke gjennom hvilke oppgaver man gir studentene, slik at disse ikke enkelt kan besvares av en generativ modell. Universitetet i Oslo har løftet frem viktige implikasjoner denne teknologien har for høyere utdanning og laget forslag til gode vurderingspraksiser på kort og lengre sikt som ikke kan besvares av generativ AI som ChatGPT.

På kortere sikt foreslås det å vektlegge kritisk refleksjon som får frem studentenes synspunkter, synliggjør tankeprosesser underveis i arbeidet, og som vektlegger å skape noe nytt. Gjennom å knytte oppgaver spesifikt til pensum eller dagsaktuelle problemstillinger blir det vanskeligere å benytte ChatGPT for å besvare oppgavene. Vurderingsformer knyttet til ulike formater som for eksempel video, presentasjoner og muntlige vurderinger, prosjektarbeid, mappevurderinger eller vurderingsformer der studentene får tilbakemeldinger underveis og forbedrer sitt arbeid kan også begrense mulighetene for å benytte ChatGPT. På lengre sikt foreslås det å endre fokuset fra kontroll av læring til prosessen med å lære og å utforske hvordan verktøy basert på kunstig intelligens kan inngå for å støtte læringen. Du kan lese mer om dette på UiO sine nettsider.

Hvilke KI-verktøy du har tilgang til ved UiB, og hva de egner seg til, står samlet på KI-verktøy ved UiB.

Juridiske rammer 

Verktøy for kunstig intelligens og GDPR

En av utfordringene med bruken av kunstig intelligens verktøy som ChatGPT og personvernregelverket (GDPR), er at dataene som blir brukt til å trene verktøyene, inneholder personopplysninger. Personopplysning defineres som informasjon i enhver form som kan knyttes, direkte eller indirekte, til en enkeltperson. Disse personopplysningene er hentet inn i verktøyet fra ulike kilder, både fra internett og fra brukerne, med eller uten deres kjennskap til dette. 

Det er svært usikkert om disse personopplysningene er hentet inn på lovlig vis, og datatilsyn fra flere land har vært skeptiske til slike tjenester av denne grunn. Etter GDPR er det svært vanskelig å anse at en slik samling av personopplysninger, noe som kalles for dataskraping, kan være lovlig. Det gjelder særlig sensitive personopplysninger som opplysninger om rase, etnisitet, religion, helse, politiske oppfatninger eller seksuell orientering.

Brukere må vite at løsninger som bygger på kunstig intelligens bruker det som skrives inn eller lastes opp til å forbedre tjenesten, og at de deles med tredjeparter som kommersielle aktører og myndigheter. Det vil si at personopplysninger som legges inn blir lagret og brukt videre. Det er ikke mulig å rette eller slette dem fra modellen. Vær klar over at forespørsler som sendes inn i tjenesten kan inneholde sensitiv personinformasjon og at modellen kan utlede sensitiv informasjon om deg utfra oppgitt informasjon.
 

Til undervisere

Som underviser må du være oppmerksom på at du ikke kan pålegge studenter å bruke tjenester som UiB ikke har en databehandleravtale med. Dette gjelder per nå f.eks. ChatGPT og andre AI-tjenester. Dersom du er usikker på om tjenesten du ønsker å bruke har en databehandleravtale med UiB, kan du sende inn en sak på UiB hjelp.

Akademisk redelighet er en overordnet norm som styrer hva som er forventet av blant andre UiB sine studenter. Vi forventer at studentene stoler på egne ferdigheter, gjør selvstendige vurderinger og tar standpunkt. Tekst- og samtaleverktøy basert på KI og andre digitale verktøy, reiser spørsmål knyttet til både kildebruk og krav om selvstendighet. Som hovedregel er det et krav om at svaret på eksamen er en selvstendig produsert tekst. 

For mer informasjon, se nettsiden Redelighet og fusk

Kildeføring av generative modeller  

Når programvare påvirker resultater, analyser eller funn i akademisk arbeid, skal du referere til den. KI-verktøy blir regnet som programvare og ikke som medforfatter, fordi programvaren ikke kan ta ansvar for arbeidet. 

KI-generert tekst kan ikke bli gjenskapt av andre. Derfor bør det i akademiske arbeider bli oppgitt hvordan KI-verktøyet ble brukt, inkludert tidspunkt og omfang, og hvordan resultatet ble inkludert i teksten. Ofte er det nyttig å vise hva som ble skrevet inn i chatten. Lange svar fra KI-verktøyet kan legges som vedlegg. Vær oppmerksom på at det kan være fagspesifikke regler for dokumentasjon av KI-bruk. 

Eksempel på referanse i APA7-stil: 

• I teksten: tekst (OpenAI, 2026)
• I referanselisten: OpenAI. (2026). ChatGPT (20. april-versjon) [Stor språkmodell]. https://chat.openai.com