Professor Guribye i spissen for nytt nordisk KI-prosjekt om design av digitale tjenester

KI setter allerede tydelige spor i hvordan digitale tjenester utvikles. Oppgaver som tidligere krevde menneskelig vurdering – idéskisser, konseptutforming og beskrivelser av brukeropplevelser – kan nå genereres på sekunder. Denne utviklingen endrer både arbeidsprosessene og ansvaret som ligger hos designere.

– Når KI får en aktiv rolle i utviklingen av digitale tjenester vi alle er avhengige av, må vi forstå hvordan det påvirker kvaliteten på løsningene, og hvilke konsekvenser det har for ansvarlighet og brukernes tillit, sier Guribye ved Institutt for informasjons- og medievitenskap.

For å utforske dette har han mottatt støtte fra NordForsk til å lede RAID – Responsible AI in Interaction Design Practice. Prosjektet samler forskere fra fem universiteter i Norge, Danmark, Sverige og Finland, som sammen skal utvikle kunnskap, verktøy og undervisningsmodeller som gjør det mulig å bruke KI på en ansvarlig og gjennomtenkt måte i design av fremtidens digitale tjenester.

Et felt i rask bevegelse

Designere møter nå en arbeidshverdag hvor faglige vurderinger i større grad bygges inn i algoritmer. Samspillet mellom mennesker og maskiner er i endring, og tidligere ferdighetsbaserte prosesser blir mer automatiserte. Samtidig er begrensningene tydelige: KI kan forsterke skjevheter, ta lite transparente beslutninger og overse nyansene i de menneskelige vurderingene.

Dette stiller nye krav til kompetanse. Designere må kunne formulere presise prompt, vurdere KI-genererte forslag kritisk og vite hvor teknologien ikke strekker til.

Endringene merkes også i utdanningen. KI utfordrer hvordan studenter lærer designfaget – og hvilken kompetanse de trenger for å møte et arbeidsliv der algoritmiske verktøy er standard.

– Vi ser allerede at studenter bruker KI aktivt. Og vi må være sikre på at de bruker det kritisk, etisk og at de forstår begrensningene sier Pavel Okopnyi, postdoktor ved Infomedia og en av prosjektdeltakerne, før han legger til:

– Vi trenger gode metoder og strategier for å integrere KI på en ansvarlig måte i interaksjonsdesignutdanningen. Vi må sørge for at studentene har riktig og oppdatert kunnskap om bruk av KI i interaksjonsdesign og slik sikre at studentene har gode karrieremuligheter. Og vi må lære dem å bruke KI på en reflektert og ansvarlig måte.

En nordisk tilnærming til ansvarlig teknologi

Norden har i flere tiår vært ledende i utviklingen av digitale tjenester innen helse, velferd, bank og offentlig sektor. Denne posisjonen er bygget på en sterk tradisjon for demokratisk, rettferdig og deltakende design – der brukerbehov og grundig involvering står sentralt.

Når KI nå får en mer fremtredende rolle i selve designarbeidet, blir det viktig å forstå hvordan disse tradisjonene påvirkes. KI-drevet automatisering kan stå i kontrast til den nordiske modellen, som bygger på dialog, deltagelse og transparens.

– Norden har sterke tradisjoner for brukerorientert, deltakende og demokratisk design. Når kunstig intelligens blir en del av designprosessen, må vi undersøke hvordan disse verdiene kan videreføres i praksis. NordForsk-støtten gjør det mulig å forske på dette i fellesskap og finne løsninger som faktisk fungerer, sier Guribye.