Lager algoritmer som kan gi datamaskiner bedre hukommelse

Kan vi stole på kunstig intelligens (KI)? Dette er ett av hovedspørsmålene som sipendiat Morten Blørstad utforsker i sin PhD ved Insitutt for informatikk (UiB). Blørstad er utdannet økonom og gikk veien via en jobb i forsikringsselskap før han endte opp i forskningsgruppen i maskinlæring. 

– Den praktiske erfaringen med å anvende KI til å beregne premie og oppgjør har vært nyttig og noe jeg tar med meg både i forskningen, óg når jeg skal formidle om de grunnleggende mekanismene bak maskinlæring under Forsker Grand Prix, sier han. 

Datamaskinens svakheter

Blørstad sin forskergruppe ser nærmere på hvordan datamaskiner lærer og hvordan vi kan gjøre dem mer pålitelige. For akkurat som mennesker, har datamaskiner selektiv hukommelse. De kan huske detaljer som ikke er relevante, og glemme det som faktisk betyr noe.

Hva skjer når en modell gjør feil i viktige samfunnsoppgaver? Dersom en KI som skal oppdage kreftsvulster på røntgenbilder vektlegger feil informasjon, kan konsekvensene bli fatale.

– KI er kraftig, men har også begrensinger. Den gjør vurderinger og luker ut informasjon, men hvilke datapunkter den velger å prioritere er uforutsigbart. Det har jeg sett nærmere på og forsøkt å lage modeller som beregner, sier han.

Utvikler mer pålitelige KI

Målet med grunnforskningen er å utvikle nye læringsalgoritmer som hjelper KI med å prioritere og vekte informasjon bedre. Hvis disse fungerer, kan de bidra til å gi oss mer pålitelige KI-modeller som kan anvendes bredt i alle deler av samfunnet.

– Når tech-gigantene lanserer nye KI-modeller, blir det ofte brukt store ord og skremsel. Min forskning viser noe annet: Vi er ikke der ennå. Maskiner har fortsatt klare begrensninger og nettopp dette gir gir oss muligheten til å forbedre dem, avslutter Blørstad.