Fremtidens KI kan være hybrid: Mot mer pålitelige og forklarbare systemer

Tidligere generasjoner av kunstig intelligens var i stor grad avhengige av eksplisitte regler og formelle modeller utviklet av menneskelige eksperter. Disse systemene kunne være presise og forklarbare, men de hadde ofte vanskeligheter med å tilpasse seg komplekse situasjoner i den virkelige verden og store mengder ustrukturerte data.

De siste fremskrittene innen KI, særlig store språkmodeller som ChatGPT, har ført til en dreining i feltet mot datadrevet læring. I stedet for å følge forhåndsdefinerte regler lærer moderne KI-systemer mønstre automatisk fra enorme datasett. Dette har ført til store gjennombrudd innen språkforståelse og informasjonsbehandling.

Disse systemene har imidlertid fortsatt viktige begrensninger. De kan generere feilaktig eller motstridende informasjon, sliter med tidsmessig og kontekstuell resonnering, og gir ofte lite innsikt i hvordan konklusjonene deres blir produsert. Disse utfordringene blir spesielt kritiske i situasjoner der informasjonen er kompleks, i stadig endring og sensitiv.

I dette doktorgradsprosjektet har Bahareh undersøkt hvordan formelle kunnskapsrepresentasjoner og moderne KI-metoder kan utfylle hverandre. Forskningen kombinerer språkmodeller med kunnskapsgrafer, ontologier og formelle resonneringsteknikker for å utvikle mer pålitelige og forklarbare KI-systemer. Arbeidet undersøker disse ideene innen tre anvendelsesområder: beregningsjournalistikk, helseanalyse samt freds- og konfliktanalyse. De foreslåtte hybride nevro-symbolske tilnærmingene ble brukt til å analysere nyhetsfortellinger, modellere konflikteskalering og utvikling av hendelser, samt resonnere over tidsavhengige helseprosesser. I stedet for å erstatte symbolske metoder med nevral KI argumenterer avhandlingen for at de mest effektive løsningene kan oppstå ved å kombinere styrkene ved begge tilnærmingene.

Arbeidet ble gjennomført ved forskningsgruppen Intelligent Information Systems (I2S) ved Universitetet i Bergen, i samarbeid med MediaFutures SFI .

Personalia

Bahareh Fatemi er doktorgradskandidat ved Institutt for informasjonsvitenskap og medievitenskap ved Universitetet i Bergen. Hun har en mastergrad i informasjonsteknologi med spesialisering i nettverksvitenskap fra Universitetet i Teheran i Iran. Forskningen hennes fokuserer på ulike aspekter ved kunstig intelligens, både fra metodologiske og anvendte perspektiver.