Ukontrollerbar KI? Et samfunnsøkonomisk innspill

Utstrakt bruk av kunstig intelligens (KI) til forskjellige oppgaver kommer med bekymringer om tap av kontroll. Vil KI handle på måter som mennesker hverken forstår eller kan kontrollere? Min forskning tyder på at det skal mye til for å miste kontrollen helt, i hvert fall når det gjelder bruk av KI til prising i for eksempel dagligvaremarkeder. Prisene KI ender opp med å sette er avhengige av hvordan de blir instruert – de lærer lite utover det de er programmert til å gjøre. Det er avgjørende om en prissettende KI er begrenset i hvor mye den kan selge av spesifikke varer og om den har fått beskjed om hvordan den skal forholde seg til begrensningene. Like, men distinkte typer KI priser svært forskjellig når de konkurrerer mot hverandre. Små forskjeller i detaljene KI-ene bygger på gjør det vanskelig for dem å forstå hverandres prising. Om de blir gitt tid til å konkurrere, lærer KI-ene å konkurrere i positiv forstand: De setter laveste mulige pris. At instrukser og tekniske detaljer er avgjørende for KI-atferd vil neppe være overraskende for forskere innen empirisk økonomi. Det har lenge vært kjent at resultatene fra forskning basert på simulering kan være drevet av måten simuleringene blir satt opp på. Forskeres skjønn og ekspertise spiller en rolle. Avhandlingen min undersøker også bruken av slikt skjønn i kjente forskningsresultater. Som forventet spiller skjønn og ekspertise store roller: Det er betydelig mer usikkerhet knyttet til resultatene enn det som blir publisert. Arbeidet mitt danner et optimistisk bilde av menneskelig kontroll over KI. Det er nødvendig å instruere KI detaljert om den skal brukes til praktiske formål. Innen økonomisk forskning har man lenge arbeidet med måter å få kunstige agenter til å oppføre seg som ønsket. Vi kan dermed se til økonomifaget når KI skal designes på en kontrollerbar måte. Og ser du slående resultater fra en KI eller fra simuleringsbasert forskning bør du be om mål på usikkerheten knyttet til resultatene.

Personalia

John er fra Bergen og har tatt hele utdanningen som samfunnsøkonom ved UiB. Tidligere har han utdannet seg som jazzmusiker og vært på noen turneer. I 2026 blir han forsker ved Forsvarets forskningsinstitutt. Veilederne hans under doktorgraden har vært Eeva Mauring og Thomas Ågotnes.