Personvern i fremtidens kunstig intelligens

Maskinlæring kan gjøre beslutningsprosesser raskere og mer presise – fra bildegjenkjenning til språkmodeller som chatbots. Men teknologien reiser viktige spørsmål om personvern: Hvordan kan vi bruke følsomme data, som ansiktsbilder eller medisinske opplysninger, uten å risikere lekkasje?

I sin doktoravhandling ved Universitetet i Bergen har Weng utviklet nye metoder for å beskytte persondata i tre ulike typer maskinlæring:

• Privat nedlasting av filer: Når en bruker henter en fil fra en server, kan det avsløre hva vedkommende er interessert i. Avhandlingen foreslår en ny protokoll som gjør nedlastingen mer effektiv, samtidig som personvernet bevares – blant annet ved hjelp av kunstig intelligens-teknikken «generative adversarial networks».
• Desentralisert læring: I systemer der mange datamaskiner samarbeider om å lære, kan enkelte «trege» noder forsinke prosessen. Studien viser hvordan man kan balansere læringshastighet, nøyaktighet og personvern ved å bruke såkalt differensielt personvern – en metode som legger til kontrollert støy i læringsprosessen.
• Persontilpasset samarbeid: Selv når brukere har ulike data og mål, kan de lære mer effektivt sammen. Avhandlingen presenterer en ny metode for å beregne gjennomsnitt av strømmedata på en måte som bevarer personvernet, ved å legge til smart støy før dataene deles.

Resultatene bidrar til å gjøre maskinlæring tryggere og mer etisk forsvarlig – slik at vi kan dra nytte av teknologien uten å ofre personvernet.

Personalia

Chung-Wei Weng har bakgrunn innen elektroteknikk og informatikk, og har oppnådd en mastergrad fra informatikkseksjonen ved Institutt for elektroteknikk ved National Taiwan University. Doktorgradsarbeidet ble utført i samarbeid med Simula ved Universitetet i Bergen (UiB). Veilederne var forsker Dr. Eirik Rosnes, Dr. Hsuan-Yin Lin og Dr. Øyvind Ytrehus.