View Project

Norwegian AI Directory

Machine Teaching for Explainable AI


Description:

Det siste tiåret har vi sett en eksplosiv økning i bruken av avanserte AI-systemer, som Deep Learning. Disse systemene er basert på store datamengder og avgjørelsene som taes er ofte uforståelige for brukerne. Samtidig anvendes de som sentrale verktøy i beslutningsprosesser som angår både enkeltpersoner, næringsliv og samfunnet forøvrig. Det er derfor svært viktig at brukerne kan evaluere og stole på disse avgjørelsene. Feltet som kalles eXplainable Artificial Inteligence (XAI), altså ‘forklarbar kunstig intelligens’, har som mål å begrunne avgjørelser som taes av komplekse AI-systemer. Prosjektet er rettet mot eksempelbaserte forklaringer, med vekt på enkelheten av eksemplene. Vi vil utvikle matematiske formuleringer av enkelhet som går på tvers av ulike representasjonsdomener, og som korrelerer godt med hva mennesker oppfatter som enkelt. Basert på tidligere arbeid innen feltet Machine Teaching vil vi utvikle den konseptuelle og praktiske bruken av eksempelbaserte forklaringer, og slik bane vei for anvendelsen av Machine Teaching innen XAI. Prosjektet er et partnerskap mellom Universitetet i Bergen og VRAIN - et forskningssenter for AI i Valencia, samt Equinor og BKK AS, norske selskaper i energisektoren som har identifisert XAI som avgjørende for deres virksomhet. I begge selskapene anvendes moderne AI-systemer i flere beslutningsprosesser og det er viktig å få en forklaring på avgjørelsene som taes. Prosjektet vil gi brukere og eksperter større nytte av disse verktøyene, gjennom en bedret forståelse av den modellen av anvendelsesdomenet som AI-systemet utgjør, og bedret evne til å vurdere om beslutninger kan være tatt på feil grunnlag eller om de er svakt begrunnet.


Project leader: Jan Arne Telle

Started: 2022

Ends: 2025

Category: Universiteter

Sector: UoH-sektor

Budget: 10011996

Institution: UNIVERSITETET I BERGEN

Address: