Explaining deep learning methods for recommender systems
Erik Bjørgen, Carl Johan Hambro · NORA - Norwegian Open Research Archives · 2019
Systemkrav for anbefalingssystemer er i stadig endring. Formatet til anbefalinger, samt GDPR, har bragt med seg nye krav for anbefalingene som blir gitt. Forklarbarhet eller tolkbarhet er ett av disse nye kravene. orklarbarhet er derimot en sjelden egenskap å finne i dyp læringsbaserte modeller. Slike "svart boks" systemer har høy ytelse på bekostning av ingen eller lite innsyn. Vi diskuterer relevant teori og relaterte fremgangsmåter i dyp læring, i lys av forklarbarhet. Deretter bruker vi nevnt teori på ett eksisterende anbefalingssystem for å øke forklarbarheten. Dette gjøres ved å tolke inn-data, men også ved å se hva modellen har lært på et overordnet nivå. Resultatene valideres ved å fjerne input data og ved bruk av statistiske verktøy. Den første metoden måler tap i ytelse når data relatert til forklaringen blir fjernet. Til slutt oppsumeres resultatene av forklarbare anbefalingssystemer og forslag til videre arbeid blir presentert.