Förklarande artificiell intelligens

Om kursen

Kursen utforskar principer, metoder och tillämpningar av förklarande artificiell intelligens (XAI). I takt med att AI-system blir mer komplexa och mer brett använda i kritiska sammanhang som sjukvård, ekonomi och autonoma system blir det viktigt att förstå deras beslutsprocesser för att nå transparens, opartiskhet och tillit. 

Studenterna kommer att lära sig olika sätt att ta sig an XAI, vilket inkluderar modell-specifika, modell-agnostiska, tolkningsbara maskininlärningsmodeller samt post-hoc förklaringsmetoder. Kursen behandlar även människocentrerad konstruktion av förklarande artificiell intelligens och fallstudier där förklaringar är viktiga. 

Genom praktiska övningsuppgifter, projekt och diskussioner kommer studenterna att erhålla praktisk erfarenhet av att implementera XAI-tekniker, utvärdera mått på förklaringsförmåga samt bedöma validiteten, realibiliteten och användbarheten av XAI-förklaringar. Särskilt fokus läggs på att identifiera målgruppen och att skräddarsy förklaringar till olika användargrupper. Kursen kommer också att utforska hur förklaringar behöver anpassas till det sammanhang i vilket de förekommer.