Post-doc projekt Kempe Stiftelserna-finansierat forskningsprojekt för tolkbar maskininlärning
Detta projekt syftar till att vidareutveckla generativ blandning av linjära modeller genom att inkorporera mer sofistikerade regionspecifika modeller och förbättra träningen av modulerna. Dessa förbättringar kommer att utvidga metodens potentiella tillämpningar och öka förutsägelsenoggrannheten. Projektet kommer att bidra med nya algoritmer för tolkbar maskininlärning och skapa en plattform för en formell studie av förhållandet mellan tolkbarhet och förutsägelsenoggrannheten.
Artificiell intelligens (AI) har blivit allmänt förekommande i våra dagliga liv även om vi ofta inte är medvetna om att tekniken används. Maskininlärning (ML) är ett område som utgör kärnan i AI. Med den enorma framgången för djupa neurala nätverk (DNN) har forskningsfokus inom ML skiftat från att enbart sträva efter hög noggrannhet till att inkludera andra viktiga egenskaper hos ett ML-system.
En av de mycket uppskattade egenskaperna hos ett ML-system är tolkbarhet. För vissa kritiska uppgifter avvisas en svartlåda Mlklassificerare även om den presterar bäst på en testdatamängd. Försiktighet mot svartlåda ML är välgrundad eftersom en testdatamängd vanligtvis inte fullständigt kan representera det fenomen som studeras. Som bevis på konceptet tolkbarheten har vi utvecklat en prototypansats för att approximera förutsägelsen av en DNN-modell med linjära beslutsmarginaler som kallas "Blandning av Linjära Modeller" (MLM).
Detta projekt syftar till att vidareutveckla MLM genom att inkorporera mer sofistikerade regionspecifika modeller och förbättra träningen av modulerna i MLM. Dessa förbättringar kommer att utvidga metodens potentiella tillämpningar och öka förutsägelsenoggrannheten. Projektet kommer att bidra med nya algoritmer för tolkbar ML och skapa en plattform för en formell studie av förhållandet mellan tolkbarhet och förutsägelsenoggrannheten.
