Bild: Adobe Stock
Forskargrupp Vi utvecklar AI/ML-modeller och algoritmer för banbrytande säkerhetslösningar i syfte att skydda kritisk infrastruktur. Vår forskning syftar också till att förhindra angripare från att använda dessa tekniker för att bryta sig in och göra skada. Detta genom att utveckla offensiva och defensiva utvärderingsstrategier, samt säkerhet och integritet genom ansvarsfull design och analys av nätverkstrafik.
Vi utformar, utvecklar och verifierar modeller och algoritmer inom gränsöverskridande områden som maskininlärning, anomalidetektering, system- och AI-säkerhet samt distribuerade system. Vi är intresserade av de säkerhets- och integritetsproblem som uppstår när artificiell intelligens och
maskininlärning används och skyddas i olika kritiska infrastruktursystem. Under de senaste åren har våra intressen utvecklats till att omfatta ämnen inom säkerhets- och integritetsanalys, ansvarsfull maskininlärning, feldetektering och lösningar, hotmodellering, kontradiktoriska attacker, t.ex. bakdörrar och bit-flip, försvar samt privat internetkommunikation.
Ett gemensamt tema i vår senaste forskning är att utveckla, förbättra eller noggrant analysera maskininlärningsmodeller och algoritmer för att upptäcka, förebygga och diagnostisera fel, anomalier eller attacker, – från ett enskilt system till storskalig kritisk infrastruktur. Vidare har vi utforskat offensiva och defensiva säkerhetslösningar för AI-system mot nya attacker som bakdörrar, bit-flip, förgiftning, evasion, gradientläckage och dataläckage.
Forskargruppen Cyberanalys och maskininlärning är en del av en större forskningsmiljö – Autonomous Distributed Systems Lab.
