Bild: Adobe Stock
Forskargrupp Vi utvecklar AI- och maskininlärningsmodeller för avancerade säkerhetslösningar i syfte att skydda kritisk infrastruktur. Samtidigt förhindrar vi effektivt alla möjligheter för angripare att använda sig av dessa tekniker för att bryta sig in och göra skada.
Vår forskning syftar till att utveckla möjligheterna inom maskininlärning, anomalidetektering, säkerhet, integritet och Edge AI. Här kombinerar vi principer för att utforma, analysera och ta fram grundläggande maskininlärningsalgoritmer inom olika tillämpningsområden, exempelvis Cloud RAN, Internet of Things, (IoT), Edge Cloud, Edge AI, Multi Cloud 0ch komplex dataanalys.
Vi är intresserade av säkerhets- och integritetsproblem som kan förhindras med hjälp av maskininlärning för olika autonoma system. Under de senaste fem åren har våra intressen därför utvecklats till att omfatta ämnen inom säkerhetsanalys, (stora och små data), maskininlärning, anomalidetektering, hotmodellering, kontradiktoriska attacker, (t.ex backdoor och bit-flip) och internet measurement. Vår metod för att undersöka dessa områden anses vara explorativ, konstruktiv och empirisk.
Ett gemensamt tema i vår senaste forskning är att utveckla eller förbättra maskininlärningsalgoritmer med tillämpningar för att upptäcka, förebygga och diagnostisera fel, brister, anomalier eller attacker från ett enda system till storskaliga infrastrukturer. Vidare har vi undersökt säkerheten för AI-system mot nya attacker som bakdörrar, bit-flip, poisoning, undvikande, gradientläckage och dataläckage. I vårt tidigare arbete fokuserade vi på att förstå olika säkerhetsproblem i samband med flera företagsnätverk genom design och analys.
Forskargruppen Cyberanalys och maskininlärning är en del av den ledande molnforskning som bedrivs inom forskargruppen Autonomous Distributed Systems Lab.
Nästan alla vetenskapliga och sociala discipliner står inför en ständigt ökande efterfrågan på att analysera data som är oöverträffad i skala, (datamängd och dess dimensionalitet), och graden av korruption, (brus, outliers, saknade och indirekta observationer). För att utvinna meningsfull information ur sådana omfattande och smutsiga data krävs att man uppnår de konkurrerande målen för beräkningseffektivitet och statistisk optimalitet – optimal noggrannhet för en given mängd data.
Vår forskning strävar efter att förstå de grundläggande avvägningarna mellan dessa två storheter och utforma algoritmer som kan lära sig och utnyttja den inneboende strukturen i data i form av kluster, grafer, delutrymmen och mångfalder för att uppnå sådana avvägningar.
AI ger flera fördelar när en modell ska implementeras i realtidssystem. Dessa funktioner innebär dock en rad utmaningar när det gäller att säkerställa tillförlitlighet. Här är det primära målet att utforma algoritmer som ger tillförlitlighet under olika inställningar. Dessa algoritmer undersöker noggrant indata, modell och utdata och utnyttjar geometrisk och statistisk distribution av data, kontradiktoriska funktioner med en betydande mängd attackvariation, intern beteendeanalys av modeller, modellagnostisk sårbarhetsanalys, säkerhetsmedveten design av modeller för att hantera kontradiktoriska attacker och hur ansvariga de är när de används i realtidssystem.
Dessa funktioner förbättrar modellernas prestanda, skalbarhet, robusthet och transparens. Vidare syftar det till att utforska följande aspekter.
Programvara är en del av allt elektroniskt runt omkring oss. Programvara körs på persondatorer, kylskåp, säkerhetskameror, säkerhetsgrindar och smartphones. Det finns bra programvara och ”bra programvara som syftar till att göra dåliga saker” av illvilliga upphovsmän, dvs. skadlig programvara. Förståelse för skadlig kod är avgörande för sanering, riskbedömning och begränsning. Automatisering av analys och klassificering av skadlig programvara blev avgörande med de ständigt ökande infektioner som rapporteras dagligen. Klassificering och familjeidentifiering av skadlig kod är inga nya problem. Den snabba utvecklingen av ekosystemet för attacker och försvar av skadlig kod har dock möjliggjort mycket fruktbar forskning om analyssystem genom att dra nytta av en mer exceptionell förståelse för attackställningen hos dagens motståndare och författare av skadlig kod.
Dessutom fokuserar vi på att undersöka Distributed Denial of Service-attacker i storskaliga infrastrukturer för att förstå och identifiera skillnaden mellan godartade och skadliga belastningar. Samlokalisering och mikroarkitektoniska attacker är exempel på sådana problem när applikationer distribueras i t.ex. cloud-edge continuum-scenarier.
Edge computing och artificiell intelligens särskilt djupinlärningsalgoritmer, möts gradvis för att bygga nya system, nämligen edge intelligence. Utvecklingen av edge intelligence-system stöter dock på flera utmaningar, och en av dessa utmaningar är beräkningsgapet mellan beräkningsintensiva djupinlärningsalgoritmer och mindre kapabla edge-system. Vi fokuserar på att utveckla och distribuera metoder som driver DNN till kanten, inklusive olika metriska orienterade DNN-modeller, applikationsagnostiska lättviktsmodeller, lärande på kanten och datautmaningen vid kanten. Vidare är vårt fokus också att undersöka säkerhetsfrågorna i enheter med resursbegränsningar.
Det finns flera tillämpningsområden, men nuvarande focus ligger på:
