Professorn: Så minskar vi riskerna med AI

Jag drivs av ett djupt engagemang för att se till att AI-teknik gynnar mänskligheten. Jag anser att AI bör förbättra den mänskliga kapaciteten och livskvaliteten samtidigt som mänskliga rättigheter och etiska normer respekteras.

Virginia Dignum blev intresserad av artificiell intelligens, AI, redan under sina studier på 1980-talet. Hennes första jobb handlade faktiskt om att utveckla ett AI-system för att stödja utformningen av subventionerade bostäder i Lissabon.

– Detta var 1986 och redan då insåg jag att AI inte kommer utan risker. Systemet föreslog att vi skulle tilldela ett hus till en familj, men vi upptäckte att huset redan var bebott och att uppgifterna var inte uppdaterade! Det indikerade att en adress var ledig, men i själva verket var den redan upptagen av andra personer. Det vill säga, det bästa AI-systemet är bara så bra som den data det använder, säger Virginia Dignum.

Förändrar samhällen i grunden

Hon har också en gedigen bakgrund inom konsultverksamhet och utveckling av expertsystem, något som utvecklades till ett fokus på AI i hennes doktorsavhandling vid Utrecht University 2004.

– Den mest intressanta aspekten av AI är dess förmåga att förändra samhällen i grunden genom att förbättra beslutsprocesser och stödja hantering av komplexa uppgifter. Några av fördelarna med AI är ökad effektivitet, förmågan att analysera stora mängder data snabbt och förbättringar inom olika områden som sjukvård, transport och hållbar utveckling, säger Virginia Dignum.

Men AI innebär också betydande risker, menar hon. Det handlar bland annat om etiska frågor som integritet, partiskhet i beslutsfattandet, omplacering av arbetstillfällen och risken att AI kan användas på skadliga sätt om det inte görs ordentliga regleringar.

– Utmaningen ligger i att utveckla AI-system som är pålitliga, transparenta och i linje med mänskliga värderingar för att minska dessa risker. Det är det arbetet vi gör här i Umeå, i vårt AI Policy Lab, genom att ta fram metoder och verktyg för ansvarsfull utveckling och användning av AI – och också genom de rådgivande insatser jag gör för att se till att politiken säkerställer att de ansvariga hålls ansvariga för sina beslut och de system de utvecklar och driftsätter, säger Virginia Dignum.

Medlem i FN:s expertorgan

Hon är en av de ledande forskarna i världen inom AI och deltar aktivt i flera nationella och internationella initiativ kring riktlinjer för AI-forskning och AI-tillämpningar. Sedan 2023 är hon medlem i Förenta nationernas expertorgan för AI som fungerar rådgivande kring styrning av AI globalt. Hon har också tilldelats det prestigefyllda Wallenberg Scholar 2024.

– Jag drivs av ett djupt engagemang för att se till att AI-teknik gynnar mänskligheten. Jag anser att AI bör förbättra den mänskliga kapaciteten och livskvaliteten samtidigt som mänskliga rättigheter och etiska normer respekteras. Jag använder ett tvärvetenskapligt tillvägagångssätt som kombinerar insikter från datavetenskap, etik och samhällsvetenskap – det säkerställer att AI-utvecklingen tar hänsyn till olika perspektiv, säger Virignia Dignum.

Hon säger att hennes vision är att vi, genom att skapa AI-system som inte bara är tekniskt avancerade utan också socialt ansvarsfulla och anpassade till samhällets värderingar, kan bidra till människors välbefinnande och en bättre värld för alla.

– Jag bedriver den här forskningen för att överbrygga klyftan mellan teknisk innovation och etiska överväganden, vilket säkerställer att AI-utvecklingen styrs av principer om ansvarsskyldighet, ansvar och transparens, säger Virginia Dignum.

Flyttat över hela världen

Virginia Dignums väg till Umeå gick via stora delar av världen. Efter studierna i Lissabon flyttade hon till Nederländerna, sedan Swaziland (nu Eswatini), en kort tid tillbaka till Portugal och senare även till Australien.

– Under större delen av mitt liv har jag bott i Nederländerna – i mer än 30 år. Min man är därifrån, mina barn bor där och jag tillbringar fortfarande en del av min tid där, säger hon.

Hennes mamma, syskon och övrig familj bor kvar i Portugal och hon åker dit tre till fyra gånger per år. Den senaste resan dit var för att ta emot utmärkelsen Gold Medal of Merit från sin hemstad för sina bidrag till AI-styrning.

Virginia Dignum kom till Umeå som en del av WASP-programmet. Wallenberg AI och Software Program är Sveriges enskilt största forskningsprogram genom tiderna, som bjudit in toppforskare från hela världen att komma till Sverige för att stärka AI-forskningen.

– Här är möjligheterna till forskning och naturen helt underbara. Jag trivs bra, förutom att sommaren är för lugn, det blir så folktomt. Jag förstår inte riktigt den svenska idén att försvinna i veckor under sommaren, säger Virginia Dignum och skrattar.

Brukade springa maraton

Hon tillägger:

– Umeå universitet ger mig en stöttande miljö. Universitetets engagemang för tvärvetenskaplig forskning och dess starka fokus på AI och autonoma system ligger i linje med mina mål. Umeå har en samarbetsinriktad atmosfär och resurser som gör det möjligt för mig att utforska AI:s samhällseffekter på djupet och samarbeta med experter från olika områden med full akademisk frihet. Initiativet till AI Policy Lab som jag just har skapat är ett exempel på de möjligheter jag får i Umeå.

På fritiden gillar hon att springa. Tidigare brukade hon springa maratonlopp, men idag tycker hon att det är svårt att kombinera träningstimmarna med sitt arbete och sina resor.

– Men jag tar alltid med mig löparskorna på mina resor, och det är ett bra sätt att se lite av de städer jag besöker, mellan mötena. Att ta en löptur är också bra för att motverka jetlag. Om jag inte kan springa kopplar jag av med stickning, särskilt att sticka strumpor hjälper mig att slappna av under långa flygningar, säger Virginia Dignum.