Med artificiella intelligens (AI) och dess större räckvidd följer också ett ökat krav på mänsklig kontroll. Att upprätthålla effektiv kontroll över sådana system är fortfarande en utmaning och har gett upphov till en global satsning på att främja sociotekniska lösningar, inklusive ramar för styrning och kontroll. I det här föredraget diskuterar jag idén om mänsklig kontroll och hur utvecklingen av system med variabel autonomi, ett konceptuellt ramverk, kan ge möjlighet att säkerställa meningsfull mänsklig kontroll genom att uppfylla de kärnvärden som förespråkas i styrdokumenten för artificiell intelligens.
Jag diskuterar vidare hur öppenhet kan uppnås i samband med system med flera agenter, där sociala interaktioner mellan agenter leder till beteenden som verkar oklara för den utomstående observatören, vilket också begränsar möjligheten att upprätthålla en meningsfull kontroll.
Här presenterar jag aktiv forskning med hjälp av videospel för att visa hur en kombination av beteendebaserade och logikbaserade AI-metoder kan få enskilda agenter att reagera med prioriteringar bort från själviska mål för att förbättra prestationen och säkerställa öppenhet och därmed mänsklig kontroll.
Leila Methnani studerar Masterprogrammet i Artificiell intelligens vid Umeå universitet.