AQUITAS: Utvärdering och utveckling av rättvisa, opartiska och pålitliga AI-system
Forskningsprojekt
Opartisk AI, utvecklad i Europa.
AEQUITAS utvecklar en experimentell testmiljö för att upptäcka, diagnostisera och åtgärda orättvisa, fördomar, ojämlikhet och diskriminering inom AI-system. Detta nya projekt inom Horisont Europa, finansieras av Europeiska kommissionen och bygger på ett starkt konsortium av AI- och domänexperter, samhällsvetare och företrädare för minoriteter och riskgrupper.
AI-baserade beslutsstödsystem används i allt större utsträckning såväl inom industrin som den offentliga och privata sektorn samt inom politiskt beslutsfattande. När vårt samhälle nu står inför en dramatisk ökning av ojämlikheter och intersektionell diskriminering måste vi förhindra att AI-systemen förstärker denna utveckling.
Rättvisa är en av huvudprinciperna inom pålitlig AI och något som främjas på EU-nivå. Men hur rättvisa ska omsättas i tekniska, funktionella och lagliga krav vid utformningen av AI-system är fortfarande en öppen fråga. På samma sätt vet vi idag inte hur vi ska testa om ett system följer dessa principer och om så är fallet, hur vi ska reparera det.
Kontrollerad experimentmiljö
AEQUITAS syftar till att utforma en miljö för utvecklare och användare i syfte att skapa kontrollerade experiment för att kunna:
bedöma fördomar i AI-system
tillhandahålla effektiva metoder för att minska fördomar och
tillhandahålla riktlinjer, metoder och programvaruteknik för rättvis utformning för att utforma nya fördomsfria system
Reella användningsområden inom hälso- och sjukvården, personalfrågor och utmaningar för socialt missgynnade grupper kommer att användas för att testa experimentplattformen och visa hur effektiv den föreslagna lösningen är.
AEQUITAS bygger på ett starkt konsortium bestående av AI-experter, domänexperter, samhällsvetare och sammanslutningar som företräder minoriteter och riskgrupper.
Starkt konsortium
Detta nya Horizon Europe-projekt, som finansieras av Europeiska kommissionen, bygger på ett starkt konsortium av AI- och domänexperter, samhällsvetare och företrädare för minoriteter och riskgrupper.