Forskargrupp Forskningsgruppen Queer AI arbetar med frågor om risker och möjligheter med automatiserad AI och ansiktsanalys (FA) ur ett queerperspektiv.
Tekniker för automatiserad ansiktsanalys (FA) – såsom ansiktsdetektering och ansiktsigenkänning – är centrala i diskussioner om den påverkan artificiell intelligens (AI) har på människor. AI är sammanflätat med både det mest vardagliga och de mest kritiska aspekterna av mänskligt liv, och bilddetektering och klassificering representerar ett relevant område där vi kan se en tät koppling mellan mänsklig identitet och beräkning. I tidigare forskning om automatisk könsigenkänning har klassificeringen av kön med FA-teknik väckt potentiella frågor kring ras- och könsfördomar (t.ex. Schuerman et al 2019). Forskning om FA ur queera perspektiv är fortfarande begränsad, men resultaten i studier med fokus på queera identiteter och perspektiv pekar på potentiella risker. Schuerman et al (2019) fann till exempel att FA-tjänster konsekvent presterade sämre på transpersoner och att de generellt inte kunde klassificera icke-binära kön.
Danielsson, K., Tubella, A. A., Liliequist, E., & Cocq, C. (2023). Queer Eye on AI: binary systems versus fluid identities. In Handbook of Critical Studies of Artificial Intelligence (pp. 595-606). Edward Elgar Publishing.
Liliequist, E., Tubella, A. A., Danielsson, K., & Cocq, C. (2023). Beyond the Binary - Queering AI for an Inclusive Future. interactions, 30(3), 31-33.
How We Teach Algorithms Identity
"Queerteori kan användas för att identifiera var risker kan uppstå"
