#frAIday: Reflexivitet i AI-system

#frAIday hybrid
Professor Susanna Schellenberg kommer att hålla föreläsningen i Galaxen, Umeå universitet. Du kan delta via länk eller på plats på Umeå Universitet. Välkomna! 

Abstrakt
Reflexivitet är en central del av den mänskliga intelligensen. Den gör det möjligt för oss att granska våra tankar och preferenser, reflektera över våra planer, värderingar och handlingar samt engagera oss i metakognition. Vår förmåga till reflexivitet gör det möjligt för oss att representera oss själva, ha tankar i första person och utvärdera våra framsteg i projekt samtidigt som vi omformulerar vår strategi efter behov. Förmågan till reflexivitet är nyckeln till att ta AI till nästa nivå. Här och var har det redan utvecklats AI-system som uppvisar reflexivitet. Under de senaste åren har vi sett en explosion av arbete med självlokalisering inom robotik, metakognition inom LLM, utveckling av en funktionell artificiell motsvarighet till människans prefrontala kortex samt självbedömnings- och anpassningsmekanismer i AI-system. Reflexivitet är den kritiska förmågan i var och en av dessa mekanismer. Hittills har dock ingen särskild uppmärksamhet riktats mot att på artificiell väg återskapa denna centrala del av den mänskliga intelligensen. Den reflexivitet som finns i dagens AI-system är en biprodukt av andra mål. Jag hävdar att reflexivitet måste sättas i centrum för att fältet ska kunna utvecklas.