Vi befinner oss i ett avgörande ögonblick i mänsklighetens historia, då vi automatiserar och överlåter den enda nyckeltillgång som har gett oss enorma framgångar hittills: vår intelligens. Vad skulle kunna gå fel?
En hel del.
Men det finns hopp: det område som har blivit känt som AI-alignment strävar efter att se till att avancerad AI har mål och värderingar som är i linje med våra och förenliga med mänsklig utveckling.
Olle Häggström är professor i matematisk statistik vid Chalmers och har ägnat mycket tid åt att studera risker med nya teknologier. Han har bland annat författat böckerna Here be Dragons: Science, Technology and the Future of Humanity (2015) och Tänkande maskiner (2021).
I det här föredraget diskuterar Häggström utmaningar inom AI-alignment mot bakgrund av den banbrytande hastighet med vilken stora språkmodeller, som till exempel ChatGPT, och annan AI för närvarande utvecklas och används.