Design av interaktiva AI-system, 7,5 hp

Innehåll

Denna kurs på avancerad nivå syftar till att fördjupa kunskaper och färdigheter i dels designmetodik för ansvarsfull utveckling av interaktiva, intelligenta system och miljöer med fokus på människo-centrerad artificiell intelligens (AI), och dels i teorier för människa-datorinteraktion (MDI) och ny teknologi för att interagera och samarbeta med intelligenta mjukvaruagenter och miljöer. Kursen bygger på forskning och teoribildning i gränssnittet mellan AI och MDI, med särskilt fokus på socio-tekniska system som innefattar AI, människa-AI-samarbete och relaterade etiska och sociala aspekter. Några centrala frågeställningar som kommer att behandlas under kursen är följande:

1. Hur kommer vi att samarbeta med AI-system i framtiden?
2. Vad händer med kontroll och autonomi när systemet lär sig och ändrar beteende över tid?
3. Hur designar vi ett interaktivt, intelligent system på ett sådant sätt så att vi bygger in i systemet mekanismer som väger samman olika intressenters värderingar i multikulturella kontexter (t.ex. moral och etik); samt förklarar sitt resonerande och garanterar transparens?
4. Hur möjliggör vi en kontinuerlig, ansvarsfull och deltagande designprocess under både utveckling och användande av socialt intelligenta system som samarbetar med människan? 

Kursen är indelad i följande två delar:
Modul 1: Teori och metod (4.5 hp)
Den teoretiska delen tar upp teoretiska ramverk och metoder för att designa och utvärdera interaktiva, intelligenta system och antar ett ansvarsfullt perspektiv på design av AI-baserade system. Det socio-tekniska systemperspektivet kommer att tillämpas genomgående med teoribildning som stödjer utveckling av socialt intelligenta system. Det innefattar människo-centrerade faktorer som är vitala vid design av AI-baserade interaktiva system, såsom effekter av användning, mekanismer för människans utveckling, motivation, beteendeförändring, autonomi, empowerment, kompetens, relevans, värde för individ och samhälle, ansvar och etik.
 
Metodik innefattar särskilt ansvarsfull AI-design, deltagande aktionsforskningsmetodik, aktivitetscentrerad design. Teorier och metoder appliceras i gruppövningar och i interdisciplinära projektarbeten i modul 2.

Modul 2: Praktisk tillämpning av teori och metod i ett projektarbete (3.0 hp)
Teorier och metoder som tas upp i Modul 1 appliceras i ett projekt som genomförs parallellt med den teoretiska delen. Projektet motiveras av en samhällsutmaning och fokuserar på att engagera möjliga slutanvändare och andra intressenter i en interdisciplinär deltagande-designprocess. Designaktiviteter kan ske i labb med teknologi och material för prototyputveckling och utvärdering och i miljöer utanför universitetet som intressenter tillhandahåller.

Förväntade studieresultat

Kunskap och förståelse
Efter avslutad kurs ska studenten kunna:

• (FSR 1) förstå, utveckla och utvärdera interaktiva, intelligenta system som är proaktiva, reaktiva, emergenta, sociala och semi-autonoma, i samverkan med människor,
• (FSR 2) förklara hur vi ansvarsfullt kan designa interaktiva, intelligenta system för att garantera transparens, ansvar, och följsamhet till intressenters och samhällets olika (sociala och kulturella) värderingar,
• (FSR 3) förstå människa-AI-interaktion som ett element av ett dynamiskt socio-tekniskt aktivitetssystem baserat på teorier om mänsklig aktivitet (inkluderande normer och värderingar), och hur detta kan översättas till beräkningsbara modeller användbara i system för människa-AI-interaktion och samarbete.

Färdighet och förmåga
Efter avslutad kurs ska studenten kunna:

• (FSR 4) kritiskt granska tillämpningen av teorier, metoder och verktyg för ansvarsfull utveckling av AI, och kunna identifiera resultat som baseras på vetenskapligt sunda metoder,
• (FSR 5) tillsammans med användare utveckla och utvärdera interaktiva, intelligenta system och miljöer utifrån individuella, sociala och etiska perspektiv, som inkluderar trygghet, mångfald, lika rättigheter och ansvarsfull AI,
• (FSR 6) tillämpa relevanta teorier och metoder för att analysera, designa och konstruera interaktiva, intelligenta system i samarbete med användare,
• (FSR 7) samarbeta i interdisciplinära team.

Värderingsförmåga och förhållningssätt
Efter avslutad kurs ska studenten kunna:

• (FSR 8) uppvisa kritiskt tänkande, etisk bedömningsförmåga, och förståelse för samhälleliga behov vid utveckling av interaktiva, intelligenta system,
• (FSR 9) kritiskt utvärdera resultat från användares medverkan i designprocessen, och jämföra dessa med teoretiska, teknologiska och samhälleliga förväntningar.

Behörighetskrav

Minst 90 hp varav 60 hp datavetenskap eller 120 hp inom ett program. Minst 15 hp artificiell intelligens varav 7,5 hp på avancerad nivå. Engelska för grundläggande behörighet för högskolestudier.

Undervisningens upplägg

Kursen består av föreläsningar, projektarbete i datorsalar och andra miljöer samt övningar i mindre grupper. Delar av undervisningen kräver obligatorisk närvaro. Utöver det schemalagda arbetet krävs också individuellt arbete med materialet.

Examination

Modul 1 examineras genom en skriftlig salstentamen och omfattar primärt FSR 1-3. På denna modul ges något av betygen Underkänd (U), Godkänd (3), Icke utan beröm godkänd (4) eller Med beröm godkänd (5).

Modul 2 examineras genom ett projekt som utförs i samverkan med extern problemställare antingen individuellt eller i grupp enligt anvisningar som ges under kursen. Projektarbetet omfattar primärt FSR 4-7. Delar av projektarbetet kan bestå av fältstudier utanför universitetet i samarbete med näringsliv och/eller offentlig sektor och möten under projekttiden kan ske på plats hos en sådan organisation. På denna modul ges något av betygen Underkänd (U) eller Godkänd (G). 

På kursen som helhet ges något av betygen Underkänd (U), Godkänd (3), Icke utan beröm godkänd (4) eller Med beröm godkänd (5). Betyget på kursen bestäms av betyget på modul 1.

Anpassad examination
Examinator kan besluta om avsteg från kursplanens examinationsform. Individuell anpassning av examinationsformen ska övervägas utifrån studentens behov. Examinationsformen anpassas inom ramen för kursplanens förväntade studieresultat. Student som har behov av en anpassad examination ska senast 10 dagar innan examinationen begära anpassning hos Institutionen för datavetenskap. Examinator beslutar om anpassad examination som sedan meddelas studenten.
 

Övriga föreskrifter

I en examen får denna kurs ej ingå, helt eller delvis, samtidigt med en annan kurs med likartat innehåll. Vid tveksamheter bör den studerande rådfråga studievägledare vid Institutionen för datavetenskap och/eller programansvarig för sitt program.

Om kursplanen har upphört att gälla eller kursen slutat erbjudas garanteras en student som någon gång registrerats på kursen minst tre provtillfällen (inklusive ordinarie provtillfälle) enligt denna kursplan under en tid av maximalt två år från det att kursplanen upphört att gälla eller kursen slutat erbjudas.