Dataskydd inom IT och AI

Delkurser

Delkurs 1 - Introduktion till dataskydd inom IT och AI (8p)

Kursen ger en introduktion till dataskydd inom IT och AI. Den täcker de viktigaste koncepten och principerna för dataskydd och syftar till att rusta de studerande med nödvändig kunskap om lagstiftnings ramverk som GDPR, samt hur dessa principer tillämpas och hanteras inom digitala miljöer, särskilt i projekt som involverar AI och automatiserad databehandling. Kursen ger därtill de studerande insikter i de komplexa utmaningar och möjligheter som uppstår i samband med dataskydd inom AI-teknologi. Detta inkluderar djupdykningar i hur personuppgifter samlas in och behandlas, vilka risker detta medför, hur säkerhetsincidenter kan förebyggas och hanteras samt vilka tekniska lösningar som kan användas för att skydda data. Vidare utforskas de praktiska konsekvenserna av att integrera dataskydd i IT-system och AI-projekt från början (Privacy by Design). Kursen innefattar även en kombination av teoretiska föreläsningar, praktiska övningar och verklighetsbaserade fallstudier där de studerande får möjlighet att utveckla förståelse för hur organisationer kan utforma och implementera effektiva dataskyddsstrategier. De studerande kommer även att utforska etiska aspekter av dataskydd, inklusive dilemman som rör AI och automatiserat beslutsfattande, och hur dessa kan balanseras med lagkrav och affärsnytta.

Nedanstående områden är huvudmoment i kursen:

- Grundläggande begrepp och principer för dataskydd

- GDPR och dess praktiska tillämpning inom IT och AI

- Hantering av personuppgifter och integritet i digitala miljöer

- Förebyggande av säkerhetsincidenter och riskhantering

- Privacy by Design och dess tillämpning i IT- och AI-projekt

- Integritetsbevarande tekniker och tekniska skyddsåtgärder

- Etiska överväganden och dilemman kopplade till AI och dataskydd

Delkurs 2 - Regulatoriska ramverk (10p)

Kursen ger de studerande en djupgående genomgång av de juridiska och regulatoriska ramar som styr dataskydd inom IT och AI, med fokus på hur dessa påverkar utvecklingen, implementeringen och användningen av tekniska system. Kursen ger de studerande en omfattande förståelse för de regler och lagar som styr dataskydd, särskilt EU:s dataskyddsförordning (GDPR), DORA, AI Act, samt hur dessa ramverk tillämpas i praktiken. Kursen ämnar att ge insikt i de utmaningar organisationer möter när de försöker säkerställa att IT och AI-system uppfyller gällande dataskyddsregleringar. Detta inkluderar frågor om ansvarsfördelning, transparens, och hantering av personuppgifter i AI-drivna lösningar. De studerande kommer att lära sig att identifiera juridiska risker och implementera strategier för att hantera dem genom efterlevnadsbedömningar och riskhantering. De studerande får insikter i hur företag och organisationer arbetar med att implementera rättsliga krav på både strategisk och operativ nivå. Genom föreläsningar, projektbaserade uppgifter och case studier kommer de studerande att fördjupa sig i hur man navigerar det komplexa juridiska landskapet och utvecklar hållbara dataskyddsstrategier.

Nedanstående områden är huvudmoment i kursen:

- EU:s dataskyddsförordning (GDPR) och dess praktiska tillämpning

- AI Act och dess betydelse för dataskydd och AI-system

- Internationella och europeiska dataskyddsregler och standarder

- Ansvarsfördelning, transparens och redovisningsskyldighet i AI-projekt

- Hantering av personuppgifter och dataflöden i gränsöverskridande kontexter

- Strategier för riskhantering och efterlevnadsbedömningar

- Praktisk tillämpning av juridiska ramverk genom fallstudier och projektuppgifter

Delkurs 3 - Compliance och etik (6p)

Kursen ger de studerande specialiserade kunskaper rörande regelefterlevnad (compliance) och etiska överväganden inom IT och AI. Kursen behandlar hur organisationer kan säkerställa att deras teknologiska lösningar följer både externa lagkrav och interna policyer, med särskild vikt på AI-system. Genom att kombinera juridisk förståelse med praktisk tillämpning får de studerande verktyg att arbeta proaktivt med compliance och hantera etiska utmaningar som uppstår i utvecklingen och användningen av digitala lösningar. Ett centralt fokus är hanteringen av etiska risker, såsom bias i AI-system, integritetsfrågor, och AI:s sociala påverkan. De studerande kommer att analysera exempel där brister i compliance och etik har lett till negativa konsekvenser för företag och samhället. Genom fallstudier och gruppdiskussioner får de studerande praktiska insikter i hur dessa problem kan förebyggas genom väl genomtänkta strategier och policyer.

Nedanstående områden är huvudmoment i kursen:

- Grundläggande principer för compliance inom IT och AI

- Hantering av juridiska och etiska risker i AI-projekt

- Interna policyer och externa regelverk för regelefterlevnad

- Identifiering och hantering av bias och diskriminering i AI-system

- Privacy, datasäkerhet och skydd av användardata

- Etiska överväganden kopplade till AI:s påverkan på individer och samhälle

- "Ethics by Design" och integrering av etiska principer i teknisk utveckling

Efter avslutad utbildning ska den studerande ha kunskaper om/i

• att beskriva och förklara relevanta dataskyddsregelverk, inklusive GDPR, DORA och AI Act, samt deras tillämpning i IT- och AI-system
• att redogöra för grundläggande dataskyddsprinciper, såsom personuppgiftsansvar, integritetsskydd och säker databehandling
• att identifiera risker och hot kopplade till datahantering och säkerhet i digitala miljöer
• att förklara principerna för regelefterlevnad (compliance) och dess roll i dataskydd och IT-säkerhet
   

Utbildningen ger färdigheter i att

• tillämpa dataskyddsregelverk, såsom GDPR, DORA och AI Act, inom IT och AI
• analysera och tolka regelverk kopplat till dataskydd och applicera dessa på IT- och AI-system
• utarbeta riskbedömningar och identifiera risker inom dataskydd och säkerhet
• utföra och dokumentera konsekvensanalyser och dataskyddsbedömningar (DPIA) enligt lagkrav.

 
Utbildningen ger kompetenser för att 

• självständigt analysera och bedöma organisationers dataskyddsarbete och föreslå åtgärder för att förbättra regelefterlevnad
• utifrån identifierade risker planera och genomföra strategier för dataskydd och säkerhet i IT- och AI-system
• med ansvar leda arbetet med att integrera dataskyddsprinciper i tekniska projekt genom Privacy by Design och Ethics by Design
• hantera säkerhetsincidenter genom att utvärdera deras påverkan och genomföra åtgärder enligt lagstiftning och interna regler. 

I utbildningens ledningsgrupp är personer från följande företag och organisationer representerade:

• Avarn Security 
• Företagsuniversitetet
• Försvarsmakten
• Hitachi Energy
• Kronan Säkerhet
• Kungliga Tekniska Högskolan
• SECNET
• Stockholms stad
• Stockholms universitet
• Sundbybergs stad 
• Sveriges Riksdag
• Säkkon
• Tryggare Sverige