Tillämpad AI för systemutveckling och test 

Utbildningens mål

Kunskaper

Efter fullföljd utbildning med godkänt resultat ska den studerande kunna
• redogöra för grundläggande begrepp och principer för generativ AI/LLM, exempelvis tokens,
kontextfönster, embeddings, temperatur samt vanliga feltyper såsom hallucinationer och bias,
• förklara varför LLM:er kan ge icke tillförlitliga svar och vilka verifieringsbehov och kvalitetsrisker detta
medför i utvecklings- och testarbete,
• beskriva metoder för att koppla LLM till intern kunskap och system på ett kontrollerat sätt, inklusive
RAG, vektorsök, källhänvisning och verktygsanrop,
• redogöra för principer för ansvarsfull AI-användning i professionella miljöer, inklusive sekretess,
immateriella rättigheter, dataskydd och säkerhetskrav,
• förklara hur styrning och kvalitetssäkring kan integreras i AI-assisterad utveckling, exempelvis
genom acceptance criteria, kodstandarder och kravspårbarhet.
• beskriva vanliga riskmönster i AI-genererad kod och hur dessa påverkar säkerhet och kvalitet.
• redogöra för hur AI kan användas i testdesign och testautomatisering samt vilka kriterier som avgör
kvalitet i testfall,
• förklara principer för utvärdering av AI-lösningar i produktion, inklusive referensdata, kvalitetsmått
och skyddsmekanismer, samt åtgärdsförslag
• beskriva grundläggande drift- och kostnadsaspekter för AI-funktioner, exempelvis loggning,
spårbarhet, rate limits och kontinuerlig uppföljning.

Färdigheter

Efter fullföljd utbildning med godkänt resultat ska den studerande kunna
• utforma och standardisera prompts och arbetsflöden som ger reproducerbara resultat för kod, testfall
och dokumentation,
• använda AI-stöd i utvecklingsmiljö för att bryta ner krav, föreslå arkitektur och generera samt
förbättra kod och dokumentation,
• styra och kvalitetssäkra AI-assisterad kodning genom tydliga kriterier och refaktorera genererad kod
för läsbarhet och underhållbarhet,
• identifiera och åtgärda risker i AI-genererad kod genom tillämpning av säkerhets- och
kvalitetsprinciper,
• genomföra strukturerad code review med stöd av AI och motivera förbättringar kopplat till prestanda,
säkerhet och underhållbarhet,

Kompetenser

Efter fullföljd utbildning med godkänt resultat ska den studerande kunna

• planera, genomföra och slutföra AI-assisterade utvecklings- eller testuppdrag med tydliga mål,

avgränsningar och dokumenterad spårbarhet,

• ta ansvar för ansvarsfull användning av generativ AI genom att genomföra riskbedömningar
kopplade till sekretess, immateriella rättigheter, dataskydd och regelefterlevnad samt välja lämpliga
skyddsåtgärder,
• självständigt bedöma när AI är ett lämpligt stöd och när manuella metoder krävs samt motivera krav
på verifiering och evidens i leveranser,
• etablera och vidareutveckla gemensamma arbetssätt för AI i utveckling och test, exempelvis
promptstandarder, granskningsrutiner, teststrategier och dokumentationskrav,
• leda och facilitera kvalitetssäkring av AI-genererat material genom strukturerad peer review, tydliga
acceptanskriterier och beslut om refaktorering eller omtag,
• säkerställa att AI-assisterade lösningar och tester är underhållbara över tid genom att prioritera
läsbarhet, testtäckning och hantering av teknisk skuld,
• utvärdera och förbättra en AI-funktion genom att tolka kvalitetsmått, analysera avvikelser och
genomföra iterativa förbättringar, samt
• samverka tvärfunktionellt för att integrera AI i befintliga processer och hantera förändring i arbetssätt
utan att kompromissa med säkerhet och kvalitet.

LLM-grunder och ansvarsfull användning (8p)

Kursen ger en introduktion till hur stora språkmodeller (LLM) fungerar tekniskt och hur de används i professionella utvecklingsmiljöer. Fokus ligger på att förstå modellernas probabilistiska natur och hur detta påverkar kvalitet, reproducerbarhet och risk. Den studerande tränas i att identifiera och hantera begränsningar såsom hallucinationer, bias och osäker faktagrund.

Kursen behandlar metoder för strukturerad promptformulering för att skapa förutsägbara och spårbara resultat samt principer för Retrieval-Augmented Generation (RAG) när interna datakällor används. Vidare behandlas juridiska och organisatoriska aspekter av AI-användning, inklusive hantering av företagshemligheter, immateriella rättigheter och dataskydd vid användning av molnbaserade AI-tjänster.

Huvudmoment i kursen är:

• grundläggande modellarkitektur inklusive tokens, kontextfönster och embeddings,

• metoder för strukturerad promptformulering och styrning av modellbeteende,

• principer för RAG och skillnaden mellan träningsdata och hämtad kontext,

• integration genom verktygsanrop och koppling till API:er och system, samt

• riskhantering och regelefterlevnad, inklusive bias, säkerhetsrisker och dataskydd.

Testning och kvalitet med AI (10p)

Kursen syftar till att ge den studerande fördjupad kompetens i att utforma och implementera teststrategier med stöd av AI. Fokus ligger på hur AI kan användas för att effektivisera testdesign, öka testtäckning och stärka kvalitetssäkring utan att minska kontroll och spårbarhet.

Den studerande tränas i att använda AI för att analysera krav och kod i ett tidigt skede, identifiera riskområden och generera relevanta testfall. Kursen behandlar även utmaningar såsom instabila tester och felaktigt genererade testscenarier, samt hur robusta testramverk etableras där AI-stöd integreras i CI/CD flöden. Vidare behandlas AI-stödd incidentanalys och hur loggar och felkoder kan analyseras systematiskt för att identifiera grundorsaker.

Särskild vikt läggs vid kvalitetssäkring av AI-genererade tester, hantering av testdata samt krav på dataskydd och regelefterlevnad.

Huvudmoment i kursen är:

• AI-stödd testdesign och riskanalys baserad på krav och user stories,

• automatisering och förbättring av enhets-, integrations- och end-to-end-tester,

• generering och hantering av syntetisk testdata med beaktande av dataskydd,

• kvalitetssäkring av AI-genererade tester och hantering av instabilitet, samt

• AI-stödd felsökning och analys av grundorsaker i komplexa systemmiljöer.

I utbildningens ledningsgrupp är personer från följande företag och organisationer representerade:

• Försvarsmakten
• Truecaller AB
• Stockholm stad
• Atea
• CGI Sverige AB
• AM Education
• Folkuniversitetet
• Företagsuniversitetet