Generativ AI i kommuner och myndigheter: så börjar ni säkert
En guide för offentlig sektor om AI-policy, sekretess, mänsklig kontroll, upphandling och dataskydd.
· 5 min läsning
Välj ett begränsat användningsfall
Generativ AI kan exempelvis vara ett stöd för att utforma enklare textutkast, strukturera icke-känslig information eller förklara offentligt tillgängliga dokument. Men införandet bör börja i verksamhetens behov, inte i valet av en viss AI-modell.
Digg och IMY har gemensamt tagit fram riktlinjer för generativ AI i offentlig förvaltning. De behandlar bland annat ansvar, dataskydd, informationssäkerhet, upphandling och upphovsrätt.
Fem steg till ett kontrollerat införande
- Utse en ansvarig för användningen och beskriv den nytta som ska följas upp.
- Fastställ vilka informationsklasser och uppgifter som får användas i verktyget.
- Gör en riskbedömning för sekretess, personuppgifter, informationssäkerhet och felaktiga AI-svar.
- Säkerställ mänsklig granskning, särskilt när resultatet kan påverka invånare eller myndighetsutövning.
- Dokumentera styrning, leverantörsavtal, användningsvillkor och lärdomar från piloten.
Får AI fatta myndighetsbeslut?
AI:s roll måste prövas mot de regler som gäller för det konkreta beslutet och verksamheten. Det är inte säkert att ett system får användas automatiskt bara för att tekniken fungerar.
Diggs riktlinjer betonar mänsklig kontroll vid användning av generativ AI som beslutsstöd. Offentliga aktörer måste även bedöma frågor om rättssäkerhet, likabehandling, sekretess och dokumentation.
Vad bör stå i en AI-policy?
- Godkända verktyg och tillåtna användningsområden.
- Vilka data och sekretessnivåer som aldrig får matas in.
- Krav på faktagranskning, spårbarhet och ansvar för publicerat material.
- Rutiner för incidenter, uppföljning och kompetensutveckling.