Myndigheterna och AI - En studie om möjligheter och risker med att använda AI i statsförvaltningen

I studien beskriver Statskontoret hur statliga myndigheter använder AI samt vilken potential och vilka risker som finns med att använda AI i statsförvaltningen.

Myndigheterna har kommit olika långt

Vår studie visar att det finns en stor variation i hur långt de statliga myndigheterna har kommit när det gäller användningen av AI. Vissa myndigheter har valt att gå snabbare fram, medan andra är medvetet försiktiga och befinner sig i ett utforskande läge. Det varierar också på vilket sätt som myndigheterna använder sig av AI. I rapporten ger vi exempel på olika användningsområden.

Myndigheterna ser stor potential men det finns risker

Myndigheterna som vi har varit i kontakt med anser att AI har stora möjligheter att bidra till att öka effektiviteten och rättssäkerheten i deras verksamheter. De ser också möjligheter till att förbättra både service och tillgänglighet.

Samtidigt finns det flera risker med att använda AI som rör myndigheternas möjligheter att leva upp till den statliga värdegrunden. Det handlar bland annat om risk för rättsosäkerhet, bristande transparens och risker kopplade till den personliga integriteten.

Vår studie visar att myndigheterna generellt sett verkar vara försiktiga med att använda AI inom riskfyllda områden. De flesta AI-satsningar sker inom den interna administrationen och då är riskerna förhållandevis små. Men det finns exempel på mer riskfyllda satsningar, framför allt i de fall då myndigheterna använder AI inom verksamheter som påverkar enskilda.

Myndigheterna behöver hantera riskerna och tänka strategiskt

Vår studie visar att myndigheterna är medvetna om riskerna men att det är en utmaning för myndigheterna att hantera dem och tänka strategiskt kring AI. Vi bedömer därför att alla myndigheter behöver förstå och förhålla sig till teknikutvecklingen och analysera om och på vilket sätt AI kan vara – eller inte vara – ett verktyg för att på ett bättre sätt genomföra sitt uppdrag.

I rapporten ger vi också några medskick till myndigheter som använder eller planerar att använda AI framöver. Det handlar i grunden om att arbeta aktivt med att säkerställa att de lever upp till principerna i den statliga värdegrunden när de använder AI. Myndigheterna behöver också dokumentera, följa upp och utvärdera AI-satsningarna i större utsträckning än vad de gör i dag.

Regeringen har en viktig roll att driva utvecklingen

Vår bild är att statsförvaltningen som helhet befinner sig i ett slags vänteläge i förhållande till den tekniska utvecklingen inom AI. Att skynda långsamt kan vara klokt ibland, men väntan kan också leda till nya risker.

I rapporten lyfter vi därför fram några aspekter där regeringen kan underlätta arbetet för myndigheterna. Vi bedömer också att det finns skäl för regeringen att förtydliga styrningen av myndigheternas roll inom området. Hit hör exempelvis att tydliggöra vilken eller vilka myndigheter som bör ansvara för att samordna eventuella gemensamma AI-satsningar i statsförvaltningen.

En del av skriftserien Om offentlig sektor

Studien är initierad av Statskontoret och ingår i skriftserien Om offentlig sektor. Syftet med studien är att bidra till att utveckla regeringens och statliga myndigheters styrning med kunskap så att den kan bli så effektiv och ändamålsenlig som möjligt.