Förtroendemodellen
Inledning
Förtroendemodellen för artificiell intelligens (AI) är ett verktyg för självutvärdering av användningen av AI hos aktörer inom offentlig sektor. Modellen har flera syften. Det främsta syftet är att bevara, och till och med öka, den öppenhet och transparens som finns inom svensk offentlig förvaltning. En ifylld förtroendemodell ska som huvudregel kunna visas upp för tillsynsmyndigheter och intresserad allmänhet. I vissa fall krävs att en aktör visar att AI använts. Genom att använda förtroendemodellen får även du som vill använda AI i din verksamhet en ökad trygghet om regler och förhållningssätt som behöver beaktas vid användningen av AI beaktas. Därmed kan förtroendemodellen även tjäna den interna verksamhetsutvecklingen.
Förtroendemodellen är uppdelad i tre delar. Den första delen är ett antal frågeställningar som varje myndighet bör reflektera över inför att verksamheten bestämmer sig för om AI kan vara en lösning för en utmaning hos verksamheten. Den andra delen är det mest omfattande och är till för dem som bestämt sig för att använda sig av ett AI-system. Den tredje delen är ett kort som är till för uppföljning. Vid genomförande av delen “Utveckling” kan en märkning fås, som kan användas utåt för att visa att förtroendemodellen använts.
Bakgrund
Förtroendemodellen tillkom genom regeringsuppdraget Uppdrag om att testa ny teknik vid automatisering inom offentlig förvaltning genom utarbetning Myndigheten för digital förvaltning (Digg) och Lantmäteriet. Förtroendemodellen är vidareutvecklad i enlighet med regeringsuppdraget Uppdrag att främja offentlig förvaltnings förmåga att använda artificiell intelligens av Arbetsförmedlingen, Bolagsverket, Digg, Lantmäteriet och Skatteverket.
Förtroendemodellen är enligt regeringsuppdraget ett frivilligt ramverk.
Förtroende och transparens
I Sverige finns det ett högt förtroende för offentlig sektor. För att bevara eller stärka förtroendet när offentlig sektor använder AI måste AI användas på ett ansvarfullt sätt, med stöd av välutvecklade processer, ett systematiserat arbetssätt och med god dokumentation.
En viktig aspekt av förtroende är transparens. Sverige har med offentlighetsprincipen ett väl utvecklat system för transparens inom offentlig sektor. Det saknas dock en modell för sammanhållen dokumentation av när AI används. Det är för en person utanför verksamheten sällan tydligt vilken dokumentation som är relevant och var den finns.
En modell för sammanhållen dokumentation underlättar för verksamheten att ställa sig de frågor som krävs för att säkra att AI används på rätt sätt och att upptäcka eventuella luckor. En sammanhållen dokumentation underlättar också för allmänheten att få insyn i vad som gjorts och vilka sorts handlingar som upprättats, eller bör ha upprättats. Tillsynsmyndigheter, domstolar och granskande aktörer är också betjänta av sammanhållen dokumentation. Att det finns tillsynsmyndigheter med goda möjligheter att bedriva tillsyn är i Sverige tydligt förtroendeförstärkande.
Förtroendemodellen syftar till att vara ett bidrag till att stärka användningen av AI på ett ansvarsfullt och transparent sätt.
Vill du bidra till utvecklingen?
Vi har skapat en kommunikationstråd på Dataportalens Community för Förtroendemodellen där du kan kommentera innehåll och förbättringsförslag med mera. https://community.dataportal.se/topic/671/f%C3%B6rtroendemodellen