Några utgångspunkter att fundera på då ni ska starta upp ett AI-projekt.

Nedanstående punkter är bra att reda ut innan en uppstart av ett AI-projekt. Tanken bakom punkterna är att man ska komma igång på ett sådant sätt så att man tidigt blir medveten om några vanliga potentiella fallgropar utifrån ett offentligt perspektiv och hantera dessa. Punkter ska ses som en början, sedan bör varje projekt komplettera med fler frågeställningar utifrån det aktuella uppdraget. Flera av frågorna återkommer i utvecklingskortet för förtroendemodellen.

Frågor är avsedda för diskussion i en tvärfunktionell gruppering. Notera gärna slutsatser som dras, men fokusera på att ge utrymme för dialog. 

Syfte och förutsättningar

• Vilka mål ska användningen av AI uppnå, t.ex. vilka problem ska AI lösa? Eller vilket värde ska AI-systemet ge?
   
• Hur är det tänkt att AI-systemet ska användas? I vilken verksamhet och av vilka?
   
• Vilka personer kommer påverkas av AI-lösningen (direkt och indirekt)? 
   
• Vilka förutsättningar, t,ex. mandat och kompetens, har ni identifierat att ni behöver för att uppnå målet med lösningen? 
   

Data

• Är det rättsligt klarlagt att ni kan använda de data ni vill använda när ni utvecklar, tränar eller använder ert AI-system
   
• Behandlar ni personuppgifter när ni utvecklar, tränar eller använder ert AI-system?
   
• Finns data som går att använda för analys och utveckling? 
   
• Är de data ni har relevant, korrekt och tillräcklig och hur får ni tillgång till träningsdata om de saknas?
   
• Hur säkerställer ni att data som ska användas för att träna lösningen är representativt och hur kompenserar ni för eventuell bias?
   
• Vilka risker finns det för att individer kan missgynnas  av AI-systemet?  

Säkerhet 

• Finns det andra särskilda risker som ni behöver ta hänsyn till vid utveckling av AI-systemet? 
   
• Vilka typer av säkerhetsfrågor behöver ni hantera?  

Förklarbarhet 

• På vilken nivå och sätt kommer ni att behöva förklara hur systemet fungerar för utomstående? 
   
• Hur kan ni hjälpa mottagaren att förstå/tolka svaret/resultatet från AI-systemet?

Förvaltning

• Har ni en plan för hur AI-systemet ska förvaltas, övervakas och utvärderas efter implementering? Detta kan komma att påverka design av och transparenskrav på AI-systemet.