Regeringskansliets rättsdatabaser

Beslut vid regeringssammanträde den 7 december 2023 Sammanfattning En kommitté – en AI-kommission – ska identifiera behov av och lämna förslag på åtgärder som kan bidra till att stärka utveckling och användning av artificiell intelligens (AI) i Sverige på ett hållbart och säkert sätt. AI har stor potential att bidra till ökad innovationsförmåga, högre effektivitet och bättre konkurrenskraft, men även till en effektivare offentlig förvaltning. Syftet med uppdraget är att säkerställa att Sverige som ledande forskningsnation, avancerad industrination och ambitiös välfärdsnation bättre ska tillvarata möjligheterna och hantera riskerna med AI, inklusive att bidra till att identifiera en nisch inom AI där Sverige kan blir en viktig partner för andra. Kommittén ska bl.a. • identifiera behov av och lämna förslag som främjar en konkurrenskraftig, säker och etisk AI-utveckling och AI-användning i Sverige, • identifiera prioriterade internationella insatser och lämna förslag till hur Sverige kan agera proaktivt och samordnat vid framtagande och utveckling av internationella policyer och regelverk för AI, • analysera och beskriva hur användning av AI kan påverka och främja Sveriges säkerhet och demokrati, och • vid behov, lämna författningsförslag. Uppdraget ska slutredovisas senast den 1 juli 2025. Uppdraget att föreslå grundförutsättningar för att möta morgondagens behov inom AI-användning och AI-utveckling Utbildning och forskning är avgörande för Sveriges möjligheter att förverkliga potentialen med AI. Satsningar som stimulerar högre utbildning, forskning, utveckling och innovativa tillämpningar av AI är av mycket stor betydelse för Sveriges AI-utveckling. För att skapa attraktiva forskningsmiljöer och framgångsrikt tillämpa AI krävs samarbete mellan akademin, näringslivet och den offentliga förvaltningen, dvs. de statliga myndigheterna, kommunerna och regionerna. Även grundläggande högskoleutbildning är viktig, t.ex. inom matematik, för att ge nödvändiga grunder för vidare utbildning på avancerad nivå och på forskarnivå. För att bidra till kompetensförsörjning, kunskapsspridning och en ändamålsenlig, säker och etisk tillämpning av nya lösningar och verktyg inom AI kan forskningssatsningar behöva koordineras mellan flera aktörer. Det är också viktigt att det finns goda förutsättningar för att attrahera utländsk kompetens och forskning inom AI med beaktande av säkerhetspolitiska omständigheter och behovet av kompetens för säkerhetsklassad verksamhet. Kommitténs arbete ska i denna del fokusera på högre utbildning och forskning. Om kommittén under sitt arbete identifierar åtgärder för skolväsendet, ska den beakta de möjligheter och risker som AI kan innebära. Det kan exempelvis handla om möjligheter att fördjupa kunskaper inom STEM-ämnena, dvs. naturvetenskap, teknik, ingenjörskap och matematik, eller risker för bristande anpassning till barns och elevers kognitiva utveckling. Kommittén ska emellertid inte lämna förslag som avser skolväsendet. En annan viktig grundförutsättning för att möta morgondagens behov inom AI-användning och AI-utveckling är digital infrastruktur. En digital infrastruktur kan bl.a. bestå av kluster för träning och utveckling av AI-tjänster. Viktig infrastruktur för AI är även beräkningsresurser, lagring och delning av data, hantering av känsliga data, ökade krav på öppna forskningsdata samt experimentmiljöer såsom s.k. regulatoriska testbäddar där aktörer, med fokus på rättsliga bedömningar, kan testa och visa upp innovativa tekniska lösningar tillsammans med behöriga myndigheter. Tillgång till gemensam AI-infrastruktur för den offentliga förvaltningen möjliggör att rättsliga krav kan tillgodoses på ett effektivt och enhetligt sätt. Möjlighet till samarbete kring AI-infrastruktur kan skapa arenor för gemensam kunskapsuppbyggnad och kompetensförsörjning. Samarbeten inom AI-infrastruktur bidrar till att säkerställa att det i hela svenska samhället finns en bred AI-kompetens och en bred förståelse för möjligheter och utmaningar med AI. Kommittén ska därför • analysera möjligheter för och identifiera behov av att stärka attraktiva och excellenta forskningsmiljöer för såväl grundforskning som tillämpad forskning inom AI i Sverige samt för att stärka samarbeten med ledande internationella AI-forskningsmiljöer, • analysera möjligheter för och identifiera behov av att stärka drivkrafter och förutsättningar för universitet och högskolor att utbilda både för grundläggande kompetens och för spetskompetens inom AI, även inom utbildningar som inte har teknisk inriktning, • analysera och föreslå om och i så fall på vilket sätt staten kan bidra till utvecklingen av AI-infrastruktur, och • vid behov föreslå åtgärder, inklusive författningsförslag. Uppdraget att föreslå hur Sverige kan agera proaktivt för att främja en konkurrenskraftig, säker och etisk AI inom EU och globalt Utvecklingen av AI har geopolitisk betydelse och kommer att påverka Sveriges säkerhet och internationella samarbeten. Frågor om standarder, specifikationer och etiska normer för AI kommer sannolikt att få samma geopolitiska dimensioner som t.ex. molntjänster, 5G och 6G. En viktig väg framåt för utvecklingen av gemensamma regler är ett ökat engagemang inom EU och med strategiskt viktiga parter utanför EU. Det är viktigt att Sverige genom EU och annan internationell samverkan, med beaktande av svenska utrikes- och säkerhetspolitiska intressen, agerar proaktivt i samband med att standarder och regelverk tas fram. Ett proaktivt och aktivt förhållningssätt innefattar också ett nära transatlantiskt samarbete och att det handelspolitiska ramverket värnas. Det är politikens roll, såväl nationellt som internationellt, inte minst inom EU, att skapa förutsättningar för att de goda effekterna av teknikens användning och potential för konkurrenskraft förverkligas samtidigt som potentiella negativa samhällseffekter hanteras. Utveckling och användning av AI bör utgå från respekt för grundläggande värderingar om rättssäkerhet, demokrati och mänskliga rättigheter. Kommittén ska därför • analysera och föreslå hur Sverige proaktivt kan bidra till utformningen av internationella policyer och regelverk inom AI-området, i synnerhet genom EU, i syfte att främja en konkurrenskraftig, säker och etisk AI, och • analysera och föreslå vilken roll Sverige kan ha inom det internationella och institutionella AI-arbetet, inom ramen för t.ex. bilaterala partnerskap, FN, OECD, Europarådet, Global Partnership on Artificial Intelligence, Freedom Online Coalition och Nordiska ministerrådet. Uppdraget att föreslå åtgärder för en ökad AI-användning i offentlig förvaltning genom datadriven innovation och dataförsörjning AI kan användas för att effektivisera den offentliga förvaltningen och även för att förbättra dess möjlighet att bedriva ändamålsenlig verksamhet, t.ex. inom vård, socialtjänst och brottsbekämpning. Det ekonomiska värdet av att i större omfattning använda AI i den offentliga förvaltningen är betydande. Myndigheten för digital förvaltning har beräknat att om dagens AI-teknik skulle användas fullt ut i den offentliga förvaltningen skulle Sverige kunna göra stora vinster, ca 140 miljarder kronor årligen vilket motsvarar ca 6 procent av dagens totala offentliga utgifter. Vinsterna skulle uppstå främst genom högre produktivitet, ökade intäkter och minskade felaktiga utbetalningar (delrapport i regeringsuppdraget I2019/01416 och I2019/01020). Mindre och mellanstora aktörer i offentlig förvaltning har inte samma digitala mognad och saknar ibland tillgång till rätt digital kompetens för att implementera och använda AI på ett säkert och effektivt sätt (rapporten AI-användning i företag och offentlig sektor [SCB 2023]). Användningen av AI inom den offentliga förvaltningen är också delvis beroende av äldre offentlig information som inte finns i maskinläsbar form och därför behöver digitiseras. Det är viktigt att öka den offentliga förvaltningens förmåga att agera effektivt och snabbt i ett digitalt samhälle samtidigt som det krävs en medvetenhet om informations- och cybersäkerhet. Kommittén ska därför • analysera förutsättningarna för och föreslå hur användningen av AI i offentlig förvaltning kan utvecklas genom t.ex. policyutveckling, samverkan inom förvaltningen och med andra aktörer samt digitalisering av kärnprocesser och standardiserade modeller, och • vid behov, lämna författningsförslag. Uppdraget att föreslå hur Sverige ska kunna attrahera riskkapital och underlätta innovation för stärkt konkurrenskraft Utvecklingstakten inom nya tekniker, särskilt AI, är hög. För näringslivet är AI en transformativ teknik som kommer att vara avgörande för utvecklingen av företagens produktivitet, kompetensförsörjning och konkurrenskraft. För att vara en ledande AI-nation krävs investeringar och riskkapital bl.a. för innovativ utveckling som på sikt kan omsättas till industriella lösningar. När ny teknik utvecklas i hög hastighet och med breda användningsområden behövs ett kontinuerligt samspel mellan utvecklare och myndigheter. Det är viktigt med ändamålsenligt utformade regelverk och Sverige behöver ta sig an utvecklingsfrågor, som bl.a. regulatoriska testbäddar och användning av öppen källkod. Kommittén ska därför • utreda möjligheterna att öka intresset för AI-investeringar, inklusive riskkapital, i Sverige samt etablera eller stärka samarbeten på relevanta marknader i Sverige och i andra länder, • analysera hur Sverige kan främja AI-driven innovation, t.ex. genom policyutveckling eller införande av regulatoriska testbäddar, och • vid behov föreslå åtgärder, inklusive författningsförslag. Uppdraget att analysera hur användning av AI kan påverka och främja Sveriges säkerhet och motverka otillbörlig påverkan på demokratin AI är en teknik med dubbla användningsområden, där tekniken kan användas både i välvilliga och illvilliga syften. Även om AI öppnar upp möjligheter för säkrare digitalisering kan fientligt sinnade aktörer använda AI för att identifiera eller skapa nya risker och sårbarheter. AI kan också vara ett kraftfullt verktyg för att generera och sprida falsk eller vilseledande information i syfte att manipulera allmänna val och andra demokratiska processer. Det finns samtidigt stor potential i AI för innovation inom säkerhet, så som informations- och cybersäkerhet, och arbetet mot desinformation. Kommittén ska därför • analysera och beskriva hur AI kan användas för innovation inom säkerhet och för att bidra till att säkerställa goda förutsättningar för ett öppet och mångfacetterat offentligt samtal där demokratiska processer inte utsätts för otillbörlig påverkan, och • med utgångspunkt i tillgängliga analyser av risker och möjligheter med AI identifiera prioriterade frågor inom säkerhet och AI där det från ett svenskt perspektiv behövs ytterligare forskning. Konsekvensbeskrivningar Kommittén ska bedöma konsekvenser och kostnader av sina förslag för staten, kommuner, regioner, företag eller andra enskilda i enlighet med 14, 15 och 15a §§ kommittéförordningen (1998:1474). Beskrivningen av konsekvenserna ska motsvara de krav på innehållet i konsekvensutredningar som finns i 6, 7 och 8 §§ förordningen (2007:1244) om konsekvensutredning vid regelgivning. Omfattningen av dessa analyser ska anpassas efter förslagens karaktär och de bör kvantifieras i den utsträckning och i de delar det är möjligt. Om förslagen innebär ökade kostnader eller minskade intäkter för staten, ska förslag till finansiering lämnas. Vid utformningen av förslagen bör kommittén även beakta att förslagens utformning, där så är möjligt, begränsar företagens regelbörda och administrativa kostnader. Vid utformningen av förslagen ska kommittén även där det är relevant beakta förslagens kostnadseffektivitet och samhällsekonomiska effektivitet. Kontakter och redovisning av uppdraget Kommittén ska hålla sig informerad om och beakta relevanta regeringsuppdrag med koppling till AI, t.ex. Statens skolverks (Skolverket) uppdrag att göra en översyn av området digitalisering i förskolans läroplan, arbete som bedrivs inom Regeringskansliet, pågående internationella förhandlingar och framåtblickande arbete med nya tekniker samt arbete som bedrivs av andra utredningar. Kommittén ska även hålla sig informerad om och förhålla sig till relevant EU-lagstiftning, t.ex. de pågående förhandlingarna om en AI-förordning (COM (2021) 206) respektive datarättsförordning (COM (2022) 68). Kommissionen ska vid behov inhämta synpunkter från relevanta aktörer, bl.a. Skolverket. Kommittén ska löpande hålla Regeringskansliet (Finansdepartementet) informerat om sitt arbete. Arbetet kan lämpligen utföras som ett antal delstudier som löpande rapporteras i den form som kommittén anser är lämplig. Uppdraget ska slutredovisas senast den 1 juli 2025. (Finansdepartementet)