Anpassningar till AI-förordningen Säker användning, effektiv kontroll och stöd för innovation

Behovet av kompletterande regelverk

Utredningen föreslår att de svenska bestämmelser som behöver komplettera AI-förordningen ska samlas i en ny lag och en ny förordning. I betänkandet benämns de föreslagna författningarna för kompletteringslagen och kompletteringsförordningen.

Vidare föreslår utredningen att ord och uttryck i kompletteringslagen och kompletteringsförordningen ska ha samma betydelse som

i AI-förordningen. Utredningen föreslår att hänvisningarna till AI- förordningen i bestämmelser om sanktionsavgift och anmärkning ska vara statiska, dvs. avse förordningen i den ursprungliga lydelsen. Övriga hänvisningar ska vara dynamiska, dvs. avse förordningen i den vid varje tidpunkt gällande lydelsen.

Utredningen gör vidare bedömningen att det behövs kompletterande bestämmelser om sekretess, tystnadsplikt, uppgiftsskyldighet och sekretessbrytande bestämmelser.

Nationella behöriga myndigheter och systemet för marknadsövervakning och kontroll

Marknadskontrollmyndigheter

Utredningen har kommit fram till att ansvarsfördelningen för marknadskontroll ska göras med utgångspunkt från att ansvaret behöver centraliseras samtidigt som sektorsspecifik kunskap behöver säkerställas vad gäller vissa produkter och områden.

Utredningen föreslår därför ett system för marknadskontroll som består av flera marknadskontrollmyndigheter och där PTS ska vara marknadskontrollmyndighet med huvudsakligt ansvar för AI-förordningen.

Utredningen föreslår dessutom att PTS, IMY och Finansinspektionen ska få ett delat ansvar för marknadskontroll över AI-system med hög risk som avses i bilaga III till AI-förordningen. Utredningen föreslår också att nio befintliga marknadskontrollmyndigheter ska få ansvar för marknadskontroll över AI-system med hög risk som är relaterade till den harmoniserade unionslagstiftningen i bilaga IA till AI-förordningen. Utredningen föreslår vidare att IMY ska vara huvudsakligt ansvarig för marknadskontroll över de förbjudna AI- användningsområdena i artikel 5. För området i artikel 5 föreslås även PTS och Finansinspektionen få ett visst ansvar. Utredningen föreslår dessutom att PTS och IMY ska dela på ansvaret för transparenskraven i artikel 50.

Anmälande myndigheter och anmälda organ

Utredningen föreslår att Swedac och Läkemedelsverket ska vara anmälande myndigheter enligt AI-förordningen. Swedac föreslås ansvara för anmälda organ inom alla områden. Detta med undantag för anmälda organ för AI-system med hög risk som är relaterade till produkter som omfattas av EU:s förordningar om medicintekniska produkter, för vilka Läkemedelsverket föreslås ansvara. Utredningen föreslår vidare att IMY ska vara den myndighet som ska fungera som anmält organ enligt artikel 43.1 tredje stycket i AI-förordningen.

Artikel 77 i AI-förordningen

AI-förordningen innehåller vissa bestämmelser som omfattar nationella offentliga myndigheter eller organ som utövar tillsyn över eller kontrollerar efterlevnaden av skyldigheter enligt unionsrätt om skydd av grundläggande rättigheter. Varje medlemsstat skulle senast den 2 november 2024 ha identifierat de offentliga myndigheterna eller organen som avses i artikel 77.1 i AI-förordningen. Samtidigt skulle en förteckning över dessa ha gjorts och ha anmälts till kommissionen och de andra medlemsstaterna. Det har Sverige gjort. Förteckningen ska hållas uppdaterad.

Utredningen föreslår att DO, IMY, JK, JO och Säkerhets- och integritetsskyddsnämnden ska vara upptagna i förteckningen och att Sverige anmäler den med dessa myndigheter uppdaterade förteckningen till kommissionen.

Utredningen bedömer att det är svårt att tolka vilka myndigheter och organ som avses i artikeln och bedömer att regeringen bör ta hjälp av myndigheter som kan avses att bedöma om de är sådana myndigheter. Utredningen bedömer vidare att regeringen bör följa diskussionerna på EU-nivå och de andra medlemsstaternas förteckningar för att uppdatera förteckningen på rätt sätt.

Samordning och samverkan

Utredningen bedömer att det finns ett stort behov av samordning och samverkan inom AI-förordningen samt att marknadskontrollmyndigheternas samordning och samverkan i vissa avseenden bör regleras särskilt. Mot den bakgrunden föreslår utredningen att en myndighet, PTS i egenskap av marknadskontrollmyndighet med huvudsakligt ansvar för AI-förordningen, ska vara samordnande marknadskontrollmyndighet och att den myndigheten också ska vara gemensam kontaktpunkt.

Utredningen föreslår att den samordnande marknadskontrollmyndigheten ska ges ett flertal uppgifter. Utredningen föreslår därför att PTS ska leda en samordningsfunktion där marknadskontrollmyndigheterna ska samverka och utbyta information. Vidare föreslår utredningen att PTS ska samordna ett marknadskontrolluppdrag, om ett enskilt marknadskontrollärende berör flera marknadskontrollmyndigheters ansvarsområden.

Att utöva marknadskontroll över AI-system kan förväntas bli komplicerat. Mot den bakgrunden föreslår utredningen att PTS i komplicerade ärenden ska stödja vissa av marknadskontrollmyndigheterna med expertkunskap.

AI-förordningen innehåller vissa bestämmelser om medvetandehöjande åtgärder samt åtgärder som bl.a. syftar till att underlätta för företag. Näringslivet efterfrågar dessutom vägledning om AI-förordningen. Utredningen föreslår därför att PTS ska ansvara för den huvudsakliga kontakten med allmänheten, ansvara för åtgärderna i artikel 62.1 b–d i AI-förordningen och för att lämna generell vägledning om AI-förordningen.

Utredningen föreslår vidare att PTS ska ansvara för rapporteringskraven i artikel 99.11 i AI-förordningen samt att PTS ska få meddela vissa föreskrifter. Även IMY och Finansinspektionen föreslås ansvara för vissa rapporteringskrav. Utredningen bedömer därtill att IMY och Finansinspektionen bör ingå i marknadskontrollrådet.

Utredningen bedömer att det i övrigt inte behövs kompletterande bestämmelser i nationell rätt för att uppfylla behovet av samordning och samverkan.

Befogenheter och ingripanden

Utredningen föreslår vissa kompletterande bestämmelser om befogenheter för marknadskontrollmyndigheterna, enligt artikel 14.4 i EU:s marknadskontrollförordning samt enligt AI-förordningen.

AI-förordningen anger att medlemsstaterna ska fastställa bestämmelser om sanktioner och andra efterlevnadsåtgärder. Utredningen föreslår att de nationella behöriga myndigheterna ska ha möjlighet att besluta om anmärkning och sanktionsavgift samt om förelägganden med eller utan vite. I vissa undantagsfall föreslår utredningen att allmän förvaltningsdomstol ska pröva frågor om sanktionsavgifter som första instans. Varje medlemsstat ska fastställa regler om i vilken utsträckning sanktionsavgifter får påföras offentliga myndigheter och organ som är inrättade i medlemsstaten. Utredningens föreslår att anmärkning och sanktionsavgift samt föreläggande med eller utan vite ska kunna påföras även myndigheter. Undantag föreslås dock för domstolarna inom deras dömande verksamhet.

Utredningen föreslår inga lägsta nivåer för sanktionsavgifter. Sanktionsavgifternas högsta nivåer framgår av AI-förordningen. För myndigheter föreslår utredningen de högsta belopp för sanktionsavgifter som framgår av kompletteringslagen.

Nationell registrering av AI-system med hög risk inom området kritisk infrastruktur

AI-system med hög risk som avses i punkt 2 i bilaga III ska registreras på nationell nivå (artikel 49.5). Utredningen bedömer att närmare bestämmelser om hur registreringen av sådana AI-system ska utformas behöver regleras nationellt. Utredningen föreslår att PTS, i egenskap av marknadskontrollmyndighet med ansvar för punkt 2 i bilaga III, ska ansvara för registreringen och att vissa operatörer ska ha en skyldighet att anmäla sig och sitt AI-system till PTS.

Utredningen föreslår vidare att PTS ska få meddela föreskrifter om vilka uppgifter som ska framgå av anmälan. Utredningen föreslår att uppgiftsskyldigheten inte ska gälla för uppgifter som är säkerhetsskyddsklassificerade enligt säkerhetsskyddslagen (2018:585).

Offentlighet och sekretess inom systemet för marknadsövervakning och kontroll

För att uppgifter som de nationella behöriga myndigheterna hanterar ska kunna omfattas av sekretess bedömer utredningen att det bör föras in en ny bestämmelse i OSF. Utredningen föreslår även en uppgiftsskyldighet som innebär att en marknadskontrollmyndighet ska lämna en uppgift till en annan marknadskontrollmyndighet om uppgiften behövs hos myndigheten i egenskap av samordnande marknadskontrollmyndighet, gemensam kontaktpunkt eller för marknadskontroll enligt AI-förordningen, kompletteringslagen eller föreskrifter som har meddelats med stöd av kompletteringslagen.

Utredningen föreslår vidare två bestämmelser om tystnadsplikt för privata aktörer i kompletteringslagen och en ny bestämmelse till skydd för incidentrapportering i OSL och OSF.

Utredningen bedömer att det finns ett tillräckligt sekretesskydd i OSL för uppgifter som ska registreras enligt artikel 49.5 i AI-förordningen.

Innovationsfrämjande åtgärder

I AI-förordningen regleras olika innovationsfrämjande åtgärder. Dessa innefattar regulatoriska sandlådor för AI (artiklarna 57–59) och testning av AI-system med hög risk under verkliga förhållanden utanför regulatoriska sandlådor för AI (artiklarna 60 och 61).

Regulatoriska sandlådor för AI

Medlemsstaterna ska säkerställa att deras behöriga myndigheter inrättar minst en regulatorisk sandlåda för AI på nationell nivå. Den ska vara i drift senast den 2 augusti 2026.

Utredningen bedömer att Sverige på egen hand bör inrätta minst en regulatorisk sandlåda för AI och att det inte bör preciseras i författning om en sandlåda ska vara horisontell eller vertikal. Inrättandet måste dock uppfylla de krav som följer av AI-förordningen.

Utredningen föreslår ett system för inrättande av minst en regulatorisk sandlåda för AI som ska fungera såväl vertikalt som horisontellt. Utredningen föreslår att en inrättande myndighet, PTS i egenskap av marknadskontrollmyndighet med huvudsakligt ansvar för AI-förordningen, ska inrätta sandlådan och att andra nationella behöriga myndigheter med marknadskontrollansvar ska medverka i specifika sandlådeprojekt. Därutöver kan det bli aktuellt att involvera även andra myndigheter som avses i artikel 57.10 i AI-förordningen.

Utredningen föreslår en lösning som ger en inrättande myndighet ansvar för huvudsakliga delar av den regulatoriska sandlådan för AI och där andra nationella behöriga myndigheter tar ett gemensamt ansvar med en inrättande myndighet beträffande specifika sandlådeprojekt. Bestämmanderätten över verksamheten och vissa befogenheter gäller för såväl den inrättande myndigheten som för andra nationella behöriga myndigheter. En inrättande myndighet ska också ha en informationsplikt i den mån sandlådeprojektet berör ansvarsområdet för en myndighet som avses i artikel 57.10 i AI-förordningen. Detta skapar en praktiskt möjlig regulatorisk sandlåda för AI som tar hänsyn till myndigheters självbestämmande och som samtidigt uppfyller kraven på att inrätta en sandlåda som är öppen för alla och som kan komma att fungera innovationsfrämjande.

Det är möjligt att inrätta fler än en regulatorisk sandlåda för AI i Sverige. Sådana sandlådor bör enligt utredningen samordnas och det bör ske inom den samordningsroll som PTS föreslås få. För att kunna utföra denna uppgift föreslår utredningen att PTS ska få meddela föreskrifter om regulatoriska sandlådor för AI och ansvara för rapporteringskraven i artikel 57.16 i AI-förordningen.

AI-förordningen ger vissa begränsade möjligheter att ta ut avgifter för verksamheten inom en regulatorisk sandlåda för AI. Utredningen föreslår att PTS i egenskap av inrättande myndighet ska få en sådan möjlighet och att PTS ska få meddela ytterligare föreskrifter om avgifterna.

Testning under verkliga förhållanden

Utredningen bedömer att det inte krävs några särskilda tekniska eller rättsliga förutsättningar för att testning av AI-system med hög risk under verkliga förhållanden ska kunna utföras. Det behövs dock enligt AI-förordningen ett godkännande från en marknadskontrollmyndighet för att testning ska få ske.

Testning under verkliga förhållanden får ske av AI-system med hög risk som omfattas av bilaga III. Utredningen föreslår att den myndighet som regeringen bestämmer ska ansvara för godkännande av och säkerställa en säker utveckling av testning under verkliga förhållanden utanför regulatoriska sandlådor för AI enligt artiklarna 60 och 61 i förordningen. Utredningen föreslår att dessa myndigheter ska vara PTS, IMY och Finansinspektionen enligt den ansvarsfördelning som gäller för marknadskontrollansvar i bilaga III till AI-förordningen. Dessa myndigheter föreslås också ha vissa särskilda befogenheter.

Utredningen föreslår att PTS, IMY och Finansinspektionen ska få möjlighet att ta ut avgifter för godkännande av testning under verkliga förhållanden och för säkerställandet av en säker utveckling av testningen samt att myndigheterna ska få meddela ytterligare föreskrifter om avgifterna.

Offentlighet och sekretess och innovationsfrämjande åtgärder

Utredningen bedömer att det inte finns några sekretessbestämmelser som särskilt omfattar verksamheten som kommer att bedrivas i regulatoriska sandlådor för AI. Utredningen föreslår därför att det ska införas nya bestämmelser i OSL om att sekretess gäller i sådan verksamhet såväl beträffande vissa uppgifter i enskilds verksamhet som beträffande vissa uppgifter i myndigheters verksamhet.

Utredningen föreslår även att det ska föras in en sekretessbrytande bestämmelse om att sekretess inte hindrar att en uppgift för utveckling, träning, testning och validering av ett AI-system i en regulatorisk sandlåda för AI lämnas till en enskild eller annan myndighet. Det föreslås gälla om det med hänsyn till omständigheterna inte är olämpligt att uppgiften lämnas ut. Därtill föreslår utredningen en bestämmelse om tystnadsplikt för aktörer som inte omfattas av OSL.

Gällande testning under verkliga förhållanden föreslår utredningen nya bestämmelser om sekretess beträffande ansökan och korrespondens rörande ansökan och testningen för enskilda och myndigheter.

Stöd för tillämpning och efterlevnadskontroll

I AI-förordningen anges en styrningsram på unionsnivå till stöd för tillämpningen och efterlevnadskontrollen av AI-förordningen. Ett av utredningens uppdrag är att analysera och, vid behov, föreslå i vilken utsträckning Sverige bör delta i AI-förordningens föreslagna implementeringsstöd och innovationsfrämjande åtgärder samt på vilket sätt det ska ske. Styrningen på unionsnivå innefattar AI-byrån, AI-styrelsen, ett rådgivande forum och en vetenskaplig panel av oberoende experter.

Utredningen bedömer att Sveriges deltagande i styrningen på unionsnivå bör vara aktivt och omfattande samt att regeringen bör ha det samordnande ansvaret att underlätta AI-byråns uppgifter. Vid behov bör regeringen begära stöd av de nationella behöriga myndigheterna. Utredningen bedömer vidare att Sverige aktivt bör verka för och delta i utarbetandet av gemensamma förfarandekoder och uppförandekoder inom EU.

Utredningen bedömer att regeringen bör utse företrädaren som ska representera Sverige i AI-styrelsen och att det bör vara en representant för PTS som utses i denna roll. Utredningen bedömer vidare att regeringen bör utse representanter i styrelsens ständiga och tillfälliga undergrupper.

Enligt utredningen bör regeringen vidare verka för att lämpliga experter från forskarsamhället i Sverige anmäler sitt intresse till att vara oberoende expert i den vetenskapliga panelen och för att kommissionen utser svenska aktörer att vara medlemmar i det rådgivande forumet.

Det kommer att vara möjligt att anlita experter i den vetenskapliga panelen för att stödja verksamheten för efterlevnadskontroll enligt AI-förordningen. Utredningen bedömer att marknadskontrollmyndigheterna bör göra det i den utsträckning som det är möjlig. Anlitandet av experter i den vetenskapliga panelen bedöms förutsätta finansiering till marknadskontrollmyndigheterna i syfte att de ska kunna anlita experter i den vetenskapliga panelen.

Utredningen föreslår en uppgiftsskyldighet som innebär att uppgifter som behövs för att marknadskontrollmyndigheter enligt AI- förordningen ska kunna anlita experter i den vetenskapliga panelen ska lämnas till AI-byrån och den vetenskapliga panelen utan hinder av sekretess.

Utredningen bedömer slutligen att befintliga bestämmelser i OSL säkerställer att uppgifter inom verksamheten som bedrivs i AI-styrelsen inte används i strid med konfidentialitetskraven i artikel 78 i AI-förordningen samt att företrädaren i AI-styrelsen har tillräckliga befogenheter att underlätta enhetlighet och samordning mellan nationella behöriga myndigheter i Sverige när det gäller genomförandet av AI-förordningen.

Övriga nödvändiga åtgärder

AI-förordningen ställer krav på att leverantörer ska bevara viss dokumentation även efter det att leverantören försätts i konkurs eller upphör med sin verksamhet. Utredningen föreslår att dokumentationen ska hållas tillgänglig för de nationella behöriga myndigheterna och att leverantören eller dennes ombud ska anmäla till den myndighet som regeringen utser vem som ansvarar för bevarandet av dokumentationen och var den förvaras. Vidare föreslår utredningen att PTS ska vara den myndighet som anmälan ska göras till.

Utredningen föreslår att beslut av en förvaltningsmyndighet eller ett anmält organ ska få överklagas till allmän förvaltningsdomstol, att en myndighet ska få överklaga en förvaltningsmyndighets eller ett anmält organs beslut, att förvaltningsmyndigheten eller det anmälda organet ska vara motpart vid domstolen och att prövningstillstånd ska krävas vid överklagande till kammarrätten.

Det finns möjligheter att lämna in klagomål till marknadskontrollmyndigheterna. Sådana klagomål bedöms inte föranleda några kompletterande bestämmelser i nationell rätt.

Det behöver finnas en tillståndsprocess i nationell rätt för att

tillhandahållare av ett AI-system med hög risk för biometrisk fjärridentifiering i efterhand på det sätt som närmare anges i artikel 26:10 i AI-förordningen ska få använda ett sådant system. Utredningen lämnar inte några förslag om en sådan tillståndsprocess.

Utredningen bedömer att bestämmelserna i AI-förordningen samt utredningens förslag kommer att innebära en utökad personuppgiftsbehandling och att integritetsrisker aktualiseras som en följd av förslagen. Det finns dock stöd för personuppgiftsbehandlingen i befintlig dataskyddsreglering. Utredningen bedömer att personuppgiftsbehandlingen utgör ett godtagbart integritetsintrång och är proportionerlig med hänsyn till syftet med personuppgiftsbehandlingen.

Ikraftträdande och övergångsbestämmelser

Utredningen föreslår att kompletteringslagen, kompletteringsförordningen och övriga författningsändringar ska träda i kraft den 2 augusti 2026. Det krävs inte några övergångsbestämmelser. Utredningen anser dock att det finns skäl för regeringen att i vart fall tillfälligt utse marknadskontrollmyndigheter och anmälande myndigheter redan under den fortsatta beredningen av utredningens lagförslag.

Konsekvenser

Utredningens förslag syftar till att uppfylla kraven i AI-förordningen och bidra till ett ändamålsenligt och effektivt genomslag och tillämpning av förordningen. Förslagen bedöms vara förenliga med EU- rätten.

Utredningens förslag berör framför allt de statliga myndigheter som enligt förslaget ska utses till marknadskontrollmyndigheter. De nya uppdragen kommer enligt utredningen att innebära utökade och delvis nya arbetsuppgifter för samtliga myndigheter och därmed ett ökat finansieringsbehov. Utredningen bedömer att finansieringen, åtminstone initialt, bör ske genom ökade anslag.

Utredningens förslag om bestämmelser om ingripanden bedöms inte påverka marknadskontrollmyndigheternas kostnader i någon större utsträckning.

Förslagen beträffande de anmälande myndigheterna förväntas leda till något ökade kostnader för dem. Kostnadsökningarna bedöms i vart fall initialt kunna hanteras inom befintligt ramanslag.

Utredningen bedömer att förslagen kan medföra vissa ökade kostnader och administrativa bördor för enskilda företag som utgör operatörer enligt AI-förordningen.

Vidare bedömer utredningen att förslagen inte förväntas leda till ökade kostnader för kommuner och regioner eller att de inverkar på det kommunala självstyret.

Utredningens förslag innebär att flera olika överklagbara beslut kan komma att fattas av de myndigheter som ska utöva marknadskontroll och kontroll av efterlevnaden av AI-förordningen. Förslagen förväntas leda till något ökade kostnader för förvaltningsdomstolarna. Kostnadsökningarna bedöms inte vara större än att de kan hanteras inom befintliga ekonomiska ramar.

Förslagen bedöms inte få några konsekvenser för jämställdheten mellan kvinnor och män.

Analysen av vilka nationella bestämmelser som behövs för att komplettera AI-förordningen har försvårats av att AI-förordningen börjar tillämpas i etapper, att tillämpningen av AI-förordningen diskuteras löpande i AI-styrelsen och att kommissionen i flera avseenden först efter det att utredningen har lämnat sina förslag ska anta genomförandeakter som ska förtydliga och komplettera förordningen. Mot den bakgrunden bedömer utredningen att bestämmelserna bör utvärderas på ett lämpligt sätt, dock tidigast under 2029.