AI-förordningen

När börjar förordningen gälla?

AI-förordningen trädde i kraft den 1 augusti 2024 och bestämmelserna börjar gälla successivt. De första bestämmelserna som förbjuder användning av vissa AI-system gäller från den 2 februari 2025. Vilka dessa är återfinns i kapitel II av AI-förordningen. Detta datum börjar även de nya definitionerna att gälla, dessa går att läsa i artikel 3.

De flesta övriga bestämmelser gäller från den 2 augusti 2026.

Vilken användning av AI omfattas?

AI-förordningen omfattar sådana ”AI-system” som beskrivs i definitionen i artikel 3 punkt 1: ”AI-system: ett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras.”

Förordningens krav är i första hand inriktade på utveckling, tillhandahållande och användning av AI-system med hög risk, som till exempel inom vissa verksamhetsområden:

• Kritisk infrastruktur (t.ex. transporter) som skulle kunna äventyra medborgarnas liv och hälsa.
• Utbildning eller yrkesutbildning, som kan vara avgörande för tillgången till utbildning och yrkesverksamhet i någons liv (t.ex. poängsättning av prov).
• Vissa produkters säkerhetskomponenter (t.ex. AI-tillämpning vid robotassisterad kirurgi).
• Anställning, ledning av arbetstagare och tillgång till egenföretagande (t.ex. programvara för sortering av cv:n för rekryteringsförfaranden).
• Viktiga privata och offentliga tjänster (t.ex. kreditvärdering som nekar medborgarna möjlighet att få lån).
• Brottsbekämpning som kan inkräkta på människors grundläggande rättigheter (t.ex. utvärdering av bevisens tillförlitlighet),
• Migrations-, asyl- och gränskontroll (t.ex. automatisk prövning av viseringsansökningar).

Vilka användningsområden av AI-system som räknas som hög risk anges i artikel 6 och i bilaga III till AI-förordningen.

AI-förordningen gäller också AI-modeller för allmänna ändamål, som definieras i artikel 3 punkt 63: ”AI-modell för allmänna ändamål: en AI-modell, även när en sådan AI-modell tränas med en stor mängd data med hjälp av självövervakning i stor skala, som uppvisar betydande generalitet och på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter oavsett hur modellen släppts ut på marknaden och som kan integreras i en rad system eller tillämpningar i efterföljande led, utom AI-modeller som används för forsknings-, utvecklings- eller prototypverksamhet innan de släpps ut på marknaden.”

Kraven för leverantörer av sådana AI-modeller gäller i första hand transparens och teknisk dokumentation och beskrivs i Kapitel V i AI-förordningen.

Förberedelsearbete

Ett sätt att förbereda sig inför att bestämmelserna i AI-förordningen börjar gälla är att inventera i sin organisation vilka typer av AI-lösningar som redan används eller som planeras eller testas. Det är bra att göra en inledande bedömning om det är frågan om automatiserde beslutsprocesser eller mer avancerade AI-system inom användningsområden som kan omfattas av AI-förordningen.

I förordningen kommer det att ställas krav på bland annat spårbarhet för beslut och dokumentation om de AI-system som används. Det kan därför vara bra att redan nu se över denna typ av rutiner inom verksamheten när AI-system tas i bruk. Det är även bra att undersöka befintliga avtal med leverantörer eller distributörer av AI-system för att säkerställa att det finns teknisk dokumentation, information om testdata och liknande för att kunna möta t.ex. transparenskraven när AI-system ska användas i verksamheten. Ett bra stöd finns i den förtroendemodell som Digg med flera myndigheter har tagit fram.