Förbered verksamheten inför AI-förordningen

Generativ AI omfattas av AI-förordningens regler om AI för allmänna ändamål

AI-förordningens regler gäller för utveckling, tillhandahållande och användning av AI-system och för AI som används för allmänna ändamål. Förordningen skiljer mellan AI-system som du använder för specifika ändamål eller som har ett enda syfte och AI-system som du använder för allmänna ändamål. AI-system som du och din verksamhet använder för specifika ändamål eller som har ett syfte kallas för single purpose AI (SPAI), medan AI-system som används för allmänna ändamål kallas för general purpose AI (GPAI). Det anges särskilt när GPAI avses. I övrigt kan det som regleras beskrivas enbart som ”AI-system”. Generativ AI betraktas som GPAI-system och regleras med separata bestämmelser i förordningen.

Single purpose AI

Förordningen fastställer i första hand hur utvecklingen, tillhandahållandet och marknadsinträdet av SPAI-system ska gå till genom en standardiserad process. Reglerna är i huvudsak inriktade på produktsäkerhet. Till grund för bedömningen finns en riskbaserad modell som kategoriserar AI-systemens risknivå beroende på hur de är avsedda att användas.

General purpose AI

Användningen av GPAI-system regleras däremot med en annan metod än den riskbaserade modell som används för SPAI-system. Det beror på att användningen av GPAI-system är avsedd att variera och kan därför inte förutses på samma sätt. För GPAI-system används istället en separat riskmodell som fastställer omfattande regler för hur marknadstillsyn, styrning och utförande ska gå till. Utgångspunkten är att se till att GPAI-systemen är säkra att använda, upprätthålla systemens integritet samt allmänhetens förtroende för AI-innovationer.

AI-modell för allmänna ändamål

Med AI-modell för allmänna ändamål menas enligt artikel 3.63 ”en AI-modell, även när en sådan AI-modell tränas med en stor mängd data med hjälp av självövervakning i stor skala, som uppvisar betydande generalitet och på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter oavsett hur modellen släppts ut på marknaden och som kan integreras i en rad system eller tillämpningar i efterföljande led, utom AI-modeller som används för forsknings-, utvecklings- eller prototypverksamhet innan de släpps ut på marknaden”.

AI-system för allmänna ändamål

Ett AI-system för allmänna ändamål är enligt artikel 36 ”ett AI-system som bygger på en AI-modell för allmänna ändamål och som har kapacitet att tjäna en rad olika ändamål, både för direkt användning och för integrering i andra AI-system”.

Definition av generativ AI

Det finns ingen direkt definition av ”generativ AI” i AI-förordningen. Istället får man utgå från definitionen för AI för allmänna ändamål som överensstämmer till stor del. AI-förordningens reglering för GPAI gäller med största sannolikhet användningen av generativ AI. Kraven är i huvudsak riktade mot leverantörer av sådana modeller. Generativ AI betraktas som GPAI-system och regleras med separata bestämmelser i förordningen.

Aktörer som träffas av AI-förordningens regler

Statliga myndigheter, kommuner och regioner kan omfattas av AI-förordningens regler för leverantörer, tillhandahållare eller användare av generativ AI. För en statlig myndighet, kommun eller region som vill använda en generativ AI-lösning är det i första hand reglerna för AI-modeller för allmänna ändamål som ska tillämpas. Men exakt vilka regler som gäller kan variera och beror i första hand på förutsättningarna i varje enskilt fall. Reglerna kan till exempel variera beroende på hur en organisation avser att använda AI-modellen och i vilken typ av verksamhet. Det spelar också in vilken roll en organisation har i förhållande till leverantören av AI-modellen.

AI-förordningen är i grunden en produktsäkerhetslagstiftning, vilket innebär att reglerna ska se till att AI-system och de produkter med AI som släpps ut på marknaden inom EU ska vara säkra. Det är därför leverantörer och tillhandahållare av AI-system som träffas av merparten av hanteringsreglerna i förordningen.

Myndigheter, kommuner och regioner kan betraktas som leverantör eller tillhandahållare av AI-system eller produkter som innehåller AI.

Leverantör av AI-system eller produkter som innehåller AI

I artikel 3.3 anges att med leverantör avses ”en fysisk eller juridisk person, en offentlig myndighet, en byrå eller ett annat organ som utvecklar ett AI-system eller en AI-modell för allmänna ändamål eller som har ett AI-system eller en AI-modell för allmänna ändamål och släpper ut det eller den på marknaden eller tar AI-systemet i bruk i eget namn eller under eget varumärke, antingen mot betalning eller kostnadsfritt".

AI-förordningens definition av leverantör är med andra ord bredare än vad som normalt anses som en leverantör i till exempel upphandlingssammanhang [1]. Statliga myndigheter, kommuner och regioner som har del i utvecklingen av en lösning för generativ AI, till exempel genom att beställa den, eller som tar ett sådant system i bruk under eget namn och konstnadsfritt kan alltså träffas av reglerna i rollen som leverantör.

Tillhandahållare av AI-system eller produkter som innehåller AI

Med tillhandahållare avses enligt artikel 3.4 ”en fysisk eller juridisk person, offentlig myndighet, en byrå eller annat organ som under eget överinseende använder ett AI-system, utom när AI-systemet används inom ramen för en personlig icke-yrkesmässig verksamhet”. Som tillhandahållare räknas alltså den som använder AI-systemet.

Leverantör i efterföljande led

I artikel. 3.68 definieras en leverantör i efterföljande led som en leverantör av ett AI-system, inbegripet ett AI-system för allmänna ändamål, som integrerar en AI-modell, oavsett om AI-modellen levereras av dem själva och integreras vertikalt eller levereras av en annan enhet på grundval av avtalsförhållanden.

Denna roll kan bli vanligt förekommande för statliga myndigheter, kommuner eller regioner som köper generativa AI-lösningar och integrerar i AI-system i sin verksamhet. En leverantör i efterföljande led ska i flera fall vara mottagare av dokumentation och liknande som en leverantör är skyldig att tillhandahålla.

Det finns även fler aktörer som pekas ut i värdekedjan för AI-användning. Bland annat ombud, importör, distributör, operatör med flera [2].

Användning av generativ AI som regleras

AI-förordningen reglerar särskilt användningen av stora GPAI-modeller med kapacitet till hög påverkan (systemrisk), när AI-modellerna ingår i andra produkter och vid användningsfall med hög risk [3].

AI-modeller för allmänna ändamål med systemrisk

Vissa AI-modeller bedöms medföra större risker och dessa anses ha systemrisk. AI-modeller med systemrisk medför högre krav på leverantörerna. Enligt artikel 3.65 definieras systemrisk som ”en risk som är specifikt kopplad till den kapacitet för hög påverkansgrad som finns hos AI-modeller för allmänna ändamål och som påverkar unionsmarknaden i betydande grad på grund av sin räckvidd eller på grund av faktiska eller rimligen förutsebara negativa effekter på folkhälsa, säkerhet, allmän säkerhet, grundläggande rättigheter eller samhället som helhet, och som kan spridas i stor skala i hela värdekedjan”.

Klassificering av vilka AI-modeller för allmänna ändamål som har systemrisk, anges i artikel 51 och i bilaga XIII till förordningen. För generativa AI-modeller ska det alltså vara frågan om mycket stora modeller med kapacitet till hög påverkansgrad inom unionen. Exempelvisk kan det vara många användare och många parametrar i modellen. EU-kommissionen kommer att fatta beslut om den här typen av AI-modeller.

AI-modeller som en del i vissa produkter

Generativ AI kan användas som en komponent i vissa produkter som regleras särskilt av EU-gemensam produktsäkerhetslagstiftning. I dessa fall ska den reglering som gäller för respektive produktområde tillämpas tillsammans med AI-förordningens regler. I bilaga I till förordningen listas de olika produkttyperna, till exempel maskiner, radioutrustning och medicintekniska produkter [4].

Generativ AI i användningsfall med hög risk

Om generativ AI används som en del i ett AI-system som klassificeras som hög risk [5] ska reglerna för högrisk AI i kapitel III tillämpas för det AI-systemet.

Leverantörer av generativa AI-modeller med hög risk ska uppfylla flera krav. I dessa krav ingår bland annat att

1. utarbeta och uppdatera den tekniska dokumentationen för modellen, inkluderat tränings- och testningsförfarandet samt resultaten av utvärderingen.
2. utarbeta, uppdatera och göra information och dokumentation tillgänglig för leverantörer av AI-system som avser att integrera AI-modellen för allmänna ändamål i sina AI-system.
3. göra det möjligt för leverantörer av AI-system att ha en god förståelse av kapaciteten och begränsningarna hos AI-modellen för allmänna ändamål.
   
4. minst innehålla de uppgifter som anges i bilaga XII till förordningen,
5. införa en policy för att följa unionsrätten om upphovsrätt och närstående rättigheter.
6. utarbeta och göra en tillräckligt detaljerad sammanfattning av det innehåll som använts för träning av AI-modellen för allmänna ändamål. Samt göra sammanfattningen allmänt tillgänglig i enlighet med den mall som AI-byrån tillhandahåller.

Notera att de skyldigheter som anges under punkt 1 och 2 inte är tillämpliga på leverantörer av AI-modeller som görs allmänt tillgängliga på marknaden genom en kostnadsfri licens och med öppen källkod och som möjliggör åtkomst, användning, ändring och distribution av modellen. Undantaget gäller dock inte för AI-modeller för allmänna ändamål med systemrisker.

EU-kommissionen arbetar med att ta fram förfarandekoder som leverantörer ska kunna använda för att uppfylla dessa krav.

Dokument och länkar

AI-förordningen

Källhänvisning

• [1] Jämför till exempel översättning av AI-förordningen till engelska där definitionen av ”provider” är något annorlunda formulerad.
• [2] Artikel 3 innehåller definitioner av de olika roller som finns utpekade i förordningen.
• [3] Ytterligare krav på leverantörer av sådana anges i art. 55.
• [4] Övriga produktområden är: leksaker, fritidsbåtar, hissar, utrustning för explosiva atmosfärer, tryckbärande anordningar, linbaneanläggningar, personlig skyddsutrustning och gasformiga bränslen.
• [5] Artikel 6 och Bilaga III.