Använd generativ AI enligt de dataskyddsrättsliga principerna

Principen om ansvarsskyldighet

Verksamheten har ansvaret för användningen

Principen om ansvarsskyldighet innebär att verksamheten har ansvaret för att säkerställa och kunna visa att dataskyddsförordningen följs. Användning av generativ AI bör godkännas av verksamheten i förväg för att säkerställa detta. Det måste också vara tydligt för medarbetarna vad generativ AI får användas till och vilken information som får behandlas i generativa AI-system.

Ta fram styrdokument för användning av generativ AI

En verksamhet som avser att använda generativ AI bör ta fram och implementera en policy eller liknande styrdokument som reglerar användningen. Dokumenten bör tydligt beskriva hur generativ AI får användas inom verksamheten och vilka krav som ställs för att säkerställa en ansvarsfull hantering. Dokumenten bör bland annat klargöra om och under vilka förutsättningar personuppgifter får behandlas vid verksamhetens användning av generativ AI. Verksamheten bör beskriva de överväganden och åtgärder som vidtagits för att säkerställa att användningen sker i enlighet med dataskyddsregelverket. För att säkerställa efterlevnad bör alla berörda inom organisationen ges information om och få tillgång till dessa dokument.

Verksamheten bör också ta fram rutiner eller liknande styrdokument för att hantera risker systematiskt och säkerställa regelbundna revisioner av att AI-systemet fungerar på ett ändamålsenligt sätt.

Dokumentera användningen

En viktig del i ansvarsefterlevnaden är att dokumentera personuppgiftsbehandlingen. Om behandlingen sannolikt leder till hög risk för enskildas rättigheter och friheter behöver verksamheten göra en konsekvensbedömning. Läs mer om detta i avsnittet Gör en riskbedömning inför användningen av generativ AI och delen Konsekvensbedömning för generativ AI.

Verksamheter som använder generativ AI bör också införa lämpliga mekanismer för spårbarhet vid behandling av personuppgifter. Detta gör det möjligt att verifiera och härleda hur AI-systemet har använts.

Principen om laglighet, korrekthet och öppenhet

Personuppgifter ska behandlas på ett lagligt sätt

Principen om laglighet innebär bland annat att behandlingen av personuppgifter ska ha rättslig grund. Mer information om det finns i avsnittet om Se till att det finns rättslig grund och annat rättsligt stöd för användningen.

Personuppgifter ska behandlas på ett korrekt sätt

Principen om korrekthet innebär att behandlingen ska vara rättvis, skälig och rimlig och att uppgifterna behandlas på ett sätt som enskilda rimligen kan förvänta sig. Principen ställer också krav på proportionalitet. Det innebär att integritetsintrånget som behandlingen innebär behöver vara rimligt i förhållande till nyttan med behandlingen.

Bias

För att behandla personuppgifter på ett korrekt sätt krävs till exempel åtgärder för att minimera partiskhet, så kallad bias, som kan förekomma i ett AI-systems utdata. Bias kan uppstå av flera olika orsaker och kan exempelvis härstamma från kvaliteten på de data som grundmodellen har tränats på. Om grundmodellens träningsdata till exempel inte har utgjort ett representativt urval av uppgifter för ändamålet, kommer modellens utdata att återspegla dessa skevheter. Detta kan i sin tur leda till diskriminering eller en orättvis behandling av enskilda eller grupper av individer. Verksamheter bör därför utvärdera riskerna med en behandling och om den innebär att modellen kan generera snedvriden eller partisk information.

I avsnittet Bedöm riskerna med användningen och säkerställ lämplig säkerhet finns mer information om bias och åtgärder som kan vidtas för att begränsa riskerna i det avseendet.

Personuppgifter ska behandlas på ett öppet sätt

Principen om öppenhet ställer krav på transparens om hur AI-systemet används för att behandla personuppgifter och vilka konsekvenser det kan få för enskilda. Att enskilda får information när deras personuppgifter behandlas är nödvändigt för att de ska kunna vidta åtgärder för att skydda sina rättigheter. Samtidigt kan det exempelvis vara utmanade att på ett lättbegripligt sätt förklara hur ett AI-system fungerar eller har kommit fram till ett visst svar. Eftersom tekniken utvecklas snabbt är det viktigt att enskilda får uppdaterad information om användningen och hur det påverkar dem.

I avsnittet Säkerställ enskildas rättigheter vid användningen av generativ AI ges mer vägledning om hur personuppgifter kan behandlas på ett öppet sätt.

Principen om ändamålsbegränsning

Specificera ändamålet

Principen om ändamålsbegränsning innebär att personuppgifter ska samlas in för särskilda, uttryckligt angivna och berättigade ändamål. Uppgifterna får inte senare behandlas på ett sätt som är oförenligt med dessa ändamål.

Generativ AI är en typ av teknik som kan användas för flera olika ändamål. Att använda generativ AI är dock inte ett ändamål i sig, utan ett medel för att behandla information. Det är viktigt att verksamheten specificerar för vilka ändamål som AI-systemet ska användas och att detta tydliggörs för verksamhetens medarbetare.

Överväg tekniska begränsningar

Verksamheten kan också överväga att införa åtgärder för att avgränsa AI-systemets användningsområde, exempelvis genom att tekniskt begränsa vilka instruktioner och vilken information användarna kan ge till systemet genom så kallade promptar. I vissa fall kan AI-systemets funktionalitet behöva begränsas så att det endast är tekniskt möjligt att utföra de uppgifter som är relevanta för syftet med behandlingen.

Principen om uppgiftsminimering

Begränsa behandlingen av personuppgifter till det nödvändiga för användningen

Verksamheten måste kunna visa att omfattningen av den personuppgiftsbehandling som sker med hjälp av generativ AI är nödvändig i förhållande till ändamålet och att samma resultat inte kan uppnås med en mindre mängd personuppgifter. Genom att endast ange de mest relevanta personuppgifterna i en prompt kan personuppgiftsbehandlingen begränsas till det som är nödvändigt för att kunna utföra uppgiften. Om verksamheten använder tekniker som innebär att ett AI system ges annan åtkomst till personuppgifter bör verksamheten utvärdera och om lämpligt begränsa den mängd personuppgifter som systemet kan få åtkomst till när det används.

Säkerställ behörighetsstyrningen

Behörighetsstyrning som säkerställer vilka uppgifter som specifika användare har tillgång till ska återspeglas vid användningen av AI-system. Motsvarande gäller när verksamheten använder generativa AI-system som är integrerade i verksamhetens befintliga programvara, till exempel tilläggstjänster som kan aktiveras i programvaran. På så sätt säkerställs att personuppgifter endast hämtas från relevanta källor och att åtkomsten begränsas till källor som användaren har behörighet till.

Principen om riktighet

Risk för hallucinationer

Verksamheter som behandlar personuppgifter måste se till att uppgifterna är korrekta och om nödvändigt uppdaterade. Generativ AI skapar sina resultat baserat på statistiska sannolikheter, vilket innebär att den kan skapa innehåll som är faktamässigt felaktigt eller påhittat. Detta brukar kallas för hallucinationer. Det finns flera orsaker till varför ett AI-system kan hallucinera. Det kan exempelvis bero på hur grundmodellen har tränats, vilka parametrar som använts samt kvaliteten och mängden data som använts under träningen. Hallucinationer kan även uppstå på grund av hur frågor ställs till AI-systemet, då frågor avsiktligt eller oavsiktligt kan ställas på ett sätt som leder AI-systemet till att generera svar som innehåller hallucinationer. Den som använder ett generativt AI-system bör därför granska och kontrollera dess svar och inte utgå från att systemets utdata är korrekta och pålitliga.

För att generera mer korrekta och träffsäkra svar kan tekniker som retrieval-augmented generation (RAG) vara till hjälp. RAG kombinerar grundmodellens generativa förmåga med ytterligare information från utvalda källor, vilket ger modellen tillgång till mer uppdaterad information än vad som finns i dess ursprungliga träningsdata. RAG kan därmed förbättra de svar som AI-systemet genererar. Det bör dock betonas att det fortfarande är nödvändigt att noggrant granska och kontrollera AI-systemets svar eftersom hallucinationer förekommer även när RAG används.

Läs mer om hallucinationer och åtgärder för att säkerställa riktighet i avsnittet Bedöm riskerna med användningen och säkerställ lämplig säkerhet.

Principen om lagringsminimering

Undvik att spara irrelevanta personuppgifter

För att effektivt kunna använda generativ AI på verksamhetens data kan det i vissa fall krävas att all data behandlas (exempelvis vektoriseras) för att göras sökbar och tillgänglig för AI-systemet. Det kan därför vara utmanande att göra en avvägning mellan å ena sidan behovet av att lagra data som kan vara relevanta för syftet med användningen, och å andra sidan kravet på lagringsminimering. Verksamheten behöver säkerställa att AI-systemet inte behandlar personuppgifter som inte längre är relevanta på ett sätt som innebär risker för enskilda. När det inte längre är nödvändigt att behandla personuppgifterna utifrån ändamålet ska de raderas eller anonymiseras. Det gäller även för sådana data som exempelvis ett generativt AI-system använder samt eventuella kopior av datauppsättningar som lagras någon annanstans än internt i verksamheten.

Principen om integritet och konfidentialitet

Riskbaserat förhållningssätt

Det finns ingen allmängiltig standard för hur lämplig säkerhet ska uppnås när personuppgifter behandlas i samband med användningen av generativa AI-system. Vilken nivå av säkerhet och vilka säkerhetsåtgärder som behöver vidtas beror på risken i det enskilda fallet. Verksamheten måste identifiera de risker som den planerade användningen av generativ AI medför och, i förekommande fall, vidta lämpliga säkerhetsåtgärder för att minska dessa risker.

Eftersom AI-system ofta integreras i komplexa kedjor av andra system, dataflöden och processer, bör verksamheten ta ett helhetsgrepp för att säkerställa säkerheten för personuppgifterna. Tekniken för generativ AI utvecklas snabbt, liksom metoderna för att behandla personuppgifter på ett säkert sätt. Som ett led i att efterleva principen om integritet och konfidentialitet bör verksamheten aktivt övervaka och förhålla sig till den senaste teknikutvecklingen, inklusive de metoder som ökar generativa AI-modellers motståndskraft mot olika typer av attacker.

Läs mer om säkerheten för personuppgifter i avsnittet Bedöm riskerna med användningen och säkerställ lämplig säkerhet.

Dokument och länkar

Grundläggande principer (imy.se) Länk till annan webbplats.