Ta medvetna beslut om att skaffa generativ AI

Generativ AI kan köpas eller utvecklas beroende på organisationens behov och kapacitet. Färdiga tjänster passar för kompetenshöjning och enklare användning, medan specifika behov kan kräva utveckling. Anskaffning kräver noggrann planering, riskbedömning och att verksamhetens mål står i fokus. Hänsyn behöver också tas till gällande regelverk.

Sammanfattning

Anskaffning av generativ AI ska alltid utgå från verksamhetens behov. Det kan till exempel vara att utforska och lära, stödja medarbetare i deras arbete, eller att erbjuda specifika interna eller externa tjänster. För kompetenshöjning och utforskning kan färdiga tjänster köpas, medan mer specifika behov kan kräva utveckling. I dag har få offentliga organisationer egen förmåga att utveckla generativ AI och köp av stöd för utveckling kan därför krävas.

Den här riktlinjen är främst inriktad på att köpa färdiga tjänster för kompetenshöjning och stöd i arbetsuppgifter. Om målet i stället är att utveckla generativa AI-lösningar för behov som inte handlar om kompetensutveckling eller stöd i medarbetares arbete, krävs en grundlig analys och tydlig kravställning.

Vi rekommenderar att du läser igenom informationen nedan om förberedelser, exempelvis identifiera behov och riskbedöma vid anskaffning först. Gå sedan igenom steg som kan stödja beslutsprocessen kring att skaffa generativ AI. Till din hjälp har vi även tagit fram förslag på frågor att besvara vid val av AI-verktyg.

Identifiera behov

För att veta vilken typ av generativ AI som ska köpas eller utvecklas måste din organisation först identifiera era behov.

Generativ AI kan lösa många olika behov, men för organisationer utan kunskap eller erfarenhet av AI kan det vara svårt att förstå hur tekniken kan användas.

För dessa organisationer kan behovet av kompetensutveckling vara en bra startpunkt. Det kan motivera att köpa en generativ AI-tjänst för att utforska och lära sig mer. Om behovet är att kompetensutveckla kan inköpet göras relativt snabbt, förutsatt att en riskbedömning har gjorts och ett beslut fattas om att köpa en färdig generativ AI-tjänst.

Riskbedömning vid anskaffning

Innan anskaffning av generativ AI bör risker och förutsättningar noggrant övervägas. Riskbedömningen ska omfatta aspekter som

  • dataskydd
  • integritet
  • informationssäkerhet.

Även om nyttan med AI kan verka uppenbar, får det inte undanta organisationen från ansvaret att hantera riskerna med dess anskaffning och användning.

Om en organisation saknar tillräcklig kunskap om generativ AI kan det kännas tryggt att avstå från att använda tekniken med hänvisning till risker.

Men, i en riskbedömning måste även alternativa risker beaktas, till exempel riskerna med att inte öka kunskapen om generativ AI och därmed missa dess potential, eller att ett problem förblir olöst trots att lösningar finns.

Förmåga till egen utveckling

Digitalt mogna offentliga organisationer med AI-kompetens kan ha egen förmåga att utveckla generativa AI-lösningar. Dessa organisationer har ofta förmåga att identifiera behov och lösningar med planer för utveckling och strategier för hur AI ska användas.

Riktlinjerna för anskaffning av generativ AI är inte anpassade för organisationer med denna avancerade förmåga. Att börja använda generativ AI kan däremot vara ett steg mot att senare kunna utveckla eller beställa skräddarsydda generativa AI-lösningar.

Köp generativ AI som stödjer kompetenshöjning och arbetsuppgifter

Om organisationen saknar förmåga att utveckla egna generativa AI-lösningar behöver tjänster köpas in. Dessa tjänster kan köpas färdiga, så att de kan användas som en programvara eller motsvarande. De kan också ingå som en del i programvaror, system eller tjänster. Många leverantörer erbjuder generativ AI som en funktion eller tillägg till deras produkter.

GPT:er via chatt

De mest tillgängliga och enkla att börja med är tjänster med GPT:er som används via chattfunktioner såsom

  • ChatGPT
  • Copilot
  • Gemini

Dessa är exempel på tillgängliga tjänster från några större kommersiella aktörer. Även öppna alternativ som DuckDuckGo finns. Dessa tjänster kan stödja olika områden och samtidigt ge användare ökad kunskap om generativ AI.

Marknaden är fortfarande ung och utbud och villkor för användning styrs av leverantörerna på ett sätt som kan vara svårt att ta till sig för en offentlig organisation.

Tjänster via webbgränssnitt

Många tjänster finns tillgängliga genom webbgränssnitt, vissa öppna för gratis användning och andra med licenser som köps. Dessa kräver normalt ingen installation, men de innebär ofta att molnlösningar används för att hantera information. Användning av molnlösningar bör ske med omtanke, särskilt när det gäller offentliga organisationer som behandlar integritets- eller säkerhetskänsliga data.

Granska avtal och villkor

Organisationer måste noga granska villkor och vara medvetna om de möter de krav som gäller för verksamheten. En offentlig organisation bör säkerställa att ingen känslig information lämnas ut innan den avgör om en tjänst kan användas.

Köp av konsulttjänster för utveckling

För specifika behov kan konsulter anlitas för att skapa generativa AI-lösningar.

Upphandling av denna typ kan vara utmanande, särskilt om behoven inte är tydligt definierade. Det är därför svårt att ge exakta råd om hur en upphandling bör genomföras utan en tydlig behovsbild.

En framgångsfaktor är att ha dialog med marknaden innan upphandling av konsulttjänster. På Upphandlingsmyndighetens webbplats finns vägledning om innovationsupphandling.

Innovation i upphandling (upphandlingsmyndigheten.se) Länk till annan webbplats..

Den här typen av anskaffning är mer lämplig för organisationer med hög digital mognad och god AI-kunskap än för dem med låg digital mognad.

Om verksamhetens data är känslig och inte kan delas med externa leverantörer eller deras moln- och lagringslösningar, kan det vara nödvändigt att utveckla en egen generativ AI-lösning.

Utveckla lösningar i samverkan, men beakta lagen om offentlig upphandling (LOU)

Ett snabbt och effektivt sätt att skaffa kompetens inom generativ AI kan vara att samarbeta med en eller flera partners för att gemensamt utveckla en lösning för ett gemensamt ändamål.

Gemensamma utvecklingsprojekt för generativa AI-lösningar och LOU

Det ställs ibland erbjudanden riktade till kommuner, regioner och myndigheter om att delta i gemensamma utvecklingsprojekt för generativa AI-lösningar. Ibland krävs en finansiell insats och att organisationen bidrar med egen tid. De ekonomiska insatserna kan benämnas som medlemsavgift, insats för partnerskap eller projektavgift.

En offentlig organisation måste dock utreda om en betalning för sådant samarbete innebär ett köp som omfattas av LOU.

För att avgöra detta kan man granska om mottagaren är en

  • ideell förening
  • ekonomisk förening
  • aktiebolag.

Om betalningen går till ett aktiebolag som säljer produkter eller tjänster kan insatsen betraktas som ett köp och omfattas av LOU. Upphandlingsmyndigheten kan ge vägledning i dessa frågor. En medlemsavgift för medlemskap i en förening kan sannolikt bedömas att inte vara ett köp.

Om organisationen som erbjuder partnerskap, medverkan eller annat är en organisation för forskning och innovation så utgör inte det automatiskt ett undantag från LOU. Undantagen för forskning är ganska snäva och den offentliga organisationen måste kunna bevisa att undantag är tillämpligt.

Samverkan för utveckling kan försvåra senare köp

Att samarbeta med en organisation för att utveckla eller utforska generativ AI kan senare försvåra möjligheten att köpa tjänster från samma organisation. Enligt upphandlingsreglerna kan leverantören anses ha fått en otillbörlig konkurrensfördel genom samarbetet.

Läs mer på Upphandlingsmyndighetens webbplats Länk till annan webbplats..

Samverkan kan också vara ett alternativ vid upphandling. Flera offentliga organisationer kan gå ihop för att göra en gemensam upphandling, vilket kan ge fördelar. Upphandlingsmyndigheten erbjuder vägledning även för detta.

Glöm inte frågan om data när ni anskaffar generativ AI

Köp och användning av tjänster med generativ AI innebär hantering av data. Det kan vara

  • data som används för att träna AI-modeller
  • data som ges som input för att få önskad output
  • data som genereras av verktyget.

Riktlinjerna för generativ AI omfattar även vägledning om relevanta dataskyddsfrågor, se separata delar om detta. Länkar finns under Relaterade riktlinjer.

För frågor om hur upphandling av data ska hanteras finns vägledning i Rekommendationer för upphandling av data.

Stöd i beslutsprocess kring anskaffning

Följande steg kan stödja beslutsprocessen om anskaffning genom köp.

Behov

Konstatera eller ta ställning till om verksamheten ska köpa generativ AI för att tillgodose behov.

Undersök avtal, leverantörer och tjänster

  • Undersök om verksamheten har avtal, leverantörer och tjänster som ger möjlighet att använda generativ AI.
  • Undersök om det finns ramavtal, alltså upphandlingar som Statens inköpscentral vid Kammarkollegiet eller något annat upphandlat avtal där er organisation ingår som upphandlande myndighet och som ger det går att avropa från.

Upphandling

  • Direktupphandla om upphandlingsvärdet understiger direktupphandlingsgränsen. Det kan exempelvis gälla om det finns behov att anskaffa licenser för att kompetensutveckla under en begränsad tid.
  • Gör en annonserad upphandling för upphandlingsvärden över direktupphandlingsgränsen. Det gäller sannolikt många typer av lösningar som avses användas mer långsiktigt för flera ändamål.
  • Undersök marknaden och samla information utifrån marknadsaktörernas utbud då det kan vara svårt att hitta flera aktörer att begära in anbud ifrån och konkurrensutsätta upphandlingen.

Efter köpet

Efter köpet är anslutningen till befintliga tjänster helt beroende av leverantörernas affärsmodeller.

Frågor vid val av AI-verktyg

Frågorna nedan finns också angivna i riktlinjen Köp generativ AI enligt lagen om offentlig upphandling där en fördjupning avseende avtal och villkor finns.

Sammanfattningsvis bör ni vid valet av AI-verktyg särskilt överväga följande frågor ur rättsligt perspektiv:

Avgifter

  • Hur ser avgiftsstrukturen ut?
  • Är det en licensavgift per användare eller något annat upplägg där det är en högre avgift för ett större antal användare?
  • Vilket upplägg passar organisationens behov bäst?
  • Finns det några begränsningar i hur mycket beräkningskraft ni får använda?

Format och användning

  • Vilka format kan verktyget producera? Text, bilder eller andra format?
  • Vem får rätten till det som produceras - användaren eller leverantören?
  • Finns det några begränsningar i hur användaren får använda det som produceras?
  • Får leverantören någon licens att använda det som produceras, i sådant fall på vilket sätt?
  • Hur hanterar verktyget inmatningsdata? Får inmatningsdata användas för att träna verktyget? Kan ni välja att avstå, opt-out, från sådan behandling?
  • På vilka andra sätt kan leverantören använda inmatningsdata enligt villkoren och vad innebär det för hur vi kan använda verktyget?

Lagring och behandling av information

  • Var behandlas och lagras informationen?
    • Är det utanför EU?
    • Om leverantören behandlar informationen i USA, deltar den i EU-U.S. Data Privacy Framework?
  • Vilket inflytande har användaren på lagringsplats och lagringstid?

Certifiering

Får det betydelse för valet av verktyg om leverantören har några särskilda certifieringar? Har bolaget de efterfrågade certifieringarna?

Ansvar

  • Tar leverantören något ansvar för resultatet?
  • Hur regleras ansvaret mellan parterna?
  • Tar leverantören något ansvar för immaterialrättsliga anspråk från tredje part?

Upphörande och uppsägningstid

  • Hur regleras avtalets upphörande?
  • Hur lång uppsägningstid gäller?
  • Hur hanteras parternas data efter att avtalet har upphört?
  • Vilken betydelse kan ett upphörande få för verksamheten?

Inköp av AI-verktyg och system enligt AI-förordningen

EU-kommissionen har publicerat exempelklausuler för inköp av AI-verktyg och system enligt AI-förordningen. De kan tjäna som vägledning vid bedömning av vilka andra frågor som är viktiga att reglera i avtalet när AI-verktyg upphandlas, samt utgöra mall för sådana formuleringar. Detta publicerades i september 2023, alltså innan AI-förordningen antogs i sin slutliga form, och ni bör löpande kontrollera om nya utkast publiceras.

EU model contractual AI clauses to pilot in procurements of AI (europa.eu) Länk till annan webbplats.

Exempel: KRM anskaffar generativ AI

Kommunregionmyndigheten (KRM) har förstått att generativ AI kan möjliggöra både effektivisering och ökad kvalitet i verksamheten. Men det är svårt att veta hur de ska komma dit. KRM bedömer att behovet av att utveckla AI-kompetens motiverar att skaffa en generativ AI-tjänst för att utforska möjligheter samtidigt som kunskapen höjs i verksamheten.

KRM har inte gjort informationsklassificeringar i alla delar av verksamheten men bedömer att man har en hög kompetens och bra kontroll över vilken information och vilka data som kan användas i webbtjänster som kan bedömas använda moln.

Riskbedömningen är att det finns en låg sannolikhet för integritets- och informationssäkerhetsbrytande åtgärder. De bedömer också att det finns en sannolik risk att KRM inte uppfyller kraven på effektivitet och kvalitet i sitt uppdrag, om de inte tar stöd av AI. Effekterna från kompetenshöjning, kapacitetshöjning och effektivisering är så stora att det motiverar en investering.

KRM saknar helt förmåga att utveckla eller att ta konsultstöd att utveckla egna generativa AI-tjänster. Det är inte möjligt att få generativ AI inom gällande leverantörsavtal för Office-paketet. Befintliga ramavtal för programvaror och tjänster ger inte möjlighet att avropa generativa AI-tjänster för behoven. Därför beslutas att köpa tjänsten att använda generativ AI i form av en GPT-tjänst.

Eftersom det beräknade värdet av upphandlingen ligger inom värdet för direktupphandling så beslutar KRM att direktupphandla från en av de fem stora leverantörerna. Även om KRM gärna ser att direktupphandling konkurrensutsätts så görs inte detta eftersom leverantörernas affärsmodeller inte omfattar någon möjlighet att ställa förfrågan om anbud, eller att ge anbud.

Dokument och länkar

Relaterade riktlinjer

Hjälpte denna information dig?

Ditt svar hjälper oss att förbättra sidan

Senast uppdaterad: