Köp generativ AI enligt lagen om offentlig upphandling (LOU)

Utvärdera befintliga tjänster, avtal och leverantörer

Generativ AI är redan integrerat i många tjänster. Om ni behöver en digital assistent, co-pilot eller liknande lösning för att underlätta arbete med texter, bilder och annat, börja med att se om era befintliga tjänster och avtal redan erbjuder dessa stöd.

Om organisationen till exempel har licenser och arbetar med Microsoft Teams följer möjligheten att medarbetarna kan använda Microsoft Copilot.

Det finns även leverantörer som utvecklar och lägger till assistenter och generativa AI-lösningar till andra typer av programvaror och system som används i verksamheter. Det kan vara möjligt att ha dialog och se över möjligheterna med leverantörer av program och systemstöd för er verksamhet.

Undersök och ropa av från ramavtal

Ramavtal innebär ofta en relativt snabb väg för offentliga organisationer att snabbt beställa tjänster och leverantörer.

Ramavtal och generativ AI

Det är annu svårt att hänvisa till större ramavtal inom offentlig sektor för generativ AI. Anledningen är att generativ AI inte har varit föremål för de upphandlingar som befintliga ramavtal avser när det gäller programvaror och it-system. Detsamma gäller för leverantörer av utveckling av generativa AI-tjänster.

Det finns få förmedlare, mäklare, distributörer, återförsäljare och partners som erbjuder generativ AI. Men eftersom marknaden utvecklas snabbt bör ni undersöka alternativen innan en upphandling startas.

Medlem i Sveriges kommuner och regioner (SKR)

För de organisationer som är medlemmar i SKR och angivna som kunder i ramavtalet Programvaror och molntjänster 2023, hos Adda, finns möjlighet att avropa ”Artificiell intelligens och maskininlärning”.

Direktupphandla – om avtal eller leverantör saknas

Inköpets syfte och mål ska styra om direktupphandling är rätt väg att gå.

Om målet exempelvis är att höja kompetens och förmågan att använda AI kan direktupphandling fungera. För långsiktiga behov kan det däremot bli svårt eftersom värdet av det köpta kan överstiga gränsen för direktupphandling. För mindre organisationer kan det vara möjligt att använda direktupphandling för något längre behov, eftersom licenskostnader kan bli lägre när det är få anställda.

Utmaningar vid direktupphandling av tjänster inom generativ AI

Vid direktupphandling av tjänster inom generativ AI är det viktigt att känna till att leverantörernas affärsmodell och kontaktvägar kan skilja sig åt mot det vi är vana vid för den här typen av inköp.

Framför allt kan det bli utmaningar vid upphandling med konkurrentutsättning då köp av licenser och anslutning ofta sker helt digitalt utan kontaktvägar för att exempelvis göra anbudsbegäran och hantera anbud. Dessutom kan tjänsterna erbjudas på så olika sätt att det är svårt att jämföra dem. I vissa fall kan behovet och ändamålet göra att endast en leverantör är ett realistiskt alternativ.

Dokumentera process och beslut

Vid all upphandling är det av stor vikt att föra anteckningar och loggning av processen och besluten, Det kan vara än viktigare vid anskaffning av generativ AI om förutsättningarna inte är desamma som vid den upphandling man är van vid.

Gör en annonserad upphandling när gränsen för direktupphandling överskrids

Om ett köp överstiger direktupphandlingsgränsen behöver en annonserad upphandling enligt lagen om offentlig upphandling göras.

Eftersom licens- och affärsmodeller och köp kan vara automatiserade, även när det gäller förlängning, så kan ett köp bli förlängt av misstag. Det kan innebära att beloppen för upphandlingen lätt ökar. Det är viktigt att ha rutiner för bevakning av avtal, i synnerhet när de har automatisk förlängning.

Vid flera av de tjänster som finns för generativ AI gäller det att iaktta leverantörernas rutiner och att även dessa är under utveckling och att de kan skilja sig från de som har gällt traditionellt vid upphandling.

Dokumentera process och beslut

Vid all upphandling är det viktigt att dokumentera och föra loggning över processen och besluten. Det gäller självfallet också vid upphandling av generativ AI och i synnerhet om processerna är nya.

Studera avtalsfrågor och villkor noga

Vid valet av generativ AI-lösning är det viktigt att titta på leverantörernas villkor, och eventuella begränsningar, och välja den som passar verksamhetens behov bäst.

Nedan följer ett urval av aspekter som är viktiga att ha i åtanke när villkor granskas och förhandlas. De bör inte bedömas enbart ur organisationens perspektiv, utan även inkludera om det finns avtalspartners som ställer särskilda krav på bland annat informationssäkerhet – och som därför kan utesluta användningen av vissa verktyg.

Olika villkor kostar olika mycket

Gör en noggrann granskning av villkoren för hur AI-lösningen får användas i förhållande till den (eventuella) avgift leverantören tar ut.

Kontrollera om det finns olika avgiftsnivåer som ger tillgång till olika funktioner eller prestanda. Till exempel kan det finnas begränsningar i hur mycket beräkningskraft som ingår, vilket exempelvis påverkar hur många frågor som kan ställas under en viss tid.

Fundera också på vilka format lösningen ska kunna hantera – om det räcker med text eller om den också ska kunna skapa bilder, video eller ljud.

Rätten till genererat material

Ytterligare villkor att granska särskilt, är hur rättigheterna till det som den generativa AI-lösningen producerar regleras, oavsett om det uppstår upphovsrätt eller inte.

Det finns olika sätt att hantera rättigheter till producerat material. Ibland får användaren ensamrätt, men ibland behåller leverantören rättigheterna och ger användaren en begränsad licens. Det kan också vara tvärtom, där användaren får rätten till det producerade materialet men leverantören får använda det, till exempel för att träna de modeller som den generativa AI-lösningen baseras på.

Bedöm upphovsrätten vid användningen av generativ AI

Villkor för hanteringen av inmatningsdata kan variera

Det är viktigt att granska hur villkoren för hur den generativa AI-tjänsten får hantera inmatningsdata.

Leverantörer av gratistjänster kontra betaltjänster

Många leverantörer har villkor som innebär att inmatningsdata får användas för att träna sina modeller, vilket kan innebära risker för dataskydd, immaterialrätt och informationssäkerhet.

Gratistjänster har ofta villkor som ger leverantören mer rättigheter till inmatningsdata än betalalternativ och det finns därför anledning att vara försiktig med dessa.

Privata konton och gratistjänster

Det avråds att offentliga organisationer godkänner användning av anställdas privata konton för generativ AI. Arbetsgivare bör reglera anställdas användning av gratistjänster med privata konton eftersom sådan användning kan ske utan medgivande, insyn och kontroll samt gå ut över uppgifter inom tjänstemannaansvar. Det finns också viktiga aspekter inom dataskydd att beakta.

Inmatningsdata och (eventuell) anonymisering

Vissa leverantörer erbjuder möjlighet att avstå (opt-out), eller kräver aktivt samtycke (opt-in), för att använda data till träning av AI-verktyget. Andra anger att de endast använder anonymiserad data för att träna verktyget, men metoden för anonymisering är ofta oklar. Därför bör anställda vara försiktiga med att mata in känslig information, även om anonymisering påstås ske.

Beakta var behandling och lagring av data sker

Det är viktigt att veta var information behandlas och lagras, särskilt ur ett dataskyddsperspektiv för att skydda personuppgifter.

Leverantör baserad inom eller utanför EU?

Kontrollera alltid om leverantören är baserad inom eller utanför EU. Eftersom många stora AI-leverantörer finns utanför EU, måste ni noga överväga vad det innebär om data behandlas eller lagras utanför EU. Ta också reda på hur länge data lagras och om ni som användare kan påverka lagringsplats och lagringstid.

System och processer för informationssäkerhet

En annan viktig faktor att undersöka är om leverantören har certifieringar, till exempel ISO-certifieringar, och vad dessa innebär för till exempel informationssäkerhet.

Ta reda på vad certifieringarna garanterar, och vilken betydelse de har vid valet av leverantör. Leverantörer som erbjuder stöd för informationsklassning, hantering av känslig data och kryptering kan vara ett bättre val.

Begränsningar av ansvar i villkor

Det är vanligt att leverantörer har ansvarsbegränsningar i sina villkor, där leverantörens ansvar begränsas kraftigt, samtidigt som användaren ofta har ett större ansvar att hålla leverantören skadeslös.

Leverantörer av gratistjänster kontra betaltjänster

Även här skiljer det sig ofta åt mellan gratistjänster och betaltjänster när det gäller generativ AI. Något som blivit vanligare är att leverantörer (av framförallt betaltjänster) erbjuder en sorts ”immaterialrättslig garanti”, som innebär att leverantören åtar sig att hantera eventuella anspråk från tredje parter mot användaren angående att producerat material skulle göra intrång i den tredje partens upphovsrätt eller liknande rätt.

Detta kan förstås ge en större trygghet till användaren av generativa AI-tjänster i ett immaterialrättsligt perspektiv. Det är dock viktigt att notera att sådana ”garantier” i regel kommer med en mängd särskilda villkor och begränsningar.

Man bör också ha med sig att skapande och användning av AI-producerat material kan leda till kränkningar av andra rättigheter än bara immaterialrättsliga sådana, såsom rätten till privatliv eller skyddet mot diskriminering.

Utöver immaterialrättsskyddet som finns i vissa fall, tar leverantörer i regel inget ansvar för att det som skapas med generativ AI ska vara fritt från fel eller att det inte ska kränkas andras rättigheter.

Tvister och uppsägning

Det är inte ovanligt att villkor för generativa AI-tjänster innebär att tvister med anledning av användning av tjänster och avtal ska lösas i en domstol i ett annat land, ofta i USA. Detta är inget som normalt gäller för avtal där en svensk offentlig organisation är part.

Skiljeförfarande är också ett sätt för tvistelösning som kan vara reglerat i villkor och som kan vara svåra för en offentlig organisation att finna sig i.

Även villkor för uppsägning kan vara annorlunda och detta är något att beakta innan avtal ingås. Det finns också frågor kring hur rätten till lagrad data ska lösas efter avtals upphörande som bör vara tydligt reglerade, och accepterade, vid beslut om att ingå avtal.

Det kan också bli aktuellt att ett avtal behöver sägas upp när leverantören gör sådana förändringar i en AI-tjänst, att det inte längre kan användas på tänkt sätt. Det kan också hända att leverantören slutar tillhandahålla stödet och att det inte är värt att ha det längre.

Frågor vid val av AI-verktyg

Vid valet av AI-verktyg bör ni särskilt överväga nedanstående frågor ur rättsligt perspektiv:

Stöd i beslutsprocess kring anskaffning

Följande steg kan stödja beslutsprocessen om anskaffning genom köp.

Exempel: KRM anskaffar generativ AI

För att hjälpa dig förstå hur riktlinjerna kan tillämpas i praktiken har vi tagit fram exempel. De illustrerar exempelvis olika situationer och exempel på hur riktlinjerna kan användas.

Dokument och länkar

• Säkerhetsskyddad upphandling (upphandlingsmyndigheten.se) Länk till annan webbplats.
• Rekommendationer för upphandling av data
• Innovation i upphandling (upphandlingsmyndigheten.se) Länk till annan webbplats.
• Samordnad upphandling (upphandlingsmyndigheten.se) Länk till annan webbplats.
• EU model contractual AI clauses to pilot in procurements of AI (europa.eu) Länk till annan webbplats.

Relaterade riktlinjer

• Ta medvetna beslut om att skaffa generativ AI
• Bedöm upphovsrätten vid användningen av generativ AI