Chatboten RiTA ska svara på frågor om arbetsmarknadsförvaltningens rutiner

Mål och syfte

Uppsala kommun har sedan en tid tillbaka varit intresserad av att börja nyttja AI i verksamheten och har till exempel tidigare testat att använda AI vid kontroll av försörjningsstöd, dock utan önskade resultat.

Arbetsmarknadsförvaltningen identifierade ett lovande nytt försöksprojekt: en chatbot byggd på modern AI-teknik. Chatboten skulle tränas för att svara på frågor om förvaltningens rutiner och andra styrande dokument. Många medarbetare var redan från början positiva till att kunna få snabba svar istället för att själva behöva leta bland rutindokument. Projektet skulle kunna skapa praktisk nytta för verksamheten samtidigt som det bidrog till att höja organisationens AI-kompetens. Chatboten hoppas också kunna bli en bra språngbräda eftersom den har goda förutsättningar för vidareutveckling.

Genomförande

Arbetsmarknadsförvaltningen började arbetet med en projektansökan under våren 2023. Själva projektet, delfinansierat av innovationsmyndigheten Vinnova, startade under senhösten samma år. Projektet är i början av 2024 pågående och har involverat många kompetenser; medarbetare från arbetsmarknadsförvaltningen och från Uppsala kommuns IT-avdelning, experter från ett teknikföretag och forskare från institutionen för informatik och media på Uppsala universitet.

Projektets slutdatum är den 31 maj 2024, men det är mycket möjligt att Uppsala kommun kommer att fortsätta vidareutveckla chatboten efter det. Arbetsmarknadsförvaltningen hoppas att projektets resultat, om AI-lösningen implementeras skarpt, både kommer bidra till ökad arbetsglädje bland medarbetarna och leda till tidsbesparingar. Digitala lösningar som frigör mer arbetstid till medarbetarnas kärnuppdrag är både välkomna och nödvändiga i kommunen.

Beroende på hur väl chatboten visar sig fungera är det också möjligt att gradvis bredda chatbotens kunskapsbas till betydligt fler områden än arbetsmarknadsförvaltningens rutiner.

Teknik

Chatbotens namn, RiTA, står för ”Rätt Information till Användaren”. Förvaltningen har inte, i början av 2024, beslutat hur RiTA ska bli tillgänglig för användarna men de har börjat undersöka olika alternativ.

Chatboten ska vara specialiserad på arbetsmarknadsförvaltningens interna dokument och kunna svara på frågor och följdfrågor kring dessa. Tjänsten ska kunna svara på alltifrån enklare frågor kring bokning av besöksrum till mer komplicerade frågor som hur man gör beräkning av boendekostnader.
Chatboten bygger på en stor språkmodell, en integration till arbetsmarknadsförvaltningens dokument och ett chatbaserat gränssnitt där användaren kan skriva sina frågor. Frågan som skrivs i gränssnittet bearbetas sedan av modellen. Därefter ska svar och hänvisning till källan presenteras för användaren.

Projektgruppen har tränat språkmodellen på interna dokument samt modifierat och specialiserat den för att svara på frågor som rör arbetsmarknadsförvaltningens rutiner. Tanken är att RiTA ska spara tid för medarbetarna genom att snabbt och enkelt kunna svara på vissa frågor, istället för att medarbetarna själva ska behöva leta efter svaren bland förvaltningens olika dokument.

Juridik och etik

Uppsala kommuns arbetsmarknadsförvaltning valde medvetet ett område de ansåg var förhållandevis okontroversiellt för sitt AI-initiativ. De tog beslut om att RiTA bara skulle tränas på offentliga handlingar som inte innehåller några känsliga uppgifter, och inga sekretessbelagda handlingar. Detta minskar utmaningarna men juridiken är trots detta en väldigt stor fråga inom projektet. Projektet behöver löpande stämma av juridiska frågor med kommunjurist och sakkunniga inom bland annat informationssäkerhet.

Den främsta utmaningen kring juridik och etik kretsar kring om RiTA svarar fel, och hur detta i sin tur skulle påverka en bedömning av ett ärende. De projektansvariga är tydliga med att de kommer att testa chatboten ordentligt innan den eventuellt tas i bruk. Inledande tester visade att det är låg risk att AI:n hittar på information, en så kallad ”hallucination”. Det är också tänkt att RiTA i slutet av sina svar ska hänvisa till de dokument där chatboten hittat svaren, så att det blir enkelt för användare att kontrollera fakta.

Insikter

RiTA är en förhållandevis enkel modifiering av en befintlig AI-modell. Den har vidaretränas på cirka 200 interna rutiner och styrdokument inom arbetsmarknadsförvaltningen. Projektgruppen har, trots det, identifierat en del risker och utmaningar. AI-tjänsten har god förståelse för det svenska språket men en del verksamhetsspecifika begrepp som används inom socialtjänsten skapar svårigheter som behöver hanteras.

En annan viktig insikt är att RiTA behöver vara väldigt träffsäker innan den går att lansera. När RiTA är osäker på svaret på en fråga kommer chatboten prioritera korrekta svar framför snabbhet, för att undvika att den ger felaktig information. Om medarbetarna på arbetsmarknadsförvaltningen ska använda RiTA i sitt dagliga arbete behöver de kunna lita på att chatboten inte svarar fel. Annars finns det risk att de inte vill använda chatboten.

De projektansvariga hoppas att RiTA på sikt kommer ge fler lärdomar. När förvaltningen kan se vilka frågor användarna ställer till RiTA kan de till exempel identifiera om det behövs nya eller ändrade rutiner.

Medskick och tips

De projektansvariga har flera medskick till kommuner som vill utforska AI-lösningar:

• Välj ett väl avgränsat projekt om ni nyss har börjat med AI. Det är lätt att vilja för mycket på en gång.
  
• Bilda en bred projektgrupp med kompetenser från både kärnverksamheten och IT-sidan.
  
• Ha ledningen med er. Säkerställ att riktning och mål med projektet är tydligt utstakade för alla inblandade.
  
• Förankring inom verksamheten och tydlig kommunikation är viktigt genom hela processen.

Kontakt

Fler exempel

Läs om fler initiativ där socialtjänsten i andra kommuner på olika sätt utforskar möjligheterna att använda AI som ett stöd i verksamheten.

AI-initiativ