Kan AI hjälpa arbetsmarknads- och socialförvaltningen att erbjuda mer träffsäkra stödinsatser?
Arbetsmarknads- och socialförvaltningen i Malmö stad har tillsammans med forskare vid Lunds universitet undersökt om förvaltningen skulle kunna ta hjälp av AI för att stötta Malmöbor till hållbar självförsörjning. Arbetet har gett många insikter i vad som krävs av organisationen för att kunna arbeta med AI - såväl tekniskt som etiskt.
Fakta
- Verksamhetsområde: Arbetsmarknads- och socialförvaltningen
- Tidsperiod: Projektet har huvudsakligen drivits under 2023
Mål och syfte
Malmö stads digitaliseringsprogram arbetar med samlade mål kopplade till stärkt demokrati, inkludering och bättre service. I likhet med många andra kommunala verksamheter i Sverige ser arbetsmarknads- och socialförvaltningen i Malmö stad (ASF) data som en strategisk resurs, nödvändig för att utveckla staden. ASF har under lång tid arbetat kontinuerligt med att vidareutveckla förvaltningens kompetens inom dataanalys och har byggt ut datainfrastruktur samt skaffat nya analysverktyg. ASF har också en anställd data scientist och startat upp analysgrupper med verksamhetsspecialister och teknisk kompetens. Utforskande arbete inom AI är en naturlig fortsättning på förvaltningens systematiska arbete för en datadriven kunskapsutveckling.
Projektet ”Artificiell Intelligens, Riktiga Människor” (AIRM) syftade till att avgöra om AI kan användas på förvaltningens data gällande ekonomiskt bistånd och arbetsmarknad, som verktyg för att på sikt kunna erbjuda mer träffsäkra insatser så att personer snabbare når självförsörjning. Projektet pågick framföralt under 2023 och fokuserade på det grundläggande problemet med Malmös höga arbetslöshet, att många Malmöbor inte är självförsörjande utan i behov av ekonomiskt bistånd. För såväl arbetslöshet som för ekonomiskt bistånd är Malmös siffror högre än riksgenomsnittet. Projektets arbetshypotes var att AI skulle kunna identifiera mönster som visar på gap i till exempel utbildning och arbetserfarenhet hos biståndssökande Malmöbor som har svårt att bli hållbart självförsörjande. Utifrån sådana mönster skulle förvaltningen kunna rikta stöd dit det gör mest nytta.
Projektet var ett första steg för Malmö stad att utforska tekniska arbetssätt, möjligheter och risker med att använda AI inom socialtjänsten, samt att skaffa sig kunskap i att värdera de resultat AI producerar. Långsiktigt är förhoppningen att AI ska finnas tillgängligt som ett redskap för att söka insikter, kunskap och förståelse för vilken samhällsservice och vilka insatser som gör skillnad för Malmöbon. För att nå hit har projektet visat att det krävs fördjupade och breda samarbeten såväl lokalt, regionalt som nationellt.
Genomförande
Projektet har stegvis och med olika maskininlärningsmetoder, undersökt hur väl förvaltningens data har kunnat användas för mönsterigenkänning, som skulle kunna omsättas i kunskap. Parallellt med detta har projektet från en demokratisk och etisk synvinkel undersökt under vilka förutsättningar och i vilka sammanhang det skulle kunna vara lämpligt att använda AI i socialtjänsten.
Projektet drevs av Arbetsmarknads- och socialförvaltningen i Malmö stad (ASF), tillsammans med forskare vid Centre for Environmental and Climate Science (CEC) och Statsvetenskapliga institutionen, båda vid Lunds universitet. I projektgruppen fanns medarbetare från ASF med kunskaper och erfarenhet inom arbetsmarknad, ekonomiskt bistånd, digitalisering och data science, samt en för projektet rekryterad examensarbetare/projektmedarbetare. Det tillsattes även en referensgrupp bestående av enhetschefer från ASF:s verksamhet, samt en forskare knuten till Institutionen för samhälls- och kulturvetenskap vid Karlstads universitet.
Teknik
Den tekniska delen av projektet bedrevs som ett examensarbete med stöd av en professor vid Centre for Environmental and Climate Science på Lunds universitet. Eftersom AI och maskininlärning har utgjort ny terräng för ASF, har den tekniska delen genomförts stegvis och med viss försiktighet.
Därefter applicerades så kallat oövervakat lärande (unsupervised learning) för att undersöka om de valda algoritmerna kunde kategorisera data på ett sätt som är rimligt utifrån Malmös kännedom om individer som söker förvaltningens stöd. Slutligen använde kommunen övervakat lärande (supervised learning) för att undersöka om algoritmer kunde tränas för att korrekt klassificera – givet ett utfallsmått baserat på den tid individer mottar ekonomiskt bistånd – om det hade gått mer eller mindre bra för de individer som finns i kommunens data. Som ett komplement till detta undersöktes vilka attribut, egenskaper hos individerna, som var drivande i klassificeringen.
Juridik och etik
På sikt är förhoppningen att AI ska användas som ett stöd vid framtagande av beslutsunderlag till verksamhetsnära ledningsgrupper och i förlängningen till politiken, därför menar de projektansvariga att det är viktigt att behandla frågor kring etik och juridik med stor respekt.
När det gäller införandet av AI i socialtjänsten handlar det inte bara om tekniska frågor, om skevheter i data, ogenomskinliga algoritmer och de konsekvenser dessa kan få för beslut som berör medborgarna. Det handlar också om strukturella faktorer som förändrade maktdynamiker inom förvaltningen och i relation till medborgarna. För stöd i demokratiska och etiska frågeställningar tog projektet hjälp av en universitetslektor i statsvetenskap vid Lunds universitet. En grundläggande lärdom var att alltid klargöra varför man vill använda AI och vems behov det är som styr införandet av AI. Ledningens? Datavetares? Handläggares? Malmöbons?
Vid fortsatt utvecklingsarbete inom AI kommer Malmö stad sträva efter att involvera såväl Malmöbor som handläggare som dagligen utför service som kan komma att påverkas.
Data behöver samlas in och struktureras på ett visst sätt för att den ska vara effektiv att analysera med AI.
Insikter
Projektgruppen har fått en mängd olika insikter längs vägen. Först och främst behövs bred sakkunskap och olika perspektiv för att ro ett AI-projekt i hamn. Resultat behöver även presenteras och analyseras tillsammans med annan verksamhetsnära sakkunskap för att bli relevant. En annan viktig lärdom är hur viktigt det är att klargöra syftet med att använda AI, och vad de olika tillämpningsområden kan vara.
En slutsats i projektet var att ASF:s data innehåller mönster, men det är också uppenbart att det finns brister i förvaltningens data. Val av indikatorer och algoritmisk skevhet (bias) är välkända problem i AI-projekt. Därför krävs medvetenhet om risken att AI-system inte bara reproducerar, utan förstärker mönster i de data som de tränas på.
Medskick och tips
Projektet resulterade i rekommendationer för framtida arbete med data och med AI vid Arbetsmarknads- och socialförvaltningen i Malmö stad. Det är inte omöjligt att några av dessa kan vara till gagn även i andra kommuner och organisationer.
I närtid
- Det är angeläget att skapa förståelse och tydlighet för hur den data som ska registreras är kopplad till de sätt förvaltningen arbetar på för att stödja invånarna.
- Det är viktigt att tänka på data utifrån ett helhetsperspektiv som inkluderar hela förvaltningen, och hur den i sin tur kan ge stöd till invånarna.
- Det är nödvändigt med en enhetlig begreppsanvändning och logisk struktur vid registrering av data.
På längre sikt
- Etablera en systemarkitektur för hela brukarresan om du genomför ett liknande AI-projekt.
- Det vore önskvärt att kunna knyta ihop den typen av data som undersökts i detta projekt med data från andra myndigheter.
- Det behövs ett större nationellt stöd för AI-arbete i den svenska kommunsektorn.
Nyttiga länkar
En mer utförlig beskrivning av genomförande, dataurval, algoritmer och resultat ges i projektrapporten för Artificiell Intelligens, Riktiga Människor (AIRM)
Artificiell Intelligens, Riktiga Människor (AIRM) (pdf)
Länk till annan webbplats.
Mer ingående beskrivningar av dataurval, algoritmer och resultat finns även i den examensuppsats vid Lunds universitet som utgjorde en del av projektet
Mer ingående beskrivningar av utmaningar och möjligheter kopplat till etiska aspekter kan läsas i Marias Hedlunds rapport Demokratiska och etiska aspekter på AI i offentlig sektor: Erfarenheter från AIRM.
Hitta samlade dokument för vidare läsning om projektet på projektets My AI-sida.
Artificiell Intelligens, Riktiga Människor (my.ai.se) Länk till annan webbplats.
Kontakt
Gör en egen juridisk bedömning innan du använder en AI-lösning i din kommun
Innehållet i exemplen är skrivna och modererade av Digg, E-hälsomyndigheten och Socialstyrelsen och den slutliga texten har godkänts av respektive kommun. Digg, E-hälsomyndigheten och Socialstyrelsen har inte gjort en juridisk bedömning av de enskilda exemplen utan förmedlar endast kommunernas erfarenheter. Kommunerna är själva ansvariga för de juridiska överväganden beträffande de lösningar som beskrivs i exemplen och att genomförandet har skett utifrån tillämplig lagstiftning. Digg, E-hälsomyndigheten och Socialstyrelsen lämnar således inga garantier för att beskrivna lösningar är juridiskt korrekta. Varje kommun som vill använda en liknande lösning måste göra en bedömning av de juridiska förutsättningarna utifrån sin verksamhet.
Fler exempel
Läs om fler initiativ där socialtjänsten i andra kommuner på olika sätt utforskar möjligheterna att använda AI som ett stöd i verksamheten.
Ditt svar hjälper oss att förbättra sidan
Senast uppdaterad: