AI-verktyg som hjälp vid inkommen anmälan om oro för barn

Mål och syfte

Strängnäs kommun har likt många andra kommuner utmaningar med personalförsörjningen. Personalen räcker knappt till i dag och situationen ser ut att ytterligare förvärras i framtiden.

Kommunen har sedan 2018 arbetat med Robotic process automation (RPA) som ett sätt att effektivisera arbetet. Strängnäs kommun har till exempel integrerat RPA i arbetsprocesserna vid ansökningar om försörjningsstöd och skolskjuts. Resultatet är minskad arbetstid som går åt vid varje ärende.

I samband med de senaste årens stora tekniksprång inom AI har socialtjänsten i Strängnäs kommun velat undersöka hur de kan integrera fler AI-lösningar i verksamheten. Exempelvis vid hantering av inkomna anmälningar om oro för barn. Kommunen skickade in en ansökan om stöd för ett utforskande och lärande AI-projekt till Vinnova. Ansökan blev beviljad och ett projekt kunde starta. Projektet skulle undersöka möjligheten att använda en AI-språkmodell (Large language model – LLM) för att utföra vissa arbetsmoment vid en anmälan om oro för barn. Parallellt pågick även ett lokalt finansierat projekt med att införa RPA för att förenkla arbetsmomenten i processen för att handlägga orosanmälningar.

Genomförande

Strängnäs kommun började med en förstudie under hösten år 2020. De startade sedan projektet på allvar under september år 2021 och avslutade det i slutet av 2021. Projektet samlade en bredd av kompetenser med medarbetare från både socialkontoret och digitaliseringsenheten. Projektgruppen hade ett löpande och nära samarbete med kommunens jurist för att säkerställa att de utvecklade i enlighet med gällande regelverk samt att de använde teknikerna på ett etiskt sätt.

Två företag deltog också i projektet, men Strängnäs kommun gjorde mycket jobb själva i utvecklandet av AI-språkmodellen. Både av integritetsskäl och för att kommunen själva ville lära sig mer om tekniken. Utvecklingen utgick från en färdig språkmodell som ytterligare tränades på kommunens anonymiserade data kring anmälan om oro för barn. Därefter finjusterade projektgruppen språkmodellen (så kallad “fine tuning”) för att ge svar på ett önskvärt sätt.

Projektgruppen lärde sig mycket av att göra arbetet själva, trots att det var tidskrävande och att projektet är avslutat. AI-språkmodellen är inte färdig att användas skarpt vid anmälningar av oro för barn eftersom projektet identifierade risker och utmaningar under arbetets gång. För att AI-modellen skulle kunna användas i skarpt läge skulle den behöva säkerställas juridiskt men också vidareutvecklas, vilket det i dagsläget inte finns några planer på.

Teknik

RPA-delen av lösningen automatiserar registrering av anmälningar om oro för barn och utskick av beslut. Syftet med AI-språkmodellen var att utforska om den självständigt kunde kartlägga tecken på våld och konflikter från tidigare anmälningar. Hypotesen som testades var om informationen som AI-verktyget sammanfattades i en analys, kunde användas som hjälp vid möten och som stöd för handläggaren vid beslut kring eventuella vidare åtgärder. Strängnäs kommun köpte in språkmodellen från en extern leverantör och tränade den. Träningen innebar att projektgruppen valde ut textavsnitt ur de anonymiserade anmälningarna och klassificerade dem beroende på om de innehöll våld och konflikter och i så fall vilken typ. Detta arbete kallas inom maskininlärning för annotering. Därefter kunde modellen tränas på de klassificerade textavsnitten. Projektgruppen menar att det var mycket lärorikt men också tidskrävande.

AI-modellen utvecklades till det stadiet där den kan läsa igenom ett antal orosanmälningar samt relativt pricksäkert identifiera innehåll av olika typer av våld och konflikter. Kvaliteten på svaren är dock inte tillräckligt hög för att den ska vara lämplig att använda på riktigt. Det skulle krävs också mer arbete kring paketeringen av modellens analyser och slutsatser för att göra dem enklare att använda.