Inom ramen för IMY:s prioriteringar för 2026 (bl.a. användandet av AI i offentlig sektor) har IMY dels utfärdat en rapport, dels inlett en tillsyn.

IMY har inom ramen för deras regulatoriska sandlåda tillsammans med Kalmar kommun utrett under vilka förutsättningar en AI-baserad transkriberingstjänst kan användas inom socialtjänsten. AI-tjänsten som var föremål för utredningen innebär att socialsekreterares ”klientsamtal” spelas in med en AI-assistent som genererar transskript och sammanfattningar i syfte att underlätta administrativa bördor avseende dokumentation. Den aktuella tjänsten kombinerar en ASR-modell (tal till text) och en LLM som sammanfattar samtalet utifrån BBIC-riktlinjerna (riktlinjer för barnets bästa i centrum).  AI-tjänsten är en extern tjänst där själva sammanfattningen görs av generativ AI vilket IMY konstaterar aktualiserar risker med ”black box-problematik” och bias (d.v.s. att det är omöjligt att förstå hur de miljarder parametrar som bestämmer AI:ns slutatser fungerar samt feltolkningar/fördomar). Inspelningarna utgörs emellertid inte av träningsdata.

IMY konstaterade att användandet kan vara lagligt under vissa förutsättningar vilket alltså undanröjer ett tidigare oklart rättsläge avseende frågan om behandling av känsliga personuppgifter genom AI. Förutsättningarna för att svara mot krav avseende dataskydd innefattar bl.a. följande.

• Assistenten ska ha en begränsad funktion (ej t.ex. beslutsfattande eller producera eget material som ligger till grund för beslutsfattande)
• Socialsekreterare som använder assistenten måste granska transkriberingarna och sammanfattningarna inom 72 timmar från aktuellt möte medan minnet är färskt
• Socialsekreterarna måsta få tillräcklig tid för utbildning avseende användandet av tjänsten och riskerna med AI
• Det behöver finnas tydliga rutiner för gallring, kryptering och behörighetshantering avseende det inspelade materialet 

Bedömning som är principiellt viktig och i viss mån kan vara vägledande för fortsatt användande av liknande tjänster för liknande ändamål finns att läsa här: https://www.imy.se/globalassets/dokument/rapporter/transkribering-inom-socialtjansten.pdf

Det kan även tilläggas att IMY inlett en tillsyn mot Region Gävleborg avseende AI-baserad transkribering i primärvården: https://www.imy.se/nyheter/granskning-av-region-gavleborgs-anvandning-av-ai-transkribering-i-primarvarden/