TEMA Dataetisk Råd: Når AI træffer beslutninger, skal mennesket kunne forklare dem Offentlige myndigheder skal bruge AI ansvarligt til gavn for borgerne uden at svække deres tillid. Det er en ledelsesmæssig opgave at sikre, og derfor skal dataetik, datakvalitet og klare placeringer af ansvar tænkes ind fra begyndelsen, lyder anbefalingen fra Justitia-direktør Birgitte Arent Eiriksson, medlem af Dataetisk Råd. Indholdsfortegnelse Dataetik skal være en del af hverdagen 4 Hvad er dataetik? 6 D er findes ikke god eller dårlig tekno Vi mener, at dataetik skal være en 9 del af hverdagen i arbejdet med kun logi. Det er alene et spørgsmål om, hvordan vi bruger den. Og har man som stig intelligens og har derfor udarbejdet Dataetisk Råds principper 10 offentlig instans ikke en politik for det, en række overordnede dataetiske vær eller hvis man ikke får talt med om, fxdataetik? hvor dier, vi mener bør være styrende: Bru 14 Hvordan arbejder man En 5-trins guide dan man indsamler og bruger data gen af data skal sikre det enkelte menne 17 Trin 1 Afklar problemstillingen eller kontrollerer AI-genererede svar, skes selvbestemmelse med værdighed, 23 Trin 2 Find relevante hensyn frihed og selvbestemmelse som under risikerer man, at medarbejderne prøver Trin 3 Vurder argumenter for og imod 37 sig lidt frem, og det er ikke altid hen ordnede principper. Brugen af data skal Trin 4 Afvej og beslut 43 gøre gavn, ikke skade, så sikkerhed, vel sigtsmæssigt. Trin 5 Evaluer og opdater 47 Sådan siger Birgitte Arent Eiriksson, medlem af Dataetisk Råd og til daglig direktør i Justitia Danmark, bl.a. med reference til en sag i Glostrup Kom mune, hvor en medarbejder erkendte at have brugt generativ AI i sagsbehand ling og afgørelse i en handicapsag, da borgeren klagede over det. Med både AI-agenter og -assistenter, automatisk referatskrivning, beslut ningsstøtte og chatbots som bare nogle eksempler er kunstig intelligens allerede en indarbejdet del af den dag lige opgaveløsning i mange grene af den offentlige sektor. For at støtte bl.a. ledere og medarbejdere i at holde tungen lige i munden og undgå de risici og fejl, en så potent teknologi som kun stig intelligens kunne med føre, har Dataetisk Råd ud arbejdet både anbefalinger, værdier og guides i brugen af AI. Eksempler på dataetiske udfordringer 18 O FFE NT L IG L ED EL SE 3 , 2 0 2 6 færd og ansvarlighed er afgørende. Og endelig skal brugen af data sikre ret færdighed, hvor retssikkerhed, lighed og forklarlighed er styrende principper, fortæller Birgitte Arent Eiriksson. Dataetiske principper går på tværs Men hvorfor have dataetiske principper, når vi har lovgivning og forordninger, som regulerer brugen af data og AI? Det er rigtigt, at vi selvfølgelig har juraen som en overordnet ramme med AI-forordning, GDPR, databeskyttelses lov, forvaltningslov osv. Men de dataeti ske principper går på tværs med fokus på mennesket. Fx kan AI være med til at sikre hurtigere sagsbehandling, som gavner borgerens retssikkerhed og skaber mere lighed, fordi man så kan vælge at bruge ressourcerne på de mere Generativ AI: Anbefalinger til offentlige myndigheder Dataetisk Råd har også udgivet en rapport med otte anbefalinger til offentlige myndigheder om brugen af generativ AI for at minimere risici for fejl. Læs mere her: bit.ly/4rmCFcZ UDGIVET I SAMARBEJDE MELLEM H K KO M M U N A L O G DANSK SOCIALRÅDGIVERFORENING 03 26 TEMA: Velfærdsledelse af kerneopgaven mellem maskine og mennekse: VI SKAL STYRE AI IKKE OMVENDT SIDE 6-19 SPØRGSMÅLET I LEDELSE: MEDARBEJDERE TIL LEDERE: LEDERE TIL MEDARBEJDERE: Hvad virker?, men også hv INDHOLD Uge 44 har bidt sig fast som den årlige Ledelsesuge, hvor god offentlig ledelse bliver sat under lup og til debat i en lang række events, webinarer, podcast m.m. Det er Væksthus for Ledelse, som faciliterer ugen, og programmet kan ses på lederweb.dk. I år er det temaerne om trivsel, AI og f LEDEREN Vi må ikke begå samme fejl med AI som med internettet og sociale medier Kunstig intelligens kommer til at forandre vores arbejdsliv mindst lige så grund læggende, som internettet gjorde. Spørgsmålet er derfor ikke længere, om vi skal bruge AI, men hvad vi vil bruge den til, og hvem der best Spørgsmålet i ledelse skal ikke kun være: Hvad virker?, men også hvad er vigtigt og hvorfor? Det, der kan ligne spildtid i en organisation optaget af effektivitet og målstyring, kan vise sig at være en forudsætning for bedre beslutninger og større trivsel. For ungdomsskoleleder Rasmus Jensen i Aalb aler, der i sin tid havde fået dem til at vælge arbejdet med unge. Det blev sær lig tydeligt, da en medarbejder fortalte ham, at hun fuldt ud var klar over, at en af de unge piger havde det rigtig skidt. Men hun havde hverken tid eller over skud til selv at gøre noget ved det. Da stod det klart for TEMA VI SKAL STYRE AI ikke omvendt AI er her, der og alle vegne på vores smartphones, computere, arbejdspladser og i mange af de servicer, vi forbruger som borgere i samfundet. I den offentlige sektor er mange kommuner og regioner allerede i test- eller driftsfase med AI-løsninger, mens andre sta Forskerne: AI er ikke menneske mod maskinen, men menneske plus maskinen Balancen mellem menneske og maskine har historisk set været en årelang udfordring i takt med teknologiens udvikling, og den er ikke blevet mindre med generativ AI, der udvikler sig i en hast uden sidestykke. Så byg organisation TEMA hører vi ofte at vejen til langtidshold barhed er effektivisering. Men i virkelig heden hører medarbejderne kun, at de er ved at grave deres egen grav. Byg organisationer, der kan omstille sig Louise Harder Fischer er lektor på IT-Universitetet og har ligesom Jacob Sherson sit blik stift rett af AI, men også: Hvor skal AI slet ikke ind. Lederen skal sammen med med arbejderne definere, hvor de har brug for hjælp til arbejdsopgaverne, hvilke de gerne vil være helt fri for, og hvilke de hellere vil bruge en kollega end AI til at sparre med. Sådan en samtale bør man afvikle tre gange om året TEMA Medarbejderne til lederne: AI må ikke erstatte vores faglige dømmekraft I både Aalborg og Aarhus Kommuner ruller AI ind over såvel velfærden som de mere tekniske områder. Opgaven for medarbejderne og deres tillidsvalgte er at holde ledelsen fast på betydningen af faglig erfaring og dømmekraft Jeg er jo langt mere motiveret for at tage et AI-værktøj i brug, hvis det er meningsfuldt og værdifuldt for mig som medarbejder. Det, mener jeg, er en ledelsesopgave at formulere, så AI er med til at kvalificere mit arbejde. En dygtig ledelse gør det på en måde, så vi medarbejdere føler os inddraget TEMA Lederne til medarbejderne: AI skal kobles til kerneopgaven som beslutningsstøtte Vi skal udnytte potentialet i AI i det daglige arbejde, knytte det til kerneopgaven uden at udhule fagligheden. Det er Jeanett Grønberg Andersen, centerchef i Aalborg Kommune, og Vibeke Bech, leder af Borgerbetj sel halter, går det ud over hele arbejds miljøet. Og nej, det lykkes selvfølgelig ikke altid, men gentagelserne hjælper, og samtidig støtter det positivt i de bekym ringer, der kan være for, at vi sikrer den digitale udvikling i vores samfund med brug af AI i opgaveløsningen. Viden om AI er vigtig KL: AI må aldrig blive målet i sig selv AI har potentiale til at frigive tid og løfte opgaveløsningen i kommunerne, og teknologien er lige nu i bevægelse fra små forsøg til større udbredelse. Det stiller nye krav til faglig ledelse, kvalitetssikring og ikke mindst modet til at stille det vigtigste TEMA Hvilke nye krav stiller AI til faglig ledelse, vurderer du? Der er blevet talt meget om, at AI kan skubbe på, at faglig ledelse bliver endnu vigtigere, fordi man med AI luk ker op for et stort forgreningstræ. Med ét og samme AI-værktøj kan en opgave løses på 100 måder. Derfor kræver det, at l TEMA Jura og AI: Sådan påvirker generativ AI din ledelsesopgave I både Aalborg og Aarhus Kommuner ruller AI ind over såvel velfærden som de mere tekniske områder. Opgaven for medarbejderne og deres tillidsvalgte er at holde ledelsen fast på betydningen af faglig erfaring og dømmekraft, når kunstig tjekkes, og fordi det er vigtigt, hvordan medarbejderen har promptet. Det for udsætter også, at din medarbejder for tæller dig, at der er brugt generativ AI, og fortæller dig, at svaret ikke er tjekket. Derfor er psykologisk tryghed på din arbejdsplads afgørende vigtig også når vi taler AI. Fokus p TEMA Dataetisk Råd: Når AI træffer beslutninger, skal mennesket kunne forklare dem Offentlige myndigheder skal bruge AI ansvarligt til gavn for borgerne uden at svække deres tillid. Det er en ledelsesmæssig opgave at sikre, og derfor skal dataetik, datakvalitet og klare placeringer af ansvar tænk Dataetik: Hvad er det og sådan gør du For mig at se er retssikkerheden et af de største problemer i den fase, vi er i nu. Fordi vi har redskaberne, men endnu ikke har styr på, hvordan vi senere skal forklare brugen af dem. BIRGITTE ARENT EIRIKSSON, DIREKTØR I JUSTITIA OG MEDLEM AF DATAETISK RÅD k Derfor får du Offentlig Ledelse Tre gange om året lander dette ledelsesfagblad i din postkasse. Det er en af gevinsterne ved at være medlem af Ledersektionen i Dansk Socialrådgiver forening eller Chefgruppen i HK Kommunal. Vores ambition er at holde dig opdateret på de nyeste trends og teorier i off