I takt med at kunstig intelligens i stigende grad bliver en del af den offentlige forvaltning, ændrer det måden, hvorpå borgere oplever staten. Fra sagsbehandling, der foregår automatisk, til beslutninger truffet af algoritmer, lover AI uden tvivl øget effektivitet, men rejser samtidig et grundlæggende spørgsmål: Hvem bærer ansvaret, når beslutninger overlades til maskiner?
Dette spørgsmål er omdrejningspunktet for AWARE, et nyt forskningsprojekt ledet af professor Helene Ratner og professor Brit Ross Winthereik fra DTU Management, støttet af en bevilling fra Danmarks Frie Forskningsfond (DFF).
Ansvarlighed og AI
AWARE undersøger, hvordan AI påvirker ansvar i relationerne mellem offentlige institutioner og de borgere, som de betjener. For når algoritmer enten informerer eller udfører beslutninger i f.eks. kommunale sammenhænge, udfordres de hidtidige normer for fagligt skøn og ansvar. Projektet ser nærmere på, hvordan ansvarlighed udøves og opleves i disse nye sammenhænge - både af de borgere, der er genstand for systemerne, og af de offentligt ansatte, der arbejder bag AI’en.
Med udgangspunkt i perspektiver fra Science and Technology Studies (STS) og Organization Studies kombinerer AWARE to komplementære tilgange:
- Etnografiske undersøgelser af, hvordan professionelle og borgere møder og forholder sig til AI i deres daglige administrative arbejde.
- Samarbejdsbaserede “future-probing”-workshops, hvor deltagerne udforsker og artikulerer former for viden og erfaring, som ofte udelades fra traditionelle vurderinger af AI’s samfundsmæssige konsekvenser.
Tilsammen skal disse metoder bidrage til en kontekstsensitiv forståelse af “Accountable AI” og forhåbentlig danne grundlag for udviklingen af et AI Accountability Framework til brug i den offentlige sektor.
Et tværfagligt og internationalt samarbejde
Projektet samler et erfarent og tværfagligt hold. Udover Helene og Brit deltager lektor Malte Ziewitz fra Cornell University som gæsteprofessor. Den rådgivende bestyrelse består af KU's Professor Hanne Marie Motzfeldt, Professor Daniel Neyland fra University of Bristol og Dr. Marta Choroszewicz.
Holdets samlede ekspertise inden for digital forvaltning, ansvarlighed og organisatorisk praksis giver et stærkt udgangspunkt for at udvikle ny viden om, hvordan offentlige institutioner kan arbejde med AI på en ansvarlig og transparent måde.
Vi ønsker Helene og Brit stort tillykke med bevillingen – og ser frem til at følge projektets resultater i de kommende år.
