KONTAKT   |   SITEMAP   |     NYHEDSBREV

Høringssvar: Udvikling og anvendelse af AI-systemer i den offentlige forvaltning

0

Regeringen vil med et nyt lovforslag give ministrene vidtgående beføjelser til at bestemme, hvordan offentlige myndigheder må udvikle og anvende kunstig intelligens. Det risikerer at svække den demokratiske kontrol og borgernes retssikkerhed, advarer Justitia i et nyt høringssvar.

Kunstig intelligens rummer et stort potentiale for at effektivisere den offentlige forvaltning og forbedre myndighedernes sagsbehandling. Men når teknologien anvendes til at understøtte afgørelser om borgernes forhold, rejser det samtidig grundlæggende spørgsmål om retssikkerhed, gennemsigtighed og demokratisk kontrol.

Med regeringens forslag til den såkaldte AI-hjemmelslov lægges der op til at give offentlige myndigheder en bred adgang til at udvikle og anvende AI-systemer til blandt andet beslutningsstøtte og profilering af borgere. Samtidig får de enkelte ministre vidtgående beføjelser til at fastsætte de nærmere rammer for anvendelsen og til under visse betingelser at begrænse borgernes databeskyttelsesrettigheder. Det finder Justitia stærkt betænkeligt.

Lovforslaget indebærer efter Justitias vurdering, at væsentlige beslutninger om anvendelsen af AI i den offentlige sektor i vidt omfang vil kunne træffes uden den sædvanlige parlamentariske kontrol og offentlige debat.

Samtidig rejser forslaget en række retssikkerhedsmæssige udfordringer. Det gælder blandt andet risikoen for forskelsbehandling, anvendelsen af historiske og potentielt fejlagtige oplysninger samt spørgsmålet om, hvordan reel menneskelig kontrol med AI-understøttede afgørelser sikres.

Justitia vurderer desuden, at lovforslagets generelle bemyndigelse er så bredt formuleret, at den ikke lever op til de databeskyttelsesretlige krav om klarhed, tydelighed og forudsigelighed ved indgribende behandling af personoplysninger.

Justitia anbefaler derfor, at udvikling og anvendelse af AI-systemer, der behandler personoplysninger, fortsat reguleres direkte ved lov frem for gennem brede bemyndigelser til de enkelte ministre.

Lovgivningen bør samtidig indeholde fyldestgørende redegørelser for systemernes anvendelse og konsekvenser for borgernes rettigheder og retssikkerhed.

Hvis lovforslaget alligevel gennemføres, anbefaler Justitia blandt andet, at det begrænses til klart afgrænsede, ikke-indgribende anvendelser, og at Folketinget og offentligheden løbende orienteres om, hvordan myndighedernes AI-systemer fungerer i praksis, herunder konstaterede fejl og risici.

Læs høringssvar

Forfattere

Comments are closed.