AI-forordningen: Digitaliseringsstyrelsen udpeget som tilsynsmyndighed

  • Kort nyt

Digitaliseringsstyrelsen skal fremover føre tilsyn med, at virksomheder og myndigheder overholder dele af reglerne om forbudte former for AI-praksis

Dekorativt billede. Mand ser ind i en computerskærm.

Digitaliseringsstyrelsen er udpeget som tilsynsmyndighed for fem udvalgte bestemmelser i AI-forordningen. Styrelsen er dermed en såkaldt 'markedsovervågningsmyndighed'.

Digitaliseringsstyrelsen skal føre tilsyn med forbudte former for brug af kunstig intelligens, som er listet i artikel 5 i AI-forordningen. Det drejer sig nærmere bestemt om regler om AI-systemer, der anvendes til:

  • skadelig manipulation og vildledning (artikel 5, stk. 1, litra a)
  • skadelig udnyttelse af særlige sårbarheder (artikel 5, stk. 1, litra b)
  • social bedømmelse (artikel 5, stk. 1, litra c)
  • ikke-målrettet indsamling af ansigtsbilleder til at udvikle ansigtsgenkendelsesdatabaser (artikel 5, stk. 1, litra e)
  • følelsesgenkendelse på arbejdspladser og uddannelsesinstitutioner (artikel 5, stk. 1, litra f)

De forbudte former for AI-praksis vurderes at udgøre en uacceptabel risiko for sundhed, sikkerhed og borgernes grundlæggende rettigheder. Disse former for AI-praksis kategoriseres derfor som forbudte inden for EU’s grænser. 

Læs mere om de forbudte former for AI-praksis

Digitaliseringsstyrelsen deler tilsynsansvaret

Digitaliseringsstyrelsen er ikke alene om at føre tilsyn med de forbudte former for AI-praksis.

Datatilsynet får ansvaret for at føre tilsyn med to forbudte former for AI-praksis. Den ene handler om AI-systemer, der anvendes til at foretage risikovurderinger af fysiske personer for at vurdere eller forudse risikoen for, at en fysisk person begår en strafbar handling. Den anden handler om AI-systemer, der anvendes til biometrisk kategorisering (artikel 5, stk. 1, litra d og g).

Derudover skal Domstolsstyrelsen føre tilsyn med de forbudte former for AI-praksis i forhold til domstolenes brug af AI-systemer, når de ikke handler i deres egenskab af domstol. I sager, som omhandler domstolenes brug af AI-systemer, træffes afgørelserne af de respektive retter.