Første tilsyn med forbudt AI-praksis er afsluttet

  • Tilsyn

AI-forordningen regulerer, hvordan virksomheder kan benytte kunstig intelligens. Digitaliseringsstyrelsen er tilsynsmyndighed og har gennemført de første tilsyn på området.

Der er ført tilsyn med forbudte AI-praksisser i to brancher, blandt andet telemarketingbanchen.

Digitaliseringsstyrelsen har siden årsskiftet indledt og gennemført 20 danske tilsyn med forbudte former for AI-praksis.

Tilsynene har været fordelt på to brancher. Der er gennemført 10 tilsyn inden for telemarketingbranchen. Her har fokus været på forbuddet mod anvendelse af AI, der bruges til udledning af følelser på arbejdspladser.

Der er også gennemført 10 tilsyn inden for online kasino og betting. Tilsynet har set på sager, hvor der er forbud mod AI, der anvendes til skadelig manipulation og til udnyttelse af sårbarheder.

I ingen af de 20 virksomheder bliver der anvendt AI-systemer på en måde, som er i strid med de forbudte praksisser i AI-forordningen og dermed giver anledning til kritik.

Virksomhederne har i forbindelse med tilsynene redegjort for, hvordan de konkret anvender AI-systemer. Denne dialog har været med til at afklare bl.a. fortolkning af biometriske data ved anvendelse af AI-systemer. Det er sket i samarbejde med EU-kommissionens AI Service Desk.

Dialogen og bidragene fra virksomhederne har således medført, at Digitaliseringsstyrelsen kan styrke vejledningen om forbudte praksisser. 

Digitaliseringsstyrelsen er tilsynsmyndighed for fem af de forbudte AI-praksisser, som ses i nedenstående boks.

Yderligere oplysninger og vejledning om forbuddene kan ses på vores hjemmeside. Det er også muligt at klage til os, hvis du har mistanke om en forbudt AI-praksis.

Digitaliseringsstyrelsens fem tilsyn med forbudte AI-praksisser efter AI-forordningen

Artikel 5, stk. 1 Forbuddenes indhold
Litra a Skadelig manipulation, der forvolder eller med rimelig sandsynlighed vil forvolde betydelig skade på personer.
Litra b Udnyttelse af særlige sårbarheder på grundlag af alder, handicap eller en særlig social eller økonomisk situation med det resultat i væsentlig grad at fordreje adfærd på en måde, der forvolder eller med rimelig sandsynlighed vil forvolde betydelig skade på personer.
Litra c Social bedømmelse, som fører til skadelig eller ugunstig behandling af borgere.
Litra e Oprettelse eller udvidelse af ansigtsgenkendelsesdatabaser gennem ikkemålrettet indsamling af ansigtsbilleder fra internettet eller kameraovervågning.
Litra f Udledning af følelser på arbejdspladser og uddannelsesinstitutioner, undtagen hvis anvendelsen af AI-systemet er tilsigtet at blive bragt i omsætning af medicinske eller sikkerhedsmæssige årsager.