Gennemsigtighedsforpligtelser for visse AI-systemer

Oplysningspligt ved AI-systemer til menneskelig interaktion

Udbydere af AI-systemer, der er beregnet til interaktion med mennesker, har pligt til at udforme og udvikle systemerne således, at brugerne oplyses herom senest ved deres første interaktion eller eksponering for AI-systemet.

Denne oplysningsforpligtelse fremgår af AI-forordningens artikel 50, stk. 1.

Brugerne skal med andre ord oplyses om, at de taler eller skriver med et AI-system - for eksempel gennem en chatbot - medmindre det er indlysende. Vurderingen af, om det er indlysende, er en konkret vurdering med udgangspunkt i en rimelig oplyst, opmærksom og velunderrettet fysisk persons synspunkt under hensyntagen til omstændighederne og anvendelsessammenhængen.

Ifølge AI-forordningen skal der i den sammenhæng tages hensyn til særlige forhold hos personer i sårbare grupper – for eksempel på grund af alder eller handicap – hvis AI-systemet også er tiltænkt at interagere med disse grupper.

Mærkningspligt for AI-genereret indhold

Nogle AI-systemer er i stand til at generere syntetisk lyd-, billed-, video- eller tekstindhold og omtales som ”generativ AI”. Disse AI-systemer kan generere store mængder syntetisk indhold, som bliver stadig vanskeligere for mennesker at adskille fra menneskegenereret og autentisk indhold.

I lyset af disse udfordringer og den hastige teknologiske udvikling fastsætter AI-forordningen i artikel 50, stk. 2, et krav til udbyderne af sådanne AI-systemer om at sikre, at AI-output mærkes i et maskinlæsbart format og til at sikre, at outputtet kan spores som kunstigt genereret eller manipuleret. Mærkningen skal ske senest på tidspunktet for personernes første interaktion med eller eksponering af AI-systemet.

Mærkningen kan ske ved tilgængelige teknikker eller en kombination af sådanne teknikker såsom vandmærker, metadataidentifikationer, kryptografiske metoder til påvisning af indholdets oprindelse og ægthed, registreringsmetoder, fingeraftryk eller andre teknikker, alt efter hvad der kan være relevant.

Denne mærkningsforpligtelse finder dog ikke anvendelse i visse tilfælde, eksempelvis i det omfang AI-systemerne udfører en hjælpefunktion med henblik på standardredigering,

Underretningskrav ved AI-system til følelsesgenkendelse og biometrisk kategorisering

For idriftsættere af et system til følelsesgenkendelse eller et system til biometrisk kategorisering, gælder en underretningspligt. De personer, der udsættes for sådanne systemer, skal informeres om systemets funktion og om behandlingen af deres personoplysninger, alt efter hvad der er relevant. Underretningen skal ske senest på tidspunktet for personernes første interaktion med eller eksponering af AI-systemet.

Reglerne herom fremgår af AI-forordningens artikel 50, stk. 3.

Et system til følelsesgenkendelse er et AI-system, der har til formål at genkende eller udlede fysiske personers følelser eller hensigter på grundlag af deres biometriske data. Biometriske data er personoplysninger som følge af specifik teknisk behandling vedrørende en fysisk persons fysiske, fysiologiske eller adfærdsmæssige karakteristika som f.eks. ansigtsbilleder eller fingeraftryksoplysninger.

Et system til biometrisk kategorisering er et AI-system, der har til formål at placere fysiske personer i bestemte kategorier på grundlag af deres biometriske data, medmindre de understøtter en anden kommerciel tjeneste og er strengt nødvendige af objektive tekniske årsager.

Oplysningskrav ved AI-genererede ”deepfakes”

Idriftsættere af et AI-system, der genererer eller manipulerer billed-, lyd- eller videoindhold, der udgør en ”deepfake”, skal oplyse, at indholdet er blevet genereret kunstigt eller manipuleret. Oplysningen skal ske senest på tidspunktet for personernes første interaktion med eller eksponering af AI-systemet.

Reglerne herom fremgår af forordningens artikel 50, stk. 4, første afsnit.

En ”deepfake” udgør et ved hjælp af AI genereret eller manipuleret billed-, lyd- eller videoindhold, der i væsentlig grad ligner faktiske personer, genstande, steder, enheder eller begivenheder, og som fejlagtigt vil fremstå ægte eller sandfærdigt.

Hvis indholdet er en del af et oplagt kunstnerisk, kreativt, satirisk, fiktivt eller tilsvarende arbejde eller program, er gennemsigtighedsforpligtelserne i dette stykke begrænset til oplysning om eksistensen af sådant genereret eller manipuleret indhold på en passende måde, der ikke er til gene for visningen eller nydelsen af værket.

Oplysningskrav ved AI-systemer, der skaber eller manipulerer tekst til offentlig brug

Hvis et AI-system genererer eller manipulerer tekst, der offentliggøres for at informere offentligheden om spørgsmål af offentlig interesse, skal idriftsættere af et sådan AI-system tydeligt oplyse, at teksten er kunstigt genereret eller manipuleret.

Reglerne herom fremgår af forordningens artikel 50, stk. 4, andet afsnit.

Denne forpligtelse finder ikke anvendelse, hvis det AI-genererede indhold har gennemgået en proces med menneskelig gennemgang eller redaktionel kontrol, og hvis en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen af indholdet.