Gennemsigtighedsforpligtelser for visse AI-systemer

Hvis du er udbyder af AI-systemer, der er tilsigtet at interagere direkte med personer, har du pligt til at udforme og udvikle systemerne på en måde, så personerne oplyses om, at de interagerer med et AI-system. 

Denne oplysningsforpligtelse fremgår af AI-forordningens artikel 50, stk. 1. 

Personerne skal med andre ord oplyses om, at de interagerer med et AI-system - for eksempel gennem tale eller tekst med en chatbot - medmindre det er indlysende. Vurderingen af, om det er indlysende, er en konkret vurdering. Det skal dog ske med udgangspunkt i dét, der efter AI-forordningen udgør en ”rimelig oplyst, opmærksom og velunderrettet fysisk persons synspunkt under hensyntagen til omstændighederne og anvendelsessammenhængen”.

Ifølge AI-forordningen skal der i den sammenhæng tages hensyn til særlige forhold hos personer i sårbare grupper – for eksempel på grund af alder eller handicap – hvis AI-systemet også er tiltænkt at interagere med disse grupper. 

Visse AI-systemer er i stand til at generere syntetisk lyd-, billed-, video- eller tekstindhold. Disse systemer kan producere store mængder syntetisk indhold, som i stigende grad er vanskeligt for mennesker at skelne fra menneskeskabt og autentisk indhold. 

I lyset af disse udfordringer og den hastige teknologiske udvikling skal udbydere af sådanne AI-systemer efter AI-forordningens artikel 50, stk. 2 sikre, at AI-genereret eller AI-manipuleret output mærkes i et maskinlæsbart format og kan spores som kunstigt genereret eller manipuleret. 

Reglerne herom fremgår af AI-forordningens artikel 50, stk. 2. 

Mærkningen kan ske ved tilgængelige teknikker eller en kombination af sådanne teknikker. Disse teknikker kan være indlejrede vandmærker, metadataidentifikationer, kryptografiske metoder til påvisning af indholdets oprindelse og ægthed, registreringsmetoder, fingeraftryk eller andre teknikker, alt efter hvad der kan være relevant. 

Denne mærkningsforpligtelse finder dog ikke anvendelse i alle tilfælde. Den gælder f.eks. ikke i det omfang, at AI-systemet udfører en hjælpefunktion med henblik på standardredigering. 

Hvis du er idriftsætter af et AI-system, der genererer eller manipulerer tekst, som offentliggøres for at informere offentligheden om spørgsmål af offentlig interesse, skal du oplyse, at teksten er kunstigt genereret eller manipuleret. 

Reglerne herom fremgår af forordningens artikel 50, stk. 4, andet afsnit. 

Du er dog som idriftsætter ikke omfattet af forpligtelsen, hvis det AI-genererede indhold har gennemgået en proces med menneskelig gennemgang eller redaktionel kontrol, og hvis en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen af indholdet. 

En virksomhed har udviklet et AI-system, som kan generere billeder og video. Det påhviler virksomheden som udbyder af AI-systemet at sikre, at AI-systemets output (billeder og video) er mærket i et maskinlæsbart format og kan spores som kunstigt genereret.

En virksomhed offentliggør en video på sin hjemmeside, der er genereret ved brug af et AI-system, og hvor en kendt person fremstår med udtalelser, vedkommende ikke har fremsat. Der er tale om en ”deepfake”, og videoen er genereret med AI. I et sådant scenarie påhviler det virksomheden (idriftsætteren) at give oplysning efter AI-forordningen om, at videoen er genereret med AI. Herudover bør idriftsætteren sikre, at deling af videoen er i overensstemmelse med øvrige relevante regler.