Digitaliseringsstyrelsen og Datatilsynet offentliggør to nye slutrapporter fra den regulatoriske sandkasse for AI med erfaringer fra projekter hos Børns Vilkår og BrainCapture ApS.
Digitaliseringsstyrelsen og Datatilsynet offentliggør nu slutrapporter fra de to seneste projekter i den regulatoriske sandkasse for AI. De to forløb har undersøgt forskellige anvendelser af kunstig intelligens – fra automatiseret fortolkning af EEG-signaler i sundhedssektoren til træning af fagprofessionelle i at gennemføre svære samtaler med børn.
Rapporterne samler erfaringer og læring fra vejledningsforløbene og skal give virksomheder, organisationer, offentlige myndigheder og andre interesserede indsigt i en række regulatoriske spørgsmål, som kan opstå i udviklingen og anvendelsen af AI-løsninger.
I denne runde af sandkassen er vejledningen udvidet i forhold til den første runde. Deltagerne har – ud over vejledning om databeskyttelsesreglerne – også modtaget vejledning om risikoklassificering efter forordningen om kunstig intelligens (AI-forordningen).
Begge forløb viser samtidig, hvordan arbejdet med at udvikle og anvende AI ofte kræver, at organisationer forholder sig til flere regelsæt på samme tid. Databeskyttelsesreglerne og AI-forordningen indeholder forskellige krav, men har også væsentlige overlap – blandt andet i relation til risikovurdering, dokumentation og ansvarlighed.
De to projekter repræsenterer forskellige anvendelser af AI, men illustrerer samtidig en række fælles spørgsmål om ansvarlig udvikling og anvendelse af teknologien.
Det ene sandkasseforløb vedrørte startupvirksomheden BrainCapture ApS’ udvikling af en AI-løsning til automatiseret fortolkning af EEG-signaler. Formålet med løsningen er at understøtte fortolkningen af EEG-målinger og bidrage til, at diagnosticering af neurologiske lidelser kan understøttes også i områder med begrænset adgang til specialiseret ekspertise.
Forløbet har blandt andet fokuseret på:
Rapporten belyser blandt andet problemstillinger som er særligt relevante ved udvikling af AI i sundhedssektoren.
Det andet sandkasseforløb vedrørte Børns Vilkårs projekt om udvikling af en AI-baseret samtalesimulator til træning af svære samtaler med børn og unge.
Løsningen er udviklet som et støtteværktøj til fagprofessionelle og skal give mulighed for at træne samtaler i et simuleret og fiktivt miljø uden at involvere faktiske børn i træningssituationen.
Forløbet har blandt andet fokuseret på:
Rapporten giver blandt andet indblik i, hvordan organisationer kan arbejde med databeskyttelse og AI-regulering allerede i opstarts-/udviklingsfasen af nye AI-løsninger, hvor der endnu ikke er et fuldstændigt overblik over AI-løsningens opbygning og alle interne processer.
Den regulatoriske sandkasse for AI er et samarbejde mellem Datatilsynet og Digitaliseringsstyrelsen. Sandkassen giver virksomheder, myndigheder og organisationer mulighed for at få projektnær vejledning om regulatoriske spørgsmål i forbindelse med konkrete AI-projekter.
Erfaringerne fra sandkasseforløbene indgår samtidig i myndighedernes generelle vejledningsarbejde og skal bidrage til ansvarlig og lovlig udvikling og anvendelse af AI.
