En begrænset gruppe af AI-systemer vurderes til at udgøre en uacceptabel risiko, systemerne kategoriseres derfor som forbudte. Det gælder for systemer, der vurderes at udgøre en klar trussel mod sikkerhed, borgernes rettigheder eller værdighed.
Et eksempel på forbudt AI-praksis er AI-systemer, der kan bruges til at aflæse en persons følelsesmæssige tilstand på eksempelvis en arbejdsplads eller en uddannelsesinstitution.
Systemer, der kan foretage en social scoring af fysiske personer, er et andet eksempel på et forbudt AI-system, da det vurderes at kunne føre til forskelsbehandling og udelukkelse af visse grupper.
Kontor for digital regulering og tilsyn