Is social scoring met AI toegestaan in de EU?

Nee, niet als het gaat om de vorm die de AI-verordening viseert. Artikel 5, lid 1, punt c verbiedt AI-systemen die mensen beoordelen of classificeren op basis van hun sociale gedrag of hun (afgeleide of voorspelde) persoonlijkheidskenmerken, wanneer de resulterende score leidt tot een nadelige behandeling in een andere context dan waarin de gegevens zijn verzameld, of tot een behandeling die onevenredig zwaar is ten opzichte van het gedrag zelf. Dit verbod geldt sinds 2 februari 2025.

De toelichting bij de verordening onderbouwt dit verbod met het risico op discriminatie en uitsluiting van bepaalde groepen. Het verbod laat wel ruimte voor rechtmatige beoordelingspraktijken die voor een specifiek, in het Unie- of nationale recht vastgelegd doel worden uitgevoerd — social scoring in de brede, onbeperkte zin die het verbod beschrijft, is dat niet.