Wat moet een gemeente regelen voor de AI-verordening?

Een gemeente is bij AI-gebruik meestal gebruiksverantwoordelijke: zij zet AI-systemen in bij haar taken, bijvoorbeeld bij de beoordeling van aanvragen voor bijstand of andere essentiële voorzieningen. Dat soort toepassingen kan onder bijlage III vallen (essentiële overheidsdiensten en -uitkeringen) en daarmee als hoog-risico gelden. Welke bijlage III-categorie van toepassing is, hangt af van de concrete taak — denk ook aan gebieden als rechtshandhaving of migratie, voor zover een gemeente daarin een rol heeft.

Voor elk AI-systeem dat de gemeente gebruikt, geldt de verplichting om te zorgen voor voldoende AI-geletterdheid bij medewerkers die ermee werken (artikel 4). Gaat het om een hoog-risicosysteem, dan komen daar onder meer menselijk toezicht, monitoring en het bewaren van logs bij (artikel 26).

Omdat de gemeente een publiekrechtelijk orgaan is, geldt bij het eerste gebruik van zo'n hoog-risicosysteem bovendien de verplichting om vooraf een beoordeling van de gevolgen voor de grondrechten uit te voeren en de resultaten te melden aan de markttoezichtautoriteit (artikel 27). De verplichtingen voor bijlage III-systemen gelden vanaf 2 december 2027.

Welke maatregelen concreet nodig zijn, hangt af van de systemen die de gemeente daadwerkelijk gebruikt; dat is per geval te beoordelen.