Is AI voor het beoordelen van vergunningaanvragen hoog risico?

Vergunningaanvragen worden niet met zoveel woorden genoemd in bijlage III van de AI-verordening. Wel valt een AI-systeem onder bijlage III, punt 5, onder a), als het namens een overheidsinstantie beoordeelt of iemand recht heeft op een essentiële overheidsuitkering of -dienst, of als het zo'n dienst verleent, beperkt, intrekt of terugvordert. Of een vergunningsprocedure daaronder valt, hangt dus af van de vraag of de vergunning als "essentiële" dienst kwalificeert — dat is niet uitgewerkt in de verordening en moet per geval worden beoordeeld.

Zelfs als de vergunningaanvraag onder bijlage III valt, is het systeem niet automatisch hoog risico. Artikel 6, lid 3 maakt een uitzondering voor AI die slechts een beperkte procedurele taak uitvoert — zoals het sorteren of classificeren van aanvragen — of een voorbereidende taak voor een menselijke beoordeling, zonder de uitkomst wezenlijk te beïnvloeden. Bepaalt het systeem zelfstandig of een vergunning wordt verleend of geweigerd, dan geldt die uitzondering niet.

Let op: doet het systeem aan profilering van natuurlijke personen, dan geldt de uitzondering van artikel 6, lid 3 sowieso niet — dan is het systeem altijd hoog risico.