Mag een school of universiteit AI gebruiken bij de toelating van studenten?

Ja, maar dan telt het systeem als hoogrisico-AI en gelden de bijbehorende verplichtingen. Een AI-systeem dat wordt gebruikt om te bepalen of iemand toegang krijgt tot of wordt toegelaten tot een onderwijs- of beroepsopleidingsinstelling, valt onder bijlage III van de AI-verordening en wordt daardoor automatisch als hoog risico geclassificeerd (artikel 6, lid 2).

Dat komt doordat zo'n beslissing bepalend kan zijn voor iemands onderwijs- en beroepsloopbaan. De school of universiteit is dan gebruiksverantwoordelijke en moet onder meer zorgen voor menselijk toezicht op het systeem; de aanbieder van het systeem moet aan eisen als risicobeheer, data- en kwaliteitsborging en transparantie voldoen.

Deze verplichtingen gelden nog niet meteen: voor hoogrisicosystemen uit bijlage III is de ingangsdatum door de Digital Omnibus verschoven naar 2 december 2027.