Is AI-examensurveillance (proctoring) toegestaan onder de AI-verordening?

Ja, proctoring is toegestaan, maar niet vrijblijvend: het geldt als een hoogrisico-AI-systeem. AI die tijdens toetsen het gedrag van studenten monitort en ongeoorloofd gedrag opspoort, valt onder bijlage III van de AI-verordening en wordt daardoor als hoog risico geclassificeerd (artikel 6, lid 2) — het is niet verboden.

Reden voor die classificatie is dat zo'n systeem bepalend kan zijn voor iemands onderwijs- en beroepsloopbaan. Is het systeem slecht ontworpen of slecht gebruikt, dan kan dat het recht op onderwijs raken of leiden tot discriminatie.

Een onderwijsinstelling die proctoringsoftware inzet, is gebruiksverantwoordelijke van een hoogrisicosysteem en moet dus voldoen aan de bijbehorende eisen, zoals menselijk toezicht. Voor hoogrisicosystemen uit bijlage III geldt hierbij een ingangsdatum van 2 december 2027, verschoven door de Digital Omnibus.