Wat betekent de AI-verordening voor een ziekenhuis?

Een ziekenhuis is meestal gebruiksverantwoordelijke: het zet AI-systemen in, maar ontwikkelt ze doorgaans niet zelf. Sommige toepassingen vallen onder de hoog-risicoregels van bijlage III, zoals systemen voor de triage van patiënten bij dringende medische zorg. Voor dat soort systemen gelden verplichtingen als menselijk toezicht door bevoegd personeel, monitoring van de werking en het bewaren van logs (artikel 26). Deze verplichtingen voor bijlage III-systemen gelden vanaf 2 december 2027.

Los van het risiconiveau van een specifiek systeem geldt voor elk ziekenhuis dat AI gebruikt de verplichting om te zorgen voor voldoende AI-geletterdheid bij het personeel dat ermee werkt (artikel 4). Dat betekent dat medewerkers begrijpen wat een systeem doet, wat de beperkingen zijn en hoe ze de uitkomst moeten beoordelen — een training of cursus is een gangbare invulling, maar de wet schrijft geen specifieke vorm voor.

Welke concrete verplichtingen precies gelden, hangt af van welke AI-systemen het ziekenhuis gebruikt en waarvoor. Bij twijfel over een specifiek systeem is het raadzaam dit per geval te beoordelen.