Regelgeving vereist menselijk toezicht — maar niemand meet of mensen dat toezicht ook daadwerkelijk kunnen uitoefenen. Wij ontwikkelen meetmethoden die dit gat dichten.
AI-systemen opereren inmiddels op vier lagen van menselijke besluitvorming. Als zichtbare experts analyseren ze op niveau voorbij PhD-niveau. Als persoonlijke assistenten kennen ze uw patronen beter dan uzelf. Als agentische teams adviseren ze niet alleen — ze handelen. Als externe invloed bepalen ze de context nog voordat u begint na te denken.
De vraag is niet óf AI beslissingen beïnvloedt. Dat gebeurt al. De vraag is of mensen helder genoeg kunnen blijven om te sturen.
Onderscheidingsvermogen — het vermogen om helder, verantwoordelijk en autonoom te blijven bij het werken met AI-systemen.
Waar vertrouwen mensen op AI-autoriteit zonder te bevragen? Waar stuurt framing conclusies nog vóór de analyse begint?
Wanneer AI-aanbevelingen conflicteren met menselijk oordeel, wat gebeurt er dan? Welke condities maken betekenisvol tegenspreken mogelijk?
Waar is verantwoordelijkheid diffuus of onherleidbaar geworden? Hoe stroomt verantwoordelijkheid door mens-AI-werkprocessen?
Welke concrete checks herstellen menselijke sturing? Welke mechanismen werken daadwerkelijk in de praktijk?
De EU AI Act vereist menselijk toezicht op hoog-risico AI-systemen. Artikel 14 schrijft voor dat mensen AI-output "correct kunnen interpreteren" en kunnen beslissen wanneer ze ingrijpen. Artikel 4 vereist AI-geletterdheid in organisaties.
Deze eisen veronderstellen vermogens die niemand momenteel meet. Impactanalyses identificeren risico's. Training biedt kennis. Maar geen van beide toetst of mensen daadwerkelijk toezicht kunnen uitoefenen wanneer het ertoe doet.
Artikel 14 toezichtsvereisten
Artikel 4 competentie-eisen
IAMA en vergelijkbare raamwerken
Een gerichte meting van het vermogen tot menselijk toezicht in één concrete beslissingscontext. Geen compliance-checklist — een meting of de betrokken mensen daadwerkelijk kunnen sturen.
Meer informatieEén beslissingscontext. Heldere meting. Bruikbare aanbevelingen.
Neem contact op