Steeds meer organisaties zetten data en AI in om risico’s vroegtijdig te signaleren. Deze instrumenten kunnen waardevolle inzichten bieden, maar vragen ook om een zorgvuldige toepassing.
Stel dat een AI-systeem tijdens een onderzoek een afwijkend patroon in gegevens signaleert en een medewerker daarom aanmerkt als een verhoogd integriteitsrisico. Deze signalering kan voor een manager aanleiding zijn om de situatie nader te bekijken of hierover met de medewerker in gesprek te gaan. Tijdens dat gesprek en op basis van aanvullende informatie blijkt echter dat de medewerker vooral complexe en spoedeisende zaken behandelt. Daardoor is het afwijkende patroon goed te verklaren. De gegevens klopten dus, maar vertelden niet het hele verhaal.
Hetzelfde geldt voor een pre-employment screening. We nemen als voorbeeld een situatie waarin uit openbare bronnen naar voren komt dat een kandidaat in korte tijd meerdere werkgevers heeft gehad en betrokken is geweest bij een onderneming die failliet is gegaan. Op basis van deze informatie kan een AI-systeem een verhoogd risicoprofiel toekennen. Wanneer hierover met de kandidaat wordt gesproken, blijkt echter dat de functiewisselingen het gevolg waren van tijdelijke opdrachten en reorganisaties. Het faillissement bleek bovendien het gevolg van marktomstandigheden en niet van onbehoorlijk handelen. De data bevatten feitelijke informatie, maar zonder context kan een onjuist beeld ontstaan.
Deze voorbeelden laten zien dat data en AI behulpzaam kunnen zijn bij het signaleren van mogelijke risico’s, maar geen vervanging vormen voor menselijke beoordeling. De uitkomsten van een systeem kunnen immers van invloed zijn op de wijze waarop in deze voorbeelden naar een medewerker of kandidaat wordt gekeken.
Context, professionele oordeelsvorming en het stellen van de juiste vragen blijven onmisbaar om tot een zorgvuldige beoordeling te komen.
