Praktische handvatten voor empirisch toezicht op profileringsalgoritmes

Praktische handvatten voor empirisch toezicht op profileringsalgoritmes Bij toezicht op algoritmes en AI staat niet alleen het recht, maar ook de statistiek centraal. Aan de hand van een concreet profileringsalgoritme lichten we toe dat bestaande kaders, handreikingen en soft law onvoldoende houvast bieden voor het invullen van open normen uit het gelijkebehandelingsrecht. We illustreren dat beproefde methoden uit de empirische wetenschap handvatten bieden om deze normen in te vullen. Aan de hand van het praktijkvoorbeeld wordt een vragenlijst geïntroduceerd die toezichthouders ondersteunt in het stellen van gerichte vragen over indirect onderscheid door algoritmes en AI. Deze aanpak bouwt voort op wettelijke kaders en stelt toezichthouders in staat met beperkte middelen effectief toezicht te houden op algoritmegedreven besluitvormingsprocessen.