Facets of Transparency in Predictive Analytics

12:00 - 12:30

Dit is een presentatie van 2018

Modern predictive analytics and machine learning techniques contribute to the massive automation of the data-driven decision making and decision support. It becomes better understood and accepted, in particular due to the new General Data Protection Regulation (GDPR), that employed predictive models may need to be audited. Disregarding whether we deal with so-called black-box models (e.g. deep learning) or more interpretable models (e.g. decision trees), answering even basic questions like “why is this model giving these answer?” and “how particular features affect the model output” is nontrivial. In reality, auditors need tools not just to explain the decision logic of an algorithm, but also to uncover and characterize undesired or unlawful biases in predictive model performance, e.g. by law hiring decisions cannot be influenced by race or gender. In this talk I will give a brief overview of the different facets of comprehensibility of predictive analytics and reflect on the current state-of-the-art and further research needed for gaining a deeper understanding of what it means for (interpretable) predictive analytics to be truly transparent and accountable.

  • Thema
    Security & privacy

    Ethiek raakt steeds meer verweven in de data-wereld waarbij een bewust afweging tussen privacy en het gebruik van data des te belangrijker is. Met de grote hoeveelheden data die omhanden zijn, neemt de kans dat er onrechtvaardigheden insluiten toe. Dit kan leiden tot meer dan alleen pijnlijke situaties, het kan zelfs schadelijk en strafbaar zijn voor een organisatie. Het is dan ook van van groot belang dat data-ethiek niet uit het oog wordt verloren. Daarnaast dienen organisaties zich te realiseren dat privacy en security er primair is voor het beschermen van de privacy (data!) van burgers. Dat neemt niet weg dat wie zijn zaakjes goed én tijdig op orde heeft, ook meer kansen zal krijgen. Immers, geeft een consument een website toestemming om gegevens inclusief voorkeuren op te slaan, dan kan de site ook beter inspelen op de wensen van de consument.