Visualisatie voor transparante beslissingen

Complexe modellen worden steeds meer gebruikt voor het ondersteunen en maken van beslissingen, zoals welke behandeling het meest effectief is voor een patient, wie er wordt uitgenodigd voor een sollicitatiegesprek, of waar we extra moeten controleren op fraude. Dergelijke modellen zijn vaak gebaseerd op machine learning: door de gegevens van veel cases te analyseren worden automatisch modellen gegenereerd. Vervolgens worden die modellen gebruikt om voor nieuwe cases advies te geven of zelfs automatisch beslissingen te nemen. Dit kan verrassend effectief zijn, maar is niet zonder risico. Door historische gegevens te gebruiken, is er bijvoorbeeld een groot risico dat het model alle vooroordelen van het verleden reproduceert. Deze ontwikkeling leidt dan ook tot steeds meer vragen: zijn de uitkomsten correct, wat is de gevolgde redenering, en hoe kunnen we dat controleren? Transparantie is het streven, en tegenwoordig wordt door de GDPR ook afgedwongen dat bij ingrijpende beslissingen altijd een mens betrokken is. Het geven van inzicht in complexe modellen is een grote uitdaging en krijgt veel aandacht. In de presentatie wordt een overzicht van het probleem gegeven en worden voorbeelden getoond hoe visualisatie kan helpen om modellen te begrijpen. Deze voorbeelden zijn het resultaat van onderzoek van TU/e en gaan onder andere over het beoordelen van riskant scheepsgedrag, analyseren van slaapstoornissen en het inschatten van fraude.