Robin Verhoef wint Hans Frankenprijs 2023
Dit jaar had de jury een moeilijke taak om uit meerdere uitstekende scripties de beste te moeten kiezen. Na intensief overleg heef de jury besloten de Hans Frankenprijs in 2023 toe te kennen aan de scriptie van Robin Verhoef, getiteld: “Possibilities and Problems of Combating Discrimination in Automated Decision-Making with Technical Methods in an EU law context”. Het in deze scriptie beschreven onderzoek is uitgevoerd aan de Tilburg University, onder begeleiding van Charmian Lim.
Sarah Marcenes Pinheiro de Resende met de scriptie: “The effects of deepflakes on politics and on data justice issues” en Eline Leijten met de scriptie: “A Children’s right-based assessment of the profiling of children for commercial purposes in light of the precautionary principle” zijn op de tweede en derde plek geëindigd.
Met de Hans Frankenprijs wil de SGOA studenten en hun begeleiders stimuleren tot het schrijven van een scriptie op het gebied van IT en recht, en daarmee de ontwikkeling van kennis over juridische aspecten van ICT bevorderen. De prijs wordt elke twee jaar uitgereikt, in 2023 voor de vijfde maal.
Discriminatie in besluiten genomen door algoritmes
De winnende scriptie behandelt het probleem van het herkennen en voorkomen van discriminatie in besluiten genomen door algoritmes. Dit is een zeer actueel probleem, vanwege de snelle ontwikkelingen op het gebied van kunstmatige intelligentie. Het bijzondere is dat de scriptie zowel een juridisch als een technisch deel bevat. Geheel in lijn met de principes van de SGOA wordt er niet alleen gekeken naar juridische eisen, maar ook naar technische mogelijkheden.
De scriptie opent met een bespreking van relevante wetgeving op het gebied van discriminatie, gebruik persoonsgegevens en toepassing van AI. De conclusie is dat bepaalde vormen van discriminatie verboden zijn en dat organisaties die algoritmes gebruiken dus stappen moeten nemen om te zorgen dat zij niet de wet overtreden. In het technische deel wordt vervolgens gekeken hoe discriminatie kan worden gemeten en ook deels worden weggenomen. Met behulp van een voorbeeld-dataset wordt het principe van ‘data-massage’ getoond, een manier om ongewenste discriminatie te verminderen. Hiermee wordt ook een praktische bijdrage geleverd die organisaties helpt om ook daadwerkelijk stappen te nemen om algoritmes meer verantwoord toe te passen.
De meerwaarde van multidisciplinair onderzoek
De combinatie van de twee aanpakken resulteert in een zeer relevante, lezenswaardige scriptie die de meerwaarde duidelijk maakt van multidisciplinair onderzoek. Door informatica-kennis en juridische kennis te combineren ontstaan mogelijkheden om nieuwe technologie op een verantwoorde manier toe te passen. Hierdoor kunnen toekomstige conflicten over algoritmes worden voorkomen.
De jury van de Hans Frankenprijs 2023 is daarom erg blij met de concrete bijdrage die deze scriptie levert aan het debat over de toepassing van algoritmes en automatische besluitvorming, en hoopt dat deze scriptie breed gelezen wordt en bijdraagt aan het meten en voorkomen van discriminatie in de praktijk. De jury feliciteert Robin van harte met het winnen van deze meer dan welverdiende prijs.