S08E41 - Non-discriminatie in overheidsalgoritmes: jij hebt invloed op de nieuwe standaard

Marianne Witte Schaaphok van TNO werkt met overheids-, wetenschappelijk en maatschappelijke organisaties aan de ontwikkeling van de eerste Nederlandse technische afspraak voor profileringsalgoritmes die bepalen welke burgers gecontroleerd worden op fraude of uitkeringen. Het probleem: algoritmes discrimineren onbedoeld door bepaalde groepen systematisch vaker te selecteren, zonder dat organisaties dit doorhebben. Ze creëerde een systematische aanpak van probleemstelling tot toetsing, met concrete metrieken om bias te meten.

Als 80% van je algoritme-output bestaat uit ouderen terwijl zij geen 80% vormen van de doelgroep, dan meet je direct de scheve verdeling. Morgen kun je haar drie kernvragen toepassen: wat is het echte probleem, welke groepen worden geraakt, en hoe meet je of je algoritme eerlijk behandelt.

Onderwerpen

Nederlandse technische afspraak (NTA) voor profileringsalgoritmes bij de overheidBias detecteren en meten in algoritmes, inclusief representativiteit en foutmargesHet verschil tussen correlatie en causaliteit in algoritme-beslissingenMenselijke tussenkomst en werkprocessen bij algoritme-output

Links

Standaard: Nederlandse Technische Afspraak (NTA) voor profileringsalgoritmes bij de overheidKaartspel: AI Game Changer - Generative AI editie

Genoemde entiteiten: TNO - NEN

Stuur ons een bericht

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!