Risicoprofielen

Toolbox

Hieronder staan toetsingskaders die organisaties ondersteunen bij het verantwoord inzetten van risicoprofielen en algoritmen, en bij het voorkomen van risico’s op discriminatie in (geautomatiseerde) besluitvorming.

Risicoprofilering en algoritmisch gebruik spelen een steeds grotere rol binnen publieke dienstverlening. Deze instrumenten brengen aanzienlijke risico’s met zich mee, zoals ondoorzichtige besluitvorming en (indirecte) discriminatie van groepen mensen. Hieronder staan toetsingskaders die zijn ontwikkeld om risico’s op discriminatie door risicoprofielen te identificeren.

Toetsingskader risicoprofilering

College voor de Rechten van de Mens

Dit toetsingskader heeft een juridische insteek en is bedoeld voor professionals die risicoprofielen ontwikkelen, toepassen of hierop toezicht houden. Het biedt handvatten om risicomodellen te toetsen op mogelijke risico’s van discriminatie.

Praktische toepassing

Het toetsingskader kan binnen de Discriminatietoets worden gebruikt om risicoprofielen, selectiecriteria en algoritmen te beoordelen op mogelijke risico’s van discriminatie. Het ondersteunt organisaties bij het maken van transparante keuzes en het zorgvuldig verantwoorden van beleid. Het toetsingskader kan zowel tijdens het doorlopen van de Discriminatietoets worden toegepast als een vaste plaats krijgen in het actieplan.

Toetsingskader

Toetsingskader algoritmes

Algemene Rekenkamer

Dit toetsingskader heeft een technische insteek en is in eerste instantie ontwikkeld voor auditors. Het ondersteunt organisaties bij het toetsen van algoritmes aan kwaliteitscriteria en risico’s, waaronder discriminatie en maatschappelijke impact.

Praktische toepassing

Het toetsingskader kan gebruikt worden binnen de Discriminatietoets om te beoordelen of profielen, selectiecriteria of algoritmen risico’s op discriminatie bevatten. Het helpt organisaties bij het maken van transparante keuzes en het verantwoorden van beleid. Het toetsingskader zowel tijdens het doorlopen van de Discriminatietoets worden als een plek krijgen in het actieplan.

Toetsingskader