Kabinet, voorkom toeslagenaffaire in het kwadraat

In de toeslagenaffaire kwam een totaal ontspoorde fraudeaanpak aan het licht. Mensen is ongekend groot onrecht aangedaan. De overheid heeft de rechten van een heel grote groep mensen – en in het bijzonder mensen met een migratieachtergrond – geschonden. Dit had nooit mogen gebeuren. Dit schandaal brengt, ook al is de onderste steen nog (lang) niet boven water, misstanden aan het licht waar Amnesty al jaren voor waarschuwt.

Het gaat bijvoorbeeld om etnisch profileren bij wetshandhaving, het gebruik van (zelflerende) algoritmische systemen en geautomatiseerde besluitvorming, onrechtmatige omgang met de gegevens van burgers, en het ontbreken van effectieve mensenrechtenwaarborgen in wetten en regels voor gegevensuitwisseling en -analyse.

Aangekondigde maatregelen een goede stap

Amnesty International vindt het positief dat het kabinet maatregelen heeft aangekondigd. Het is terecht dat daarbij in de eerste plaats wordt ingezet op compensatie en genoegdoening voor alle gedupeerde ouders. Daarnaast worden voornemens en maatregelen gepresenteerd zoals aandacht voor betere wetgeving, non-discriminatietraining van ambtenaren, en meer transparantie. Gezien de ernst van het onrecht voor de slachtoffers en de gebleken misstanden is een snelle en doortastende uitvoering van de al aangekondigde maatregelen van groot belang.

Meer maatregelen nodig

Om mensenrechtenschendingen in de toekomst te voorkomen is echter nog meer nodig. Amnesty vraagt daarom onder meer om een expliciet verbod op het gebruik van etniciteit en nationaliteit in risicoprofielen bij wetshandhaving, de invoering van een verplichte mensenrechtentoets op al het overheidsgebruik van algoritmische systemen die mensen kunnen raken, het verbod op zelflerende algoritmes bij de uitvoering van belangrijke overheidstaken, en de instelling van een algoritmewaakhond.

Geen waarborgen mensenrechten in Wet gegevensverwerking samenwerkingsverbanden

Eind december 2020 heeft de Tweede Kamer de Wet gegevensverwerking door samenwerkingsverbanden aangenomen. Deze wet maakt verregaande uitwisseling van persoonsgegevens van mensen mogelijk tussen overheidsinstanties onderling en overheidsinstanties en private partijen. De wet geeft de overheid alle ruimte, terwijl in expliciete mensenrechtenwaarborgen ontbreken. Daarmee dreigt de deur te worden opengezet voor een toeslagenaffaire in het kwadraat. Amnesty vindt dat het Kabinet deze wet moet intrekken en moet zorgen voor voldoende mensenrechtelijke waarborgen bij dergelijke voorstellen.

Dringende oproep aan de Tweede Kamer

Amnesty heeft vandaag met het oog op het Kamerdebat over de Toeslagenaffaire in een brief de fractievoorzitters van de Tweede Kamer opgeroepen van het Kabinet te eisen om elk (indirect) gebruik van etniciteit en nationaliteit bij (geautomatiseerde) risicoprofilering bij wetshandhaving onmiddellijk en expliciet te verbieden.

Amnesty volgt de politiek maatschappelijke ontwikkelingen rondom het schandaal bij de Belastingdienst nauw en zal zich de komende tijd hard maken voor het voorkomen van ernstige fouten zoals bij de Toeslagenaffaire.

Amnesty roept op meer maatregelen te nemen

Amnesty zal zich de komende maanden bij het (demissionaire) Kabinet en de Tweede Kamer aandringen op het nemen van de volgende maatregelen.

Een onmiddellijk en expliciet verbod op (indirect) gebruik van etniciteit en nationaliteit bij (geautomatiseerde) risicoprofilering bij wetshandhaving.
De invoering van een bindende mensenrechtentoets voorafgaand aan het ontwerp en tijdens het gebruik van algoritmische systemen en geautomatiseerde besluitvorming.
De instelling van een onafhankelijke en goed toegeruste algoritmetoezichthouder, die bindende adviezen mag geven en toezicht uitoefent vanuit het perspectief van alle mensenrechten met veel aandacht voor non-discriminatie en het tegengaan van ongelijkheid in geautomatiseerde processen.
De overheid moet geen gebruikmaken van kunstmatige intelligentie in de vorm van autonome en zelflerende algoritmes in de uitvoering van haar overheidstaak als dit individuen in aanmerkelijke mate treft of een grote impact heeft op mens of maatschappij.

Lees meer over etnisch profileren.

Lees meer over kunstmatige intelligentie en algoritmes.

Lees meer over Amnesty’s positie over het gebruik van algoritmes.