© Sebastien Thibault/agoodson.com

Kunstmatige intelligentie vind je overal

Kunstmatige intelligentie, meestal aangeduid als AI (artificiële intelligentie), is niet meer weg te denken uit onze maatschappij. Het zit in de navigatie-app in de auto, in de robot-stofzuiger, camera’s met gezichtsherkenning, medische apparaten, videospelletjes, je slimme energiemeter, zoekmachines, systemen die woninginbraken kunnen voorspellen. Met AI wordt de intelligentie bedoeld waarmee machines, software en apparaten zelfstandig informatie interpreteren en problemen oplossen.

Lees meer

AI heeft dus veel voordelen en zou ons leven aangenamer moeten maken. Bovendien kan het volgens de Wereldbank ‘enorme besparingen‘ opleveren voor burgers, overheden en bedrijven door transactiekosten te verlagen, de efficiëntie te verhogen en innovatie in dienstverlening te stimuleren, met name voor de armste en meest achtergestelde groepen in de samenleving’.

© Getty Images

Risico’s aan AI: schending van je privacy

Maar er kleven ook nadelen aan AI. Doordat veel systemen niet transparant zijn of met de verkeerde visie zijn ontwikkeld, kunnen ze beslissingen nemen die grote gevolgen hebben voor ons privéleven. Een groot risico is het schenden van onze privacy. Onderzoek toont aan dat de algoritmes – wiskundige formules om een probleem op te lossen – waarmee AI werkt een vertekend beeld geven. Daardoor worden mensen gediscrimineerd. Onderzoek van Amnesty toont aan dat het gebruik van algoritmes door de politie leidt tot massasurveillance en geautomatiseerd etnisch profileren. In een video leggen we uit hoe algoritmes kunnen discrimineren.

Lees meer

In Nederland gaf de rechter de overheid het bevel om te stoppen met het gebruik van een algoritme voor het ontdekken van fraude in arme wijken. De reden: de computermodellen werkten uitsluitend met gegevens van arme burgers en minderheden, zonder dat er concrete verdenkingen tegen de mensen uit deze groep bestonden. Deze uitspraak is een stap in de goede richting, maar geeft het topje van een ijsberg aan.

© Sebastien Thibault/agoodson.com

Wat is nodig om mensenrechten te beschermen

Amnesty heeft vier punten geformuleerd die onmisbaar zijn om langdurig de vruchten te plukken van AI en de besluiten die algoritmes nemen zonder de mensenrechten te schenden. Daarom moet er een bindende mensenrechtentoets zijn, een algoritmewaakhond, transparantie en geen zelflerende algoritme in de uitvoering van overheidstaken die een individu raken.

Lees meer

  • Voordat algoritmische besluitvorming en AI worden aanbesteed, ontworpen, ontwikkeld en gebruikt, moet een bindende mensenrechtentoets worden uitgevoerd. Ook tijdens het verdere gebruik moet regelmatig een dergelijke toets worden gedaan.
  • Een algoritmetoezichthouder moet toezien op de wijze waarop algoritmische besluitvorming en AI alle mensenrechten, inclusief de sociaaleconomische mensenrechten, respecteert, beschermt en bevordert. De toezichthouder moet toegang hebben tot de data en de algoritmes om de systemen en uitkomsten te onderzoeken.
  • Er moet transparantie zijn over de data, de algoritmes en het effect van de algoritmische besluitvorming op de gevolgen voor een individu.
  • Overheidshandelen moet controleerbaar en voorspelbaar zijn. Geautomatiseerde besluitvorming moet controleerbaar zijn wanneer dit rechtsgevolgen heeft, wanneer het individuen in aanmerkelijke mate treft of wanneer het een grote impact heeft op mens of maatschappij. Het gebruik van zelflerende algoritmes betekent dat het overheidshandelen minder goed gecontroleerd kan worden. Hierdoor passen deze zelflerende algoritmes niet bij de uitvoering van dit type overheidstaak.

Lees hier het opiniestuk van Amnesty-directeur Dagmar Oudshoorn in de NRC, ‘Nederland heeft een algoritmewaakhond nodig‘.

Lees hier Amnesty’s position paper over het gebruik van algoritmes door de overheid aan de Tweede Kamer.