Wat zijn algoritmes en wat zijn de risico’s?
Algoritmes zijn niet meer weg te denken uit onze levens. Ze bepalen wat je ziet op sociale media, zitten in de navigatie-app in de auto, in medische apparaten, videospelletjes en je slimme energiemeter. Maar ze doen meer. Overheden en bedrijven kunnen er gegevens (Big Data) mee verzamelen en analyseren. Wat is een algoritme eigenlijk, en wat zijn de risico’s van het gebruik?
Direct naar: Definitie: Wat is een algoritme? | De risico’s | Veelgestelde vragen | Amnesty’s visie | Nieuws en onderzoek
Definitie: Wat is een algoritme?
Een algoritme is een stappenplan dat een computer gebruikt om iets uit te rekenen, te voorspellen of te beslissen. Algoritmes kunnen snel veel gegevens analyseren en daarin patronen herkennen.
Je komt algoritmes elke dag tegen, bijvoorbeeld:
- op social media waar ze bepalen wat je ziet;
- in webshops waar ze producten aanbevelen;
- in zoekmachines waar ze resultaten rangschikken.
De risico’s van een algoritme
Mensen hebben vooroordelen, maar technologie niet, toch? Algoritmes lijken objectief, maar software wordt door mensen gemaakt. De systemen zijn afhankelijk van de gegevens die mensen erin stoppen. Daardoor kunnen algoritmes leiden tot discriminatie, het schenden van privacy en verkeerde beslissingen. Hieronder lees je meer over de belangrijkste risico’s van het gebruik van algoritmes.
Hoe kunnen algoritmes leiden tot discriminatie?
Overheden gebruiken risicoprofielen om mensen op te sporen die mogelijk regels overtreden. Dat doen zij op basis van risico-indicatoren: kenmerken die volgens hen wijzen op een grotere kans op overtreding. Soms gebruiken overheden ook etniciteit of nationaliteit als indicator. Ze zien mensen met een bepaalde (veronderstelde) afkomst dan sneller als risico.
Een bekend voorbeeld is het risicomodel van de Belastingdienst. Mensen met een migratieachtergrond werden daarbij vaker gecontroleerd op fraude. Dit droeg mede bij aan het Toeslagenschandaal. De Belastingdienst gebruikte data en algoritmes om frauderisico’s te berekenen, waarbij afkomst en nationaliteit een rol speelden. Dat is discriminatie en dus verboden.
Welke privacyrisico’s brengen algoritmes met zich mee?
Ook het schenden van privacy is een risico bij het gebruik van algoritmes. Algoritmes werken het beste met grote hoeveelheden gegevens (data). Die gegevens worden op allerlei online plaatsen verzameld en aan elkaar verbonden. Denk aan informatie uit het bevolkingsregister, de Kamer van Koophandel en de ledenlijst van een politieke partij. Zo houden bijvoorbeeld bedrijven en de overheid mensen en hun gedrag nauwlettend in de gaten.
Al die opgeslagen gegevens zijn heel interessant voor overheden, bedrijven en andere organisaties. Wie toegang heeft tot een grote hoeveelheid gegevens, kan veel te weten komen over bepaalde groepen of personen. Vaak zonder dat mensen daar zelf van op de hoogte zijn. Als de beveiliging onvoldoende is, kunnen persoonlijke gegevens gemakkelijk op straat belanden. Hoe een algoritme tot een conclusie komt en hoeveel gegevens er van jou worden gebruikt is vaak onduidelijk.
Algoritmes, nepnieuws en tunnelvisie
Algoritmes zorgen ervoor dat mensen die informatie zoeken op het internet steeds vergelijkbare informatie zien. Daardoor kunnen ze in een ‘bubbel’ terechtkomen, waarin ze steeds opnieuw misinformatie of zelfs nepnieuws zien. Amnesty zag meermaals dat bedrijven als Google (YouTube), Meta (Facebook) en X (voorheen Twitter) met hun algoritmes bijdragen aan de verspreiding van mis- en desinformatie. De massale verspreiding van nepnieuws en hate speech draagt bij aan discriminatie, haatzaaien en geweld tegen bepaalde groepen mensen.
Ook in beleid en bij onderzoek kunnen algoritmes problemen veroorzaken. Ze kunnen leiden tot ’tunnelvisie’, waarbij selectief gebruik van gegevens bestaande aannames bevestigt in plaats van deze kritisch te toetsen.
Veelgestelde vragen over Algoritmes
Bestaan er ook goede algoritmes?
Ja. Goede algoritmes zijn wiskundige formules die taken kunnen automatiseren en efficiëntie kunnen verhogen. Ze moeten transparant, eerlijk en onpartijdig zijn om de juiste resultaten te garanderen.
Algoritmes kunnen ons helpen bij het vinden van oplossingen voor complexe problemen en het verbeteren van besluitvormingsprocessen. Een mooi voorbeeld is het beheer van een winkelvoorraad; met behulp van een algoritme kan een winkelier heel gemakkelijk zien van welke producten binnenkort de houdbaarheidsdatum verloopt.
Algoritmes kunnen ons helpen bij het vinden van oplossingen voor complexe problemen en het verbeteren van besluitvormingsprocessen. Een mooi voorbeeld is het beheer van een winkelvoorraad; met behulp van een algoritme kan een winkelier heel gemakkelijk zien van welke producten binnenkort de houdbaarheidsdatum verloopt.
Wat is het verschil tussen AI en algoritmes?
AI (Artificial Intelligence, of kunstmatige intelligentie) is een verzamelnaam voor technologieën die computers in staat stellen taken uit te voeren waarvoor normaal menselijke intelligentie nodig is. Denk aan leren, redeneren, herkennen en beslissingen nemen. AI maakt gebruik van algoritmes: stapsgewijze instructies waarmee computers gegevens verwerken en problemen oplossen. Kort gezegd: algoritmes zijn de bouwstenen van AI.
Wat zijn voorbeelden van algoritmes?
- Zoekmachines gebruiken algoritmes om te bepalen welke resultaten je als eerste ziet wanneer je iets opzoekt.
- Risicomodellen van de overheid die bepalen welke mensen extra gecontroleerd worden op mogelijke fraude. Bij het toeslagenschandaal gebruikte de Belastingdienst algoritmes waarbij onder meer nationaliteit werd meegewogen. Dit leidde tot discriminatie van duizenden mensen
- Voorspellende politietechnologie: De politie gebruikt soms algoritmes om in te schatten waar criminaliteit kan plaatsvinden of welke situaties een hoger risico vormen. Amnesty waarschuwt dat zulke systemen kunnen leiden tot discriminatie als ze gebaseerd zijn op bevooroordeelde gegevens.
- Navigatieapps zoals Google Maps gebruiken algoritmes om de snelste route te berekenen en files te vermijden.
Blijf op de hoogte van mensenrechten
Ontvang inspirerende verhalen, belangrijke acties en het laatste nieuws over mensenrechten.