Criminoloog Valerie Steeves: ‘Laat bedrijven als Google het onderwijs niet overnemen’

De privacy van kinderen staat onder druk door de opmars van techbedrijven in het onderwijs. Hoewel het nog niet zo ver is als in de VS en Canada, worden ook in Nederland kinderen constant in de gaten gehouden. Criminoloog Valerie Steeves onderzocht wat dat met hen doet. ‘Het leert kinderen dat ze geen vertrouwen in zichzelf kunnen hebben.’

© Jessica Deeks

Opnieuw relevant (28 oktober 2020): Door corona volgen schoolkinderen steeds vaker noodgedwongen thuisonderwijs. Dat is voor een groot deel online.

‘We moeten het niet laten gebeuren dat techbedrijven het onderwijs helemaal naar zich toetrekken’, zegt de Canadese privacyprofessor Valerie Steeves. ‘Die tendens is er nu wel, waardoor er een enorme kaalslag plaatsvindt.’

In een Amsterdams café, tegenover academisch-cultureel centrum SPUI25 waar ze die avond een lezing zal geven over surveillance en privacy, vertelt Steeves over de opmars van techbedrijven in het onderwijs. Als hoogleraar criminologie aan de universiteit van Ottawa, Canada, doet ze onderzoek naar de gevolgen van sociale media op mensenrechten. Steeves is een kenner van privacywetgeving, maar ook van de gevolgen van privacy-schending voor mensen, vooral voor kinderen en jongeren. Ze heeft daar goed inzicht in door de vele interviews die ze voerde met Canadese leerlingen.

Black Mirror

De situatie in Canada, en zeker in de VS, is een soort Black Mirror voor Europa en Nederland. Die Netflix-serie laat zien wat er gebeurt als de techbedrijven een grotere rol krijgen in de samenleving. Ook in Nederland groeit die rol snel. En de instrumenten om daar een halt aan toe te roepen schieten volgens Steeves niet alleen in de VS en Canada tekort, dat geldt net zo goed voor Europa. Zo mag de huidige privacywetgeving in Europa, de AVG, privacy beter beschermen dan in de VS, toch is die bescherming volgens Steeves onvoldoende.

‘Te makkelijk kan ook in de Europese wet privacy opgeofferd worden aan commerciële belangen en de wens van de overheid om informatie over mensen te verzamelen. Uiteindelijk gaat het er vooral over de vraag onder welke voorwaarden en hoe die data verzameld mogen worden. Ook staat centraal dat je als consument een stem hebt in die dataverzameling.

‘Kinderen, maar ook volwassenen, begrijpen lang niet alles wat er staat. Je weet eigenlijk niet waar je toestemming voor geeft’

Het probleem is dat de manier waarop we instemmen met het gebruik van onze data zorgt voor een zwakke bescherming van privacy. Dat ligt deels aan de vage taal. Kinderen, maar ook volwassenen, begrijpen lang niet alles wat er staat. Je weet eigenlijk niet waar je toestemming voor geeft. Voor je het weet ben je door de voorwaarden heen geklikt, zonder dat je weet waar je mee hebt ingestemd.’

Camera’s en volgsystemen

In Nederland worden kinderen op school en daarbuiten steeds intensiever in de gaten gehouden. Alles wordt gemonitord en geregistreerd dankzij nieuwe, vaak digitale technologie. Is het wel nodig dat camera’s kinderen in de gaten houden op school? Zijn de data bij het veelgebruikte leerlingvolgsysteem Magister wel veilig?

En wat te denken van de laptops en de software van Google waar zo’n 70 procent van de Nederlandse basisscholen mee werkt? Volgens Steeves moeten gebruikers van dit soort online leeromgevingen vrezen voor hun privacy. Data worden in de cloud opgeslagen, op een Amerikaanse server – en daar zijn ze niet beschermd door de relatief strenge Nederlandse en Europese privacywet-geving en heeft de Amerikaanse geheime dienst er direct toegang toe.

Biografie Valerie Steeves:

Uitklappen

Geboren10 april 1959

Woonplaats en gezin Steeves woont samen met haar man in Ottawa in Canada. Ze hebben samen vijf kinderen.

Werk Steeves is hoogleraar criminologie aan de universiteit van Ottawa, waar ze onderzoek doet naar de gevolgen van sociale media op mensenrechten.

Bijzonder onderzoek Het eQuality Project, waarin ze onderzoekt hoe big data een discriminerende online omgeving creëren die bijdraagt aan conflicten en aan intimidatie.

Bijdrage aan wetgeving Dankzij Steeves werd in de Canadese privacywetgeving de clausule opgenomen dat ‘data alleen verzameld mogen worden voor doelen die aantoonbaar te rechtvaardigen zijn in een democratische en vrije samenleving.’

Gratis Chromebooks

Goedkope of gratis Chromebooks en het ‘totaalpakket’ Google for Education bieden een online en gepersonaliseerde leeromgeving voor alle scholieren. Daarmee krijgt Google inzicht in hun data. Niet alleen in de gegevens die ze tijdens het werk in de leeromgeving achterlaten, maar ook in onder meer hun zoekgeschiedenis, de gebruikte zoektermen en ook in de contacten van de leerlingen, zo concludeerde de Amerikaanse belangengroep op het gebied van digitale rechten Electronic Frontier Foundation twee jaar geleden.

Google verzekert in een privacy-statement dat die data – zolang ze binnen de zogenoemde kerndiensten blijven – niet worden gebruikt om leerlingen te ‘targeten’ met reclame. Dat is anders als ze het lesprogramma verlaten, en verder surfen. Dan worden er wel ‘advertentieprofielen’ gemaakt.

‘Te makkelijk gaan belangen als veiligheid ten koste van privacy’

In de VS en Canada gaat het een stuk verder: op verzoek van scholen doorzoeken bedrijven als Gaggle en Securly (The Student Safety Company) mails en de online leeromgeving waar scholieren in werken. Daar blijft het niet bij: vaak trekken ze met een sleepnet door het web, op zoek naar digitale sporen die de kinderen hebben achtergelaten, bijvoorbeeld op sociale media zoals Snapchat en Facebook. Met zo’n sleepnet worden niet alleen de data opgevist van leerlingen die ergens van worden verdacht of over wie de school zich zorgen maakt, zegt de Canadese privacyprofessor: ‘Alle data worden verzameld, van elke scholier.’

Zelfmoordgedachten

Vervolgens analyseert een algoritme de vangst: is er sprake van een risico? Steeves: ‘Dat wil meestal zeggen: is er een vermoeden dat er wordt gepest, zijn er aanwijzingen voor zelfmoordgedachten of tekens die wijzen op toekomstig vuurwapengebruik? Dan gaat er een signaal naar het schoolhoofd, die het vaak gemakkelijk doorgeeft aan de politie.’ Op 40 procent van de Amerikaanse scholen loopt namelijk permanent een eigen agent rond. En in sommige gevallen gaat het signaal rechtstreeks van het algoritme naar de politie.

Miljoenen Amerikaanse scholieren in duizenden schooldistricten worden zo gemonitord. Gaggle claimt dat het wordt gebruikt voor 4,5 miljoen studenten in 1.400 schooldistricten. Securly monitort 10 miljoen studenten op tienduizend scholen. Vooral sinds de zogenoemde Parkland shooting in Florida, waarbij in februari 2018 zeventien scholieren omkwamen, is er veel vraag naar dit instrument. Nederlandse scholen maken voor zover bekend geen gebruik van diensten als Gaggle en Securly, maar in omringende landen zoals Engeland zijn die
wel gebruikt.

Valerie Steeves
© Jessica Deeks

Geen vertrouwen

Wat doet die surveillance met kinderen? Dat is de belangrijkste vraag voor Steeves. ‘Het leert kinderen dat ze niet te vertrouwen zijn, dat ze geen vertrouwen in zichzelf kunnen hebben. Dat geldt net zo goed voor de monitoring van Gaggle als voor de online leeromgeving. Het leert ze ook dat ze anderen niet kunnen vertrouwen. Hun ouders, hun leraren. Daarom is deze controle ook contraproductief. Wil je kinderen beschermen, wil je voorkomen dat ze het slachtoffer worden van misbruik, wil je voorkomen dat ze pesten, dan is het belangrijkste om een band met ze op te bouwen, en om samen op school een sterke gemeenschap te vormen.’

Het gevaar is ook dat je kinderen de mogelijkheid ontneemt om de wereld te verkennen, zegt Steeves. ‘Jongeren konden aanvankelijk op internet overal informatie over krijgen, over alle dingen waar ze hun ouders niets over durfden te vragen. Dat is heel belangrijk als de kinderen in de puberteit komen, en voor hun ontwikkeling is het cruciaal om dat in vrijheid te kunnen doen, zonder toezicht van ouders. Die vrijheid heb je ook nodig om afstand te nemen van het gezin waarin je bent geboren en om de grotere en eigen wereld te ontdekken. Anders kun je niet volwassen worden.

‘Zonder privacy word je bedreigd in je recht om een gemeenschap te vormen, om deel te nemen aan je cultuur – om gezonde en verrijkende vriendschappen te kunnen cultiveren’

Het is het moeilijkst voor kinderen uit gemarginaliseerde gemeenschappen. Het sterkste verzet tegen die controle komt van lhbti’ ers. Die wilden online gaan vanwege twee redenen: ze zochten gelijkgestemden, een gemeenschap, en ze wilden informatie over zichzelf. Die informatie is niet zomaar beschikbaar in je eigen gemeenschap, en misschien wil je er niet over praten omdat het om zulke gevoelige privézaken gaat. Ze wilden op onderzoek gaan voor ze uit de kast zouden komen. Maar daar stop je wel mee als je online door iedereen aangevallen wordt, of als je weet dat je door school in de gaten wordt gehouden. Daar komt nog eens bij dat veel informatie niet eens meer beschikbaar is voor deze jongeren. Scholen en ouders maken gebruik van allerlei filters, die vaak ook dit soort informatie ontoegankelijk maken.’

Zo zie je, concludeert Steeves, wat privacy betekent, en waarom het zo fundamenteel is. ‘Privacy is een recht dat ten grondslag ligt aan veel andere mensenrechten, het is een protorecht. Zonder privacy wordt het lastiger en zelfs onmogelijk om informatie te zoeken. Zonder privacy word je bedreigd in je recht om een gemeenschap te vormen, om deel te nemen aan je cultuur – om gezonde en verrijkende vriendschappen te kunnen cultiveren.’

Discriminatie

Een ander gevaar van het verzamelen van persoonlijke data is discriminatie, legt Steeves uit. Neem die speuracties van Securly en Gaggle. ‘Als het uitganspunt van een algoritme is dat ras en inkomen iets zeggen over criminaliteit, kan het zomaar gebeuren dat er een waarschuwingssignaal naar de school gaat dat een zwarte jongen uit een achterstandswijk het gevaar loopt crimineel te worden.’

Ook in Nederland is discriminatie een reëel gevaar. Neem het gebruik van big data in de jeugdgezondheidszorg, waar journalistiek onderzoeksplatform Follow the Money kortgeleden nog uitgebreid onderzoek naar heeft gedaan. Algoritmes bepalen onder meer het risico op kindermishandeling. Steeds vaker zijn dit zelflerende systemen, die op basis van eerdere gevallen van kindermishandeling zelf conclusies trekken. Komt die mishandeling veel voor in een bepaalde wijk? Dan schat zo’n algoritme het risico hoger in als je in die wijk woont. Een ander gevaar is dat een algoritme concludeert dat voor een bepaalde bevolkingsgroep – die veel in zo’n wijk woont – een hoger risico bestaat. Zeker als algoritmes zo complex worden dat onduidelijk is op welke criteria ze hun risico-inschatting baseren, wordt het moelijker om je hiertegen te verweren: je wordt beschouwd als potentieel schuldig, maar je weet niet waarom.

Hoe kan het dat scholen ondanks de mogelijke privacyschending toch steeds vaker kiezen voor die online leeromgevingen?

‘We hebben net een groot onderzoek hiernaar afgerond en er veel workshops over gegeven voor scholen. Telkens weer bleek dat het maar om één ding gaat: het onderwijs moet goedkoper, ministeries van Onderwijs zoeken naar goedkope oplossingen om toch een programma aan te kunnen bieden. En die techbedrijven leveren alles bijna gratis, zeker in het begin kost het niets. Want ze krijgen data, en die zijn goud waard. Maar we hoorden ook dat die programma’s, als de scholen afhankelijk zijn geworden, plotseling heel duur kunnen worden. Zo duur zelfs dat het ten koste gaat van lerarensalarissen.’

Wat te doen?

‘Het is lastig om daartegen in opstand te komen. Want het zijn de scholen die moeten onderhandelen met de techbedrijven, over de prijs die ze bereid zijn te betalen in de vorm van data en geld. De scholen zeggen: wij zijn klein, die techreuzen zijn groot. Google heeft een budget dat groter is dan dat van veel landen. Er is dus een grote ongelijkheid in onderhandelingsmacht. Ik was verheugd te horen dat een van onze provinciale privacyvertegenwoordigers in Alberta zei dat ze erbij komt zitten tijdens een onderhandeling. Als je hier iets tegen wilt doen, moet je het op een hoger niveau aanpakken. Je kunt het niet overlaten aan scholen.

Daar komt bij dat het vaak de vraag is of je zo’n digitale leeromgeving wel nodig hebt. Ik heb nu al verschillende keren met scholieren gesproken die het geloof in deze technologie ter discussie stellen en een voorkeur hebben voor boeken, voor papier. Samen met een goede leraar. Willen we als samenleving goed onderwijs, in een omgeving waarin scholieren zich veilig voelen, dan moeten we erin investeren: in boeken en leraren.’