Achter elk viraal filmpje of eindeloze scroll-sessie zit een algoritme dat bepaalt wat je ziet en jongeren zijn daar extra kwetsbaar voor. Maar wie bepaalt de grenzen van die digitale beïnvloeding? En wat kan de overheid doen om die macht te beperken?

Algoritmes zijn niet per definitie slecht, stelt hoogleraar sociologie en technologie aan de TU Eindhoven Chris Snijders. Het verschil zit in het doel: terwijl sommige bedoeld zijn om processen te verbeteren, zoals bij verkeerslichten, zijn andere juist gemaakt om aandacht vast te houden, met alle risico’s van dien.

Een algoritme kijkt niet naar wie je bent, maar naar je gedrag. Ze houden hierbij bijvoorbeeld ook geen rekening met leeftijd, wat volgens Snijders niet goed is. ‘Die algoritmes achter de schermen, die interesseert het geen bal of die ander nou dertien, acht of 48 is. Ze zoeken gewoon naar het volgende filmpje waar je blijft plakken.’ Volgens hem is dit systeem blind voor de mogelijke schadelijke effecten voor jongere gebruikers.

Petra Madelon de Graaf, onderzoeker een techniekethicus bij de Hogeschool Rotterdam, benadrukt dat de prikkelstructuur van deze algoritmes problematisch is. ‘Heftige uitspraken doen het beter, want dat is wat die bedrijven willen. Ze willen dat mensen zo lang mogelijk op dat platform tijd rondbrengen, want daar verdienen zij hun geld mee.’ Extreme of polariserende content wordt eerder aanbevolen dan genuanceerde informatie.

Overheidsingrijpen

De overheid kan volgens De Graaf meer doen dan we denken, blijkt uit de regelgeving die er momenteel is op andere technologische ontwikkelingen. ‘We hebben wel een AVG kunnen invoeren waarin je dus wel een grondslag moet hebben om iemands gegevens te verzamelen.’ Daarnaast wijst zij op de nieuwe AI Act in Europa, waarin bepaalde algoritmes verboden zijn. Zij denkt dat met duidelijkere grenzen aan het soort algoritmes bedrijven verplicht worden om transparant te zijn over hoe aanbevelingen tot stand komen.

Daarnaast ligt er ook een verantwoordelijkheid bij de burger. De Graaf: ‘We kunnen overstappen op andere platformen. Ik ken genoeg mensen die hun Facebook of Instagram account hebben verwijderd toen duidelijk werd hoeveel macht die techgiganten hebben.’

Beluister hieronder de audioreportage die gebruikt wordt in de Schermtijd podcast. Daarin leggen hoogleraar sociologie en technologie Chris Snijders en techniekethicus Petra Madelon de Graaf uit hoe de algoritmes op sociale media werken.