Factcheck: Ja, als de EU de CSAM-verordening doorvoert worden al onze foto’s en video’s via bijvoorbeeld Whatsapp gecontroleerd op kinderporno

Geplaatst door Justine van Overeem | okt 17, 2024 | Binnenland | 0

Factcheck: Ja, als de EU de CSAM-verordening doorvoert worden al onze foto’s en video’s via bijvoorbeeld Whatsapp gecontroleerd op kinderporno

AI gegenereerde foto

Den Haag – Forum voor Democratie-kamerlid Pepijn van Houwelingen beweerde afgelopen vrijdag in een tweet dat met de nieuwe EU-CSAM verordening het mogelijk wordt gemaakt om op elke telefoon een spion te zetten. Voorzitter Hongarije stelde het EU-CSAM plan voor om online kindermisbruik tegen te gaan. Uit onderzoek van On Air blijkt dat er geen letterlijke spionnen op mobieltjes worden gezet, maar dat verstuurde video’s en foto’s met dit voorstel voortaan door een AI-scanner gaan om gecontroleerd te worden op kinderporno.

Helft van de kinderen slachtoffer:

Volgens de EU wordt minstens een op de vijf kinderen slachtoffer van seksueel geweld. Daarbij blijkt uit wereldwijd onderzoek uit 2021 dat meer dan de helft van de kinderen weleens te maken heeft gehad met een vorm van online seksueel misbruik. Door deze cijfers en het Verdrag van de Verenigde Naties, artikel 24, lid 2, van het Handvest van de grondrechten van de Europese Unie zijn de bescherming van en de zorg voor de belangen en het welzijn van kinderen als recht verankerd en is het volgens de EU-tijd voor actie. Daarom kondigde voorzitter Hongarije de vernieuwde EU-CSAM verordening aan, waarmee verspreiding van kinderporno moet worden teruggedrongen.

Wat is de EU-CSAM verordening?

Het is een vrij simpel concept volgens van hoogleraar Gerard Ritsema van Eck: ‘elke keer dat je een berichtje verstuurt met je telefoon via bijvoorbeeld Whatsapp wordt dat gecheckt tegen een database van bekend kindermisbruik materiaal. Het idee is om op die manier video’s en foto’s van kindermisbruik op te sporen. Als er dan iets uit de scanner komt dat gerelateerd is aan kinderporno kan dat niet verstuurd worden. Daarbij kunnen eventueel de autoriteiten geïnformeerd worden,’ vertelt van Eck, deskundige op het gebied van privacy en juridische en wettelijke regels rondom de bescherming van persoonsgegevens.

Ook Gerrit-Jan Zwenne, hoogleraar privacy- en gegevensbeschermingsrecht, aan de Universiteit Leiden vertelt dat: ‘normaal gesproken worden berichten geëncrypt, wat inhoudt dat video’s en foto’s worden versleuteld. Hierdoor kan bijvoorbeeld Whatsapp onmogelijk zien wat onderling naar elkaar wordt verstuurd. Maar met dit voorstel worden beelden voordat ze encrypted worden, eerst door een soort scan gehaald, dat wordt gedaan door middel van AI, als het algoritme kinderporno aantreft wordt het doorgestuurd naar de Europese Autoriteit’, aldus Zwenne.

Niet zonder gevaren:

Volgens hoogleraar Gerard Ritsema van Eck kleven er gevaren aan dit voorstel. De verordening is bedoeld om online kindermisbruik op te sporen: ‘maar technisch gezien is er geen beperking om ook andere dingen op te sporen. Het ligt eraan wat je in de scanner zet.’ Ook hoogleraar Gerrit-Jan Zwenne ziet gevaren rondom dit plan: ‘je kan die database in principe voor van alles inzetten, zoals bijvoorbeeld het opsporen van fraude of witwassen.’ Volgens van Eck is het een kwestie van waar de grens ligt: ‘zolang het alleen wordt gebruikt voor het opsporen van kindermisbruik materiaal is er niet zoveel aan de hand.

Hierbij ziet Gerrit-Jan Zwenne meer gevaren: ‘we openen een technologische deur, die we niet meer kunnen sluiten. Op het moment dat we dit implementeren kunnen criminelen en buitenlandse inlichtingsdiensten daar op een manier toegang tot krijgen. Op het moment dat we die mogelijkheid creëren is er altijd een risico waarbij kwaadwillenden, dat kan de overheid zijn maar dat kan ook een crimineel zijn, toegang zoeken.’

Effectiviteit van de EU-CSAM verordening:

Daarnaast is het nog maar de vraag of de nieuwe verordening werkt. Gerrit-Jan Zwenne vertelt dat je altijd een percentage van mensen oppikt dat geen kinderporno verstuurt maar dat het algoritme het toch oppikt. Hij geeft als voorbeeld dat een moeder een foto van haar baby in bad naar oma stuurt. Zo’n foto kan de AI-scanner al oppikken. Voor een mens is het overduidelijk dat er geen kwade intenties achter schuilen maar het algoritme van de scanner kan het toch detecteren en naar instanties sturen. Hiermee zou een grote groep mensen ten onrechte worden beschuldigd. ‘We hebben 400 miljoen Europeanen, daar kunnen heel veel mensen tussen zitten die onschuldig worden gedetecteerd’, aldus Gerrit-Jan Zwenne.

Ook Gerard Ritsema van Eck denk dat de verordening niet waterdicht is: ‘kindermisbruik wordt niet zoveel verspreid via Whatsapp. Mensen die dit verspreiden doen dit meestal via het Darkweb. Tuurlijk ga je altijd wel iemand vangen met de verordening maar niet op betekenisvolle schaal.’

Bredere gedragen zorgen:

Eerder diende Lisa van Ginneken van D66, in 20 april 2023, al een motie in tegen de EU-verordening. Daar stemde o.a PvdA, GroenLinks, de PVV en Volt mee in. Destijds stemde Forum voor Democratie niet mee tijdens de motie. Meer dan een jaar later twitterde Pepijn van Houwelingen over de gevaren van de EU-CSAM verordening.

Conclusie:

Terugkerend op de tweet van kamerlid Pepijn van Houwelingen waarin hij beweerde dat de EU met deze verordening spionnen kan zetten op elke mobielen telefoon, zit er volgens Gerard Ritsema van Eck een kern van waarheid in. Ook Gerrit-Jan Zwenne legt uit dat het geen daadwerkelijke spionnen zijn die op je device zitten, maar dat van Houwelingen hier gebruik maakt van beeldspraak. In de basis houdt het voorstel in dat een AI-scanner vaststelt of een foto of video kinderporno is en of het eventueel naar een instantie zou moeten worden gestuurd.

Bronnen:

Voor dit artikel zijn de volgende bronnen gecontacteerd:

Gerit-Jan Zwenne en Gerard Ritsema van Eck op 15 oktober 2024.

Over de auteur

Justine van Overeem

Justine van Overeem is 22 jaar oud en woont in Den Haag. Al 3 jaar is ze actief binnen de journalistiek en maakt ze verschillende audio- en videoreportages over actuele en relevante onderwerpen.