Waar het internet nog een nieuwe wereld was toen het werd uitgevonden, is het vandaag in veel gevallen onze eigen wereld. We doen alles digitaal: boodschappen, pakketjes bestellen, met elkaar in contact komen en het nieuws lezen. Maar bij dat laatste, nieuws, zitten er ook gevaren aan. Desinformatie en nepnieuws kunnen zorgen voor een afnemende democratie en gevaarlijke invloed op de publieke opinie. Volgens deskundigen en wereldleiders een van de grote uitdagingen binnen onze digitale wereld. Maar is het eigenlijk wel mogelijk om nepnieuws en desinformatie de wereld uit te krijgen?

Het is begin maart 2020. Nederland raakt in de ban van een onbekend virus dat vanuit China de wereld over gaat. Overal ter wereld raken mensen besmet met het ‘coronavirus’. Nadat voornamelijk in Europese skigebieden het virus om zich heen slaat is er in Nederland nog geen besmetting gemeld. Totdat er in Tilburg voor het eerst een patiënt meld die het coronavirus heeft. Massaal begint er in Nederland een nieuwsstroom rond het virus op gang te komen. Het kabinet werkt in een sneltreinvaart aan nieuwe maatregelen en probeert te voorkomen dat het virus in Nederland om zich heen zal grijpen. De informatie en kennis over het virus is schaars en in talkshows en op social mediakanalen doen allemaal geruchten de ronde. Op sociale media gaan de wildste theorieën de ronde. Zo sturen ongeverifieerde account berichten met coronanieuws naar buiten via Twitter.

Vergroot

En zo’n bericht kan veel invloed hebben. Het nieuws van het bovenstaande bericht is nep. Het is niet waar. In het ziekenhuis zijn ze die dag druk bezig met het regelen en helpen van de stroom besmette patiënten, maar moeten ze daarnaast ook alle zeilen bijzetten om dit nepnieuws de wereld uit te krijgen. De politie werd ingeschakeld en het account werd offline gehaald. Waarschijnlijk hadden de makers er belang bij om de publieke opinie te beïnvloeden en angst te zaaien. Want via marktplaats verkochten zij mondkapjes tegen woekerprijzen. En juist mondkapjes werden schaars tijdens de coronapandemie.

”Vergeet het financiële aspect niet bij desinformatie”, zegt universitair hoofddocent Eugène Loos van de Universiteit Utrecht. ”Het is een voorbeeld van een van de redenen om nepnieuws de wereld in te helpen: het beïnvloeden van publieke opinie. Maar er kunnen meer redenen zijn. Zo kun je er op persoonlijk gebied mensen met manipuleren, of politieke onrust mee veroorzaken.”

Loos doet al jaren onderzoek naar de ontwikkeling van nepnieuws en mediawijsheid. ”Op sociale media kan iedereen een bericht maken en de wereld insturen. Wat daarin staat mag iedereen natuurlijk zelf weten, dat is vrijheid van meningsuiting. Maar het moet wel juist zijn, zeker als het nieuws is. Door sociale media kan een bericht snel worden opgepikt en verspreid worden onder een groot publiek.”

En daar maken mensen zich in Nederland al jaren best wel zorgen om, blijkt uit een rapport van het Sociaal en Cultureel Planbureau. Bijna de helft van alle Nederlanders maakt zich zorgen over misleidende of foutieve informatie op internet. De laatste jaren is het aantal mensen dat zich zorgen maakt over nepnieuws weer gestegen.

Maar niet iedereen maakt zich zorgen:

Maar dat corona niet het enige is waar nepnieuws over wordt verspreid in Nederland blijkt uit het Digital News Report dat recent is verschenen. In Nederland heeft, sinds de aanval van Hamas op Israël op 7 oktober vorig jaar, de hoeveelheid nepnieuws en desinformatie weer een vlucht genomen. 25% van het nepnieuws dat mensen online voorbij zagen komen in 2024 te maken had met dat conflict.

Maar ook onderwerpen die belangrijke thema’s waren rond de laatste Tweede Kamerverkiezingen en de Europese verkiezingen van afgelopen maand zijn gestegen. Bestaanszekerheid was het belangrijkste thema van de afgelopen Tweede Kamerverkiezingen in novemeber 2o23. Dit jaar is het aantal nepnieuwsberichten over dat thema afgenomen. Bij immigratie, wat een van de belangrijkste thema’s was tijdens de Europese verkiezingen begin juni is juist een stijging te zien ten opzichte van vorig jaar.

Europese wetgeving

Wetgeving op het gebied van nepnieuws en desinformatie wordt in grote lijnen op Europees niveau besloten. Maar beslissingen om bijvoorbeeld accounts die desinformatie verspreiden offline te halen die vinden op landelijk niveau plaats. Maar er is een belangrijker probleem zegt Loos: ‘Wie bepaalt er wat waar en niet waar is? Stel ik zou nu zeggen via social media dat we naar Den Haag gaan en de boel daar kort en klein slaan, dan mag dat natuurlijk niet. Dat is een oproep tot geweld. De rechter moet dan ingrijpen, maar dat is dan eigenlijk wel te laat. Want ik mag die boodschap niet meer verkondigen, maar anderen kunnen wel geïnspireerd zijn en dat is gevaarlijk. Al is daar nog wel weinig onderzoek naar gedaan.’

Omdat het dan te laat is kan volgens Loos ook de regulering van desinformatie bij de social media bedrijven worden neergelegd. Loos: ”Die moeten dan door factchecking bepalen wat er wel en niet op het platform mag verschijnen. Die bedrijven moesten ook een paar keer per jaar rapporteren aan de Europese commissie hoe het ervoor stond, dus die huurden daarvoor allemaal factcheckers in. Ook gebruikten ze software om nepnieuws op te sporen, maar de kom je dus eigenlijk bij hetzelfde probleem uit. Want wat zijn de criteria in de software om te bepalen wat wel en niet waar is?. Ik denk dat het heel goed is dat Den Haag en Brussel opletten en hier wetgeving over maken, maar vaak duurt het heel lang en is het al weer achterhaalt als de wet uitkomt.”

Zo lopen er al meerdere onderzoeken tegen Meta van de Europese commissie. Eind april constateerde zij nog dat Meta in hun ogen te weinig doet tegen de verspreiding van desinformatie. Ook zouden misleidende politieke advertenties niet tijdig offline worden gehaald. Met de Europese verkiezingen van 2024 opkomst startte de commissie dus ook een procedure.

De digitale dienstenwet DSA (digital service act) die door de Europese commissie is ingevoerd in 2023 en dwingt grote techbedrijven en online platforms om extra maatregelen te nemen tegen desinformatie en nepnieuws. De Europese commissie heeft al meerdere grote bedrijven in het vizier en onderzoeken ingesteld. Zo lopen er ook procedures tegen X, het voormalige Twitter-, Tiktok, en de Chinese webshop AliExpress.

Maar ook misleidende politieke campagnes worden in Europa verspreid zonder dat die (tijdig) offline worden gehaald door de social mediabedrijven. Een recent voorbeeld van desinformatie is deze video van Gazprom. Het Russische staatsbedrijf beloofde Europa in de kou zetten als het zich actief zou gaan bemoeien met de situatie in Oekraine.

Maar Europese landen waren er niet van onder de indruk en startte massaal campagnes om zo snel mogelijk van het Russische gas af te komen. De meeste landen lukte dit binnen twee jaar. Gazprom kon vervolgens ook haar belofte niet waarmaken, en het bedrijf dat sinds Poetin aan de macht kwam altijd winst maakte, leed een miljardenverlies van 6,2 miljard euro.

AI en chatbots

Tegenwoordig komt daar nog wel een belangrijke ontwikkeling om de hoek kijken. Kunstmatige intelligentie, ook wel AI, gaat een belangrijke rol spelen in onze samenleving. En met de komst van AI wordt het alleen maar moeilijker om nepnieuws en desinformatie te bestrijden, zegt Loos. ”Die ontwikkeling op het gebied van kunstmatige intelligentie gaat zo snel dat het qua regelgeving eigenlijk niet mogelijk is om het bij te benen. Soms duurt het één of twee jaar voor er een wet doorheen is, maar dan is het al te laat. Eigenlijk zou je moeten zeggen: ‘Die wet gaat morgen in’, maar dat is natuurlijk nooit zo.”

Daar is Sander Duivestein het mee eens. Hij is auteur van meerdere boeken over nepnieuws en AI en schrijft regelmatig over dit onderwerp voor de Volkskrant. ”De wetgeving loopt nu al achter. De Europese commissie is bezig met een wet die gebaseerd is op de AI-technologie van GPT3.0, maar als de wet in 2026 van kracht is dan zijn we al bij GPT8.0. Maar dat is met technologie van alle tijden. Het is natuurlijk niet zo dat wetgeving voorop kan lopen op technologie.”

Als regelgeving langzaam gaat dan moeten er toch andere manieren zijn om mensen te beschermen tegen desinformatie. ”Mediawijsheid is dan wel heel belangrijk’, zegt Loos. ‘Op dit moment zijn ze bezig om beelden en teksten die gemaakt zijn met AI te voorzien van een watermerk. Daaraan kan een gebruiker dan zien dat de inhoud gemaakt is doormiddel van AI en dus niet door een mens is geschreven of gemaakt. Daarmee geef je gebruikers dus een soort duwtje in de rug om berichten kritisch te beoordelen. Desinformatie gaat de wereld niet uit, daar ben ik van overtuigd. Dus als regelgeving langzaam gaat dan moet je ook een beetje verantwoordelijkheid bij de burger leggen.”

Loos doet onderzoek naar chatbots, gegenereerd door AI, zoals bijvoorbeeld ChatGPT. ”Er is natuurlijk wel een belangrijk aspect bij chatbots, want die kennen geen emoties. Al proberen ze dat in die systemen wel zo te laten lijken. ChatGPT kan voor je samenvatten en iets omschrijven, maar het kan niet de creativiteit die een mens heeft evenaren. De bedrijven achter chatbots willen dat natuurlijk wel want voor hen is het een verdienmodel. Ze laten daarom ook geen onderzoekers toe tot de systemen achter. Ze zeggen wel: ‘het is een black box’, dus alle informatie die in het systeem gaat gebruikt de chatbot om zichzelf dingen aan te leren. Omdat de ontwikkeling van AI nog vrij jong is leert een systeem nu van stukken die journalisten en wetenschappers hebben geschreven. maar zodra daar steeds meer berichten van social media bijkomen en als daar ook nepnieuws in zit dan dat heel gevaarlijk zijn.”

Als een AI-systeem leert van nepnieuws dan kan het ook zelf nieuws en berichten gaan maken die daarop gebaseerd zijn. Zo krijg je een neerwaartse spiraal van desinformatie. Loos: ”Het is vaak helemaal niet duidelijk wat er in die trainings-dataset van die chatbot zit. Nu zijn dat veel krantenstukken en wetenschappelijke artikelen, maar wie garandeerd er dat daar geen social mediaberichten in zitten. En als het dan aankomt op nepnieuws en desinformatie dan is dat een categorie waar je naar moet kijken. En daarmee gaat die chatbot ook aan de slag. Dus als AI zichzelf traint met nepnieuws blijf je het in stand houden en blijfthet dus ook foutieve informatie produceren en dat is gevaarlijk.”

”De vooroordelen van mensen zitten bij zo’n AI-systeem er natuurlijk in gebakken”, zegt Duivestein. ”Die systemen verzinnen hun eigen dingen, factchecking ontbreek vaak, de bronnen kloppen niet. En dat wordt niet gecheckt dus dan staan er gewoon fouten op het internet. Dus het is eigenlijk een soort van inteelt die we momenteel met deze generatieve AI aan het bewerkstelligen zijn. Weet dat ChatGPT pas één, anderhalf jaar echt bekend is bij het grote publiek. Je moet het zien als een kind van vier, het is niet eens volwassen.’ En volgens Duivestein zien we dat die invloed nu al de verkeerde kant op gaat. ‘Dat zien we nu al. We zien over de rug van sociale media en de algoritmes die daarin zitten dat die haat en populistische boodschappen versterken. En daardoor hebben een hele hoop landen nu te kampen met problemen ten aanzien van hun democratie. Ook hier in Nederland. En dat kan versterkt worden door kunstmatige intelligentie, omdat het gemak waarmee je foutieve informatie kan genereren en verspreiden vele malen groter is.”

Jongeren

Jongeren zijn opgevoed en opgegroeid in een wereld waar je alles digitaal kunt doen. Op school of studie werken ze met een laptop, vrienden spreken ze de hele dag door via sociale media, en als ze niet voor zichzelf kunnen kokJongeren kunnen het erg lastig vinden om nepnieuws te herkennen, zegt Sophie Duvekot. Zij is onderzoeker bij de Hogeschool Utrecht in kwaliteitsjournalistiek en digitale transitie. Samen met collega’s schreef zij een onderzoek naar het nieuwsgebruik onder jongeren. Hierin kwamen zij ook tot de conclusie dat jongeren makkelijk nepnieuws als de waarheid kunnen beschouwen. ”En dat zorgt ervoor dat nepnieuws ook makkelijk wordt verspreid’, zegt Duvekot. ‘Alleen al nieuws dat door een bekende wordt doorgestuurd kan voor een jongere al genoeg reden zijn om te zeggen: ‘Dit is de waarheid, ik stuur het door.”

Volgens het onderzoek van Duvekot blijkt ook dat met name praktisch opgeleide jongeren lager scoren op het identificeren van nepniews, dan theoretisch opgeleide jongeren. Duvekot: ‘’Wij noemen dit een ‘third-person-effect’”. Oftewel, anderen om mij heen trappen wel in nepnieuws, maar mij zal het niet overkomen. Een reden kan zijn dat jongeren te veel op hun onderbuikgevoel vertrouwen in plaats van dat ze goed checken wat ze precies lezen en zien, blijkt uit een studie van de Rijksuniversiteit Groningen. Jongeren onderschatten bij het beoordelen van nepnieuws hun eigen kwaliteiten.

En dus pleit Loos ook voor meer mediawijsheid op scholen: ”We kunnen er niet omheen dat dit een grote rol gaat spelen in de toekomst. Kinderen zijn al echt wel redelijk in staat om het te onderscheiden, maar het is belangrijk dat iedereen ook op de hoogte is van de gevaren en ontwikkelingen. Je moet dus altijd goed en kritisch nadenken”. Duivestein denkt dat de nieuwe campagne van de overheid genaamt ‘Internep’ zijn vruchten zal gaan afwerpen. ”Deze campagne zal denk ik vooral invloed hebben op ouderen. Maar dat is natuurlijk een groot deel van de bevolking.”

En ook voor wetgeving kan het mogelijk zijn om AI-invloeden te reguleren. Duivestein denk dat het lang gaat duren. ”Maar uiteindelijk denk ik dat met de AI-act van de Europese Commissie er maatregelenen wetgeving aankomt waarbij AI-bedrijven verplicht worden om alleen maar informatie te genereren die niet foutief is. En die bewezen en gefactcheckt is. Maar dat kan nog tientallen jaren duren.”

Dunne draad

Wat nou uiteindelijk de beste aanpak is voor nepnieuws? Die vraag is eigenlijk niet beantwoorden. We zien vooral een soort kat-en-muisspel tussen de overheid, sociale mediabedrijven en de makers van nepnieuws. En zodra een overheid wil ingrijpen met regelgeving, dan duurt dat eigenlijk te lang. De technologie die bedrijven gebruiken is dan al in zo’n vergevorderd stadium dat de regelgeving eigenlijk al achterhaalt is en dus een hele kleine impact heeft. Met de komst van AI wordt dit alleen maar ingewikkelder. Regelgeving voor chatbots als ChatGPT en Copilot is er nauwelijks en techbedrijven hebben vrij spel. Zij hoeven niet zo transparant te zijn als social mediabedrijven. De bedrijven geven nauwelijks tot geen inzicht in hoe de chatbot zichzelf dingen aanleert en er is geen transparantie over welke informatie het systeem dan gebruikt. Daarnaast is het voor de bedrijven een manier om winst te maken en kunnen daardoor ethische kwesties met minder urgentie bekeken worden. En dan heb je nog overheden die worstelen met de regelgeving omdat de vrije markt voor bedrijven en de vrijheid van meningsuiting voor gebruikers in het geding komt. Want iedereen mag zeggen wat hij of zij wil, ook al is het niet waar. Kortom: de aanpak van nepnieuws bevindt zich op een dunne draad waar, voor nu, nog geen manier voor is gevonden om die steviger te maken.