Hoe een AI-nieuwsnetwerk deskundigen woorden in de mond legt en BN’ers doodverklaart

Politicoloog Tom van der Meer was rond de Tweede Kamerverkiezingen van 29 oktober veel in de media, onder meer bij het televisieprogramma Nederland Kiest (NOS) op de uitslagenavond. In zulke omstandigheden gebeurt het in de gejaagde nieuwsdynamiek weleens dat uitspraken van hem door een medium te kort door de bocht worden opgeschreven. En dus twijfelde hij „een paar tellen” aan zichzelf toen hij kort na de verkiezingen een citaat van zichzelf las op de website Krantjeonline.nl.

„Het is zeldzaam dat verkiezingen zó spannend zijn dat één gemeente het verschil kan maken”, zou de hoogleraar aan de Universiteit van Amsterdam hebben gezegd over de ‘nek-aan-nekrace’ tussen D66 en de PVV. Maar al snel besefte Van der Meer dat hij dat nooit gezegd kon hebben, ook niet een beetje. Hij verzet zich juist altijd tegen overtrokken aandacht voor individuele gemeenten bij landelijke verkiezingen. „Gemeenten stemmen niet, mensen stemmen. De ontwikkelingen binnen gemeenten zeggen meer dan de verschillen tussen gemeenten.”

Samen publiceren ze tientallen nieuwsberichten per dag, verspreid via Facebookpagina’s met enkele duizenden tot bijna vijftigduizend volgers. Dagelijkseverhalen.nl is volgens data van webanalyseplatform SimilarWeb verreweg de populairste website: artikelen van die site werden ruim 340.000 keer aangeklikt in november – 40 procent meer dan in de maand ervoor. Dagelijkseverhalen is er ook als iPhone-app.

Van der Meer is niet de enige die door de websites woorden in de mond wordt gelegd. Zo wordt in hetzelfde artikel politiek analist Julia Wouters van de EO-podcast De Spindoctors geciteerd: „Wie wint, bepaalt niet alleen wie premier mag worden, maar ook welke richting Nederland de komende jaren inslaat.” Dat heeft Wouters nooit gezegd, vertelt ze. Het was op voorhand duidelijk dat de PVV niet de premier zou gaan leveren, „en het klopt ook niet dat één partij bepaalt welke richting Nederland inslaat, dat doet een coalitie gezamenlijk”. Ze hekelt de nepquotes. „Dit beschadigt natuurlijk mijn professionaliteit.”

Nepjournalisten

Marlies en collega’s ‘publiceren’ artikelen vol onjuistheden. Ook dat lijkt in de hand te worden door gebruik van AI. De technologie staat erom bekend dat het nieuwsfeiten verzint als het wordt ingezet om teksten te schrijven. Zo berichtte Krantjeonline op 13 november dat Marco Borsato had bekendgemaakt dat hij was vrijgesproken. Hoewel dat drie weken later inderdaad gebeurde, was de rechtszaak op dat moment nog in volle gang.

Auteurspagina van een door AI gegenereerde ‘journalist’.

Beeld screenshot Krantjeonline

Volgens het artikel was Borsato op een benefietdiner – wat klopt en waar Telegraafjournalist Jordi Versteegden een dag eerder over had verteld bij het tv-programma Shownieuws. Maar er staat ook dat Versteegden de zanger daar persoonlijk zou hebben gesignaleerd. „Hij (…) voelde zich op zijn gemak. Hij genoot zichtbaar van de avond”, zou Versteegden hebben gezegd. Maar de journalist, die vaker op de AI-sites wordt ‘geciteerd’, was helemaal niet op de benefietavond. „Hier is duidelijk een artikel gemaakt aan de hand van een aantal artikelen / tv-items, met behulp van AI”, laat hij weten. Versteegden vreest er weinig tegen te kunnen doen, behalve een rechtszaak aanspannen. „Daar zit ik niet op te wachten. Maar als dit de spuigaten uit gaat lopen, zal ik wél actie ondernemen.”

De artikelen op de sites zijn vaak een omgeschreven versie van artikelen bij reguliere nieuwsmedia. Zo is een artikel over viroloog Marion Koopmans te herleiden tot een interview met EenVandaag waarin Koopmans zegt dat een nieuwe pandemie „bij wijze van spreken al volgende maand” kan uitbreken. Krantjeonline maakt daarvan dat Koopmans zeker weet dat er volgende maand een nieuwe pandemie uitbreekt.

Doodsverklaringen

Op Facebook gaan de nieuwspagina’s een stap verder, met dagelijkse berichten dat een BN’er zou zijn overleden, of ernstig ziek of gewond is. Zo schreven diverse pagina’s vorige week dat presentator Herman van der Zandt in „levensgevaarlijke toestand” verkeerde na een auto-ongeluk. In de reacties betuigen Facebookgebruikers hun steun: „sterkte voor zijn familie”. Maar met Van der Zandt is niets loos en de foto van een gecrashte auto die erbij staat is van een ongeluk van vorig jaar in Woerden. De bijbehorende link leidt naar een artikel over tegenvallende kijkcijfers voor een programma dat hij presenteert. 

In dezelfde 24 uur beweren de pagina’s dat onder andere Rachèl Hazes, dj Ruud de Wild en koningin Máxima dood of ernstig ziek zijn. André van Duin kreeg afgelopen zondag vele honderden steunbetuigingen na „vreselijk nieuws uit het ziekenhuis”. Bij sommige rouwberichten zitten met AI gemaakte videobeelden van onder meer – de daadwerkelijk ernstig zieke – presentator Martijn Krabbé in een ziekenhuisbed.

Sommigen voelen zich genoodzaakt om te reageren. Actrice Pip Pellens waarschuwde haar Instagramvolgers afgelopen week voor een nepbericht over haar overlijden. „Ik krijg ontzettend veel berichtjes van mensen die ongerust zijn of willen inchecken.” Pellens’ management laat weten niet te kunnen achterhalen wat de bron van het bericht was. En het programma Even Tot Hier liet eind november zien hoe AI-pulpsites verzonnen dat co-presentator Niels van der Laan een relatie en een dochter zou hebben met actrice en  cabaretière Eva Crutzen.

Een door AI gegenereerde pagina met verkeerde informatie.

Beeld screenshot Belessa

Pulpnieuws

De sites vermengen nepnieuws en wat mediawetenschappers pulpnieuws noemen: niet van A tot Z onwaar, maar wel sensatiezuchtig en overdreven. Facebook is het belangrijkste distributieplatform. Uit onderzoek van de Universiteit Leiden bleek in 2019 al dat miljoenen Nederlanders pulpnieuws liken en delen. Facebooks moederbedrijf Meta liet op vragen van NRC maandag weten naar de pagina’s te kijken, maar nog geen inhoudelijke reactie te kunnen geven.

„Dit type nieuws is niet nieuw, maar AI heeft het wel versneld”, zegt hoogleraar digitale media en samenleving Sanne Kruikemeier (Wageningen University & Research). Generatieve AI, zoals het bekende programma ChatGPT, werken voor dit soort websites als steroïden. „Het is makkelijker geworden om snel lange berichten te schrijven die realistisch overkomen. De genoemde websites zien er ook professioneler uit dan we gewend zijn van clickbaitsites.”

Het doel van nep- en pulpnieuws is doorgaans geld verdienen, politieke invloed uitoefenen, of allebei. De genoemde sites lijken in die eerste categorie te vallen. Ze staan vol met reclame, automatisch ingeladen via het advertentiesysteem van Google. Elke keer dat een bezoeker op zo’n reclamebanner klikt, verdient de eigenaar van de site een klein bedrag.

Wie er achter de websites zit, is niet geheel duidelijk. Volgens een beschrijving bij de app van Dagelijkseverhalen in de appwinkel van Apple is die gemaakt door het bedrijf Seya Media B.V. Uit het handelsregister van de Kamer van Koophandel blijkt dat Seya Media in Houten is gevestigd. In het register staat ook een e-mailadres, maar op een verzoek om wederhoor komt geen reactie, noch op contactverzoeken via Facebook.

.

Impact onduidelijk

Hoe om te gaan met dit soort nieuws? Hoogleraar Kruikemeier nuanceert allereerst dat ook een hoog bezoekcijfer nog niet betekent dat een website veel impact heeft. „Het betekent niet dat al die bezoekers het bericht leuk vonden of geloofden.” Er is vaak scepsis, getuige ook de vele kritische reacties die mensen op de Facebookpagina’s van de AI-sites achterlaten. „Veel mensen beseffen dat informatie deels computergestuurd is. Ze zien sociale media en ChatGPT als minder betrouwbaar dan traditionele media.”

Nederlanders hebben relatief veel vertrouwen in de ‘ouderwetse’ journalistiek van omroepen en kranten. Wat Kruikemeier betreft is de truc om mensen niet zozeer bang te maken voor nepnieuws en AI, maar om ze te leren hoe ze bronnen kunnen identificeren die wél betrouwbaar zijn. „Mijn vader stuurt me weleens beelden toe die met AI gemaakt zijn, maar consumeert ook veel ‘gewoon’ nieuws en leest de krant. Het is belangrijk om dat laatste te stimuleren, om te laten zien wat goede journalistiek kenmerkt. Wat is bijvoorbeeld hoor en wederhoor?” 

„We zien dat burgers in samenlevingen die waarde hechten aan zo’n omgeving, met bijvoorbeeld een sterke publieke omroep, beter geïnformeerd zijn. Ook al zien ze ook nepnieuws en worden ze blootgesteld aan AI.”