Zo goedkoop is een trollenleger: Cambridge duikt in wereldwijde botmarkt

De nepaccounts op socialmediaplatforms als Facebook, Tiktok, Instagram en X rijzen de pan uit. En dat is niet voor niks, met een trollenleger op bestelling kun je heel effectief producten aan de man brengen of erger nog: de publieke opinie manipuleren. Een nieuwe tool laat voor het eerst tot in detail zien wat voor prijskaartje er hangt aan een wereldwijde botaanval.

De University of Cambridge lanceerde deze week een bijzonder platform: de Cambridge Online Trust and Safety Index (COTSI). De tool houdt dagelijks bij wat het kost om nepaccounts te kopen op meer dan vijfhonderd platforms – van Amazon tot X, van LinkedIn tot Tinder – uitgezet voor alle landen ter wereld. Dit resulteert in een realtime overzicht van de ondergrondse handel in nepprofielen, waar sms-verificaties en botlegers als warm broodjes over de toonbank gaan. Deze zogeheten SIM-farms produceren massaal telefoonnummers en verificatiecodes om nepactiviteit mogelijk te maken: gekochte volgers, kunstmatig opgeklopte populariteit, rage bait (woedende reacties en verhitte discussies zorgen voor meer comments en shares, waardoor de video zichtbaarder wordt voor een breed publiek) en zelfs gecoördineerde politieke beïnvloedingscampagnes.

Wat kost een botleger eigenlijk?

In een nieuwe analyse, gepubliceerd in Science, blijkt dat nepaccounts voor gebruik in de VS en het VK bijna net zo goedkoop zijn als in Rusland. Landen als Japan en Australië hebben veel hogere tarieven door dure SIM-kaarten en strengere ID-regels. Japan noteert gemiddeld 4,93 dollar per verificatie en Australië 3,24, maar dezelfde actie in de VS kost slechts 0,26 dollar, in het VK 0,10 dollar en in Rusland 0,08.

Nepaccounts pieken rond verkiezingen

COTSI laat zien dat vlak voor nationale verkiezingen de prijzen voor nepaccounts op apps als Telegram en WhatsApp gemiddeld met 12 tot 15 procent stijgen. De vraag naar botlegers neemt tijdelijk toe, wat duidt op strak georganiseerde beïnvloedingsoperaties. Omdat accounts op deze apps direct gekoppeld zijn aan zichtbare telefoonnummers, moeten de duistere influencers zich lokaal registreren en dat jaagt de prijs op. Op platforms zoals Facebook en Instagram gebeurt dat minder: daar kun je heel makkelijk een Russisch account gebruiken om mee te praten over Amerikaanse verkiezingen zonder dat iemand het merkt.

“We zien een florerende ondergrondse markt waarin nepcontent, kunstmatige populariteit en politieke beïnvloedingscampagnes openlijk te koop zijn”, zegt hoofdonderzoeker Jon Roozenbeek. “Bots kunnen aandacht genereren voor alles wat je maar kunt bedenken: een product, een beroemdheid, een politicus of een idee dat je aan de man wilt brengen. Door steun te faken of bewust de controverse op te zoeken, zetten ze de algoritmes van socialmediaplatforms en de publieke opinie naar hun hand.”

SIM-farms

Achter elk nepaccount schuilt een telefoonnummer en dus een SIM-kaart. SIM-farms zijn dan ook de cruciale schakels in deze manipulatie-economie. Ze bestaan uit enorme bakken fysieke of virtuele SIM-kaarten die automatisch sms-codes ontvangen en doorsturen naar frauduleuze klanten. “Alles begint met een telefoonnummer en de SIM-hardware erachter. Dat geeft ons toegang tot de verborgen economie van online manipulatie”, aldus Roozenbeek.

“Een groot deel van de desinformatie heeft een politieke lading en is omstreden, maar er is meer. Bijna alle vormen van nepactiviteit lopen via deze markten. Je hoeft alleen maar het geldspoor te volgen en je ziet wat zich afspeelt”, legt Cambridge-onderzoeker Anton Dek uit. De platforms die het meest worden misbruikt zijn X, Uber, Discord, Amazon, Tinder en gamingplatform Steam. Wereldwijd verhuren malafide aanbieders miljoenen verificaties voor landen als de VS, het VK, Canada en Brazilië.

Professionele schaduwindustrie

De kwaliteit van de nepaccounts varieert overigens enorm. Bij de ene aanbieder werkte slechts 21 procent van de Amerikaanse Facebook-verificaties; bij een andere meer dan 90 procent. En ook geldt: hoe duurder SIM-kaarten in een land zijn, hoe hoger de prijs is voor nepaccounts en hoe lager de verwachte hoeveelheid misbruik.

Nepaccounts zijn verrassend goedkoop: Meta, Grindr en Shopify kosten 0,08 dollar per stuk. Voor X en Instagram (0,10) betaal je niet veel meer, net als op TikTok, LinkedIn (0,11) en Amazon (0,12). Ondertussen bieden grote spelers bulkpakketten aan: duizenden nepvolgers, tientallen nepreviews of complete botlegers die automatisch gesprekken voeren. Door alle rage bait komen de topics in de schijnwerpers te staan. “Generatieve AI maakt bots menselijker dan ooit. Ze passen hun toon aan, voeren nepconversaties en worden steeds lastiger te ontmaskeren”, waarschuwt Roozenbeek.

Hoe pak je botlegers aan?

Door open source-gegevens van de grootste aanbieders te combineren, heeft het Cambridge-team een index gecreëerd die niet alleen prijzen weergeeft, maar ook de beschikbare ‘voorraad’ per land en per platform. Daarmee kunnen beleidsmakers testen of regulering, bijvoorbeeld strengere SIM-controles, effect heeft. “De COTSI-index laat zien hoe groot deze schaduweconomie is door een verborgen markt meetbaar te maken”, zegt onderzoeker Sander van der Linden. “Begrijpen wat online manipulatie kost, is de eerste stap om het businessmodel erachter kapot te maken.”