Offlimits en Fonds Slachtofferhulp spannen kort geding aan tegen Grok en X: ‘Voorkomen dat techbro’s grensoverschrijdend gedrag faciliteren’

Expertisecentrum Offlimits en Fonds Slachtofferhulp hebben donderdag een kort geding aangekondigd tegen internetplatform X en het hieraan verbonden generatieve AI-model Grok. De organisaties willen dat Elon Musks bedrijven hun algoritmes dusdanig aanpassen dat Grok niet meer gebruikt kan worden om mensen via echte foto’s zonder toestemming digitaal uit te kleden, of om er (kinder)pornografisch materiaal mee te maken.

Door Grok circuleren zogenoemde seksuele deepfakes niet langer uitsluitend in de marges van het internet, maar is het voor iedereen met minimale digitale vaardigheden mogelijk geworden om ze te creëren en te verspreiden. Op basis van één foto kan Grok binnen enkele seconden een beeltenis van iemand uitkleden. Vervolgens kan die afbeelding of het filmpje op X en andere sociale media worden verspreid. Het AI-model is geïntegreerd in X, dat volgens het blog TechCrunch meer dan 125 miljoen dagelijkse gebruikers heeft.

In januari was het op X vrijwel onmogelijk om dit soort content te ontwijken. In een tijdspanne van elf dagen genereerde Grok volgens Center for Countering Digital Hate ongeveer drie miljoen geseksualiseerde AI-afbeeldingen, waaronder 23.000 plaatjes van minderjarigen. Terwijl duizenden slachtoffers gebukt gingen onder de psychische gevolgen, deelde Nikita Bier, het hoofd van productmanagement bij X, enthousiast een grafiekje waaruit bleek dat mensen steeds meer tijd op het platform doorbrachten. Nadat eigenaar Elon Musk eerst lacherig deed over de kritiek, scherpte het platform medio januari de algoritmes aan. Maar nog altijd laat Grok veel meer toe dan concurrerende modellen als ChatGPT en Claude. Met bepaalde instructies is Grok eenvoudig te misleiden.

Wat betreft de psychische gevolgen is er geen verschil tussen offline en online seksueel geweld

‘Grote stijging’

In Nederland is Offlimits door de Autoriteit Consument en Markt aangewezen om, na meldingen van slachtoffers, verwijderverzoeken in te dienen bij de techbedrijven in kwestie. Door de op online engagement gerichte strategie van Musk heeft Offlimits het een stuk drukker gekregen. „Vorig jaar hebben zich bij ons driehonderd mensen gemeld die bijvoorbeeld met veelal geseksualiseerde AI-beelden afgeperst werden”, zegt directeur Robbert Hoving. „En we hebben 2.200 AI-gegenereerde afbeeldingen geclassificeerd als kindermisbruik.” Hij spreekt van een „grote stijging” ten opzichte van een jaar geleden.

Een misverstand over online seksueel misbruik door middel van kunstmatige intelligentie is dat de gevolgen minder groot zijn omdat het nepbeelden betreft. „Wat betreft de psychische gevolgen is er geen verschil tussen offline en online seksueel geweld”, zegt Hoving, „en ook niet tussen nep en echt.” Lotte Kreuwel, woordvoerder van Slachtofferhulp Nederland, zei eerder tegen NRC: „Je weet zelf wel dat de beelden nep zijn, maar doordat ze er zo realistisch uitzien, weten anderen dat niet.”

Het is in Nederland alleen toegestaan om iemand digitaal uit te kleden als die daar toestemming voor heeft gegeven. Dat is de enige vorm van legitiem gebruik van zogeheten nudify-apps, en ook een theoretische loophole omdat legitiem gebruik zelden voorkomt, terwijl die mogelijkheid een totaalverbod bemoeilijkt. Grok vraagt niet naar toestemming. Sterker nog: ook als je Grok expliciet vertelt dat je geen toestemming hebt, honoreert hij uitkleedverzoeken alsnog, ondervond persbureau Reuters in januari.

Het verspreiden van seksuele deepfakes zonder toestemming valt in Nederland onder bestaande strafwetgeving tegen smaad, intimidatie en wraakporno. Ook is het vervaardigen en verspreiden van kinderporno strafbaar – en daar vallen ook seksueel getinte afbeeldingen onder. Onder Europese regels zoals de privacywet en de Digital Services Act zijn techbedrijven ook verplicht om misbruik tegen te gaan.

Recent heeft Boekx Advocaten, namens Offlimits, Grok en X gesommeerd om snel actie te ondernemen. „Daar hebben we niets over gehoord en daarom maken we een kort geding aanhangig”, zegt advocaat Otto Volgenant. „We willen geen verbod op Grok”, zegt Offlimits-directeur Hoving, „maar puur op deze functionaliteit”. Aan de eis is een dwangsom van 100.000 euro per dag gekoppeld zolang Grok en X niet aan die eis voldoen. Dat is wat Hoving een „eerste korte klap” noemt: „Dat bedrag kan hoger worden. Laten we voorkomen dat de techbro’s uit Silicon Valley enkel vanuit winstbejag dit soort online grensoverschrijdend gedrag kunnen blijven faciliteren.”

De zitting vindt 12 maart plaats in de rechtbank in Amsterdam.