Rechter verbiedt uitkleedfunctie van chatbot Grok in Nederland

1 uur geleden 1

Chatbot Grok mag zijn uitkleedfunctie – de toepassing waarmee de online beeltenis van echte mensen wordt uitgekleed – niet meer aanbieden in Nederland. Dat heeft een rechter van de rechtbank van Amsterdam donderdag beslotenExpertisecentrum Offlimits en Fonds Slachtofferhulp hadden een kort geding aangespannen tegen X en Grok. Grok mag de functie in Nederland óók niet meer laten gebruiken om kinderpornografisch materiaal mee te maken.

Grok is een AI-model dat is geïntegreerd in internetplatform X, eigendom van zakenman Elon Musk. De chatbot heeft volgens het blog TechCrunch meer dan 125 miljoen dagelijkse gebruikers en kan zonder wezenlijke obstakels AI-naaktafbeeldingen genereren op basis van iemands aangeklede foto’s. In elf dagen tijd, tussen 29 december en 8 januari, genereerde Grok volgens het Center for Countering Digital Hate ongeveer drie miljoen geseksualiseerde AI-afbeeldingen, waaronder 23.000 plaatjes van minderjarigen.

Van de Nederlandse rechter moet X aan Offlimits een dwangsom van 100.000 euro per dag betalen, zolang het platform niet aan het verbod van de rechter voldoet. Deze som kan oplopen tot een maximum van 10 miljoen euro. Robbert Hoving, directeur van Offlimits, is „harstikke blij” met de uitspraak van donderdag. „Het maakt duidelijk dat nieuwe technologie nooit een reden mag zijn dat mensenrechten in het geding komen”, zegt hij tegen NRC.

Het is in Nederland al illegaal om iemand digitaal uit te kleden als diegene daar geen toestemming voor heeft gegeven, wat in het geval van Grok niet gebeurt. „Maar alleen het bestaan van die wet bleek niet genoeg”, zegt Hoving. „We zijn blij dat de rechter een streep heeft getrokken. We wisten dat de wet afdoende was, maar zonder handhaving ervan is de wet een dode letter en creëer je wetteloosheid.”

Of het mogelijk is om het algoritme van Grok alleen in Nederland aan te passen, om te voldoen aan deze lokale gerechtelijke uitspraak, is nog niet duidelijk. „Dat is het mooie hieraan”, zegt Hoving. „Dit kan wereldwijd effect gaan hebben. Laten we gewoon hopen dat dit mensen bij X het laatste zetje geeft om er iets aan te veranderen.”

Het Europese Parlement stemde donderdag in met een verbod op AI-systemen die seksuele deepfakes genereren, zoals Grok. Lidstaten hebben al met zo’n verbod ingestemd. X-eigenaar Elon Musk zei in januari dat hij het algoritme van Grok zou aanpassen om te zorgen dat de uitkleedfunctie niet meer zou werken, maar de chatbot is makkelijk te manipuleren en genereert de beelden makkelijker dan concurrenten ChatGPT en Claude.