Einde van de rit voor pedofielen? De Grok-crisis en de gevolgen

Florian Bodoky

13/1/2026

Vertaling: machinaal vertaald

Nadat Grok op bestelling deepfake naaktfoto's maakte - sommige van kinderen - wil het Verenigd Koninkrijk nieuwe wetten invoeren. Ondanks de beschuldigingen van Musk over censuur, ondernemen ze doortastende actie. En Zwitserland?

Het Verenigd Koninkrijk reageert op deepfake naaktfoto's, inclusief die van minderjarigen, gecreëerd met behulp van de AI Grok, de kunstmatige intelligentie die deel uitmaakt van Elon Musks bedrijf xAI. De regering van het Verenigd Koninkrijk heeft in een persbericht verklaard dat zij de «ongecontroleerde creatie en verspreiding van dergelijke inhoud beschouwt als een ernstige overtreding van de wet» en heeft «de relevante autoriteiten opgedragen alle beschikbare juridische instrumenten te gebruiken om deze praktijk te stoppen».

..

Liz Kendall, staatssecretaris voor Wetenschap, Innovatie en Technologie, verklaarde dat de regering van plan is om het maken van niet-consensuele deepfakes van mensen in schaarse of ongeklede kleding als apart strafbaar feit in te voeren. Mediaregulator Ofcom heeft ook een onderzoek geopend naar de vraag of Platform X heeft voldaan aan haar verplichtingen onder de Online Safety Act.

(BOX De Online Safety Act 2023 is een wet van het Britse parlement om online inhoud te reguleren. Het Britse equivalent van de Digital Services Act verplicht platforms boven een bepaalde grootte om actie te ondernemen tegen illegale inhoud en gebruikers effectief te beschermen tegen schadelijk materiaal. Inhoud zoals niet-consensuele intieme beelden, waaronder ook AI deepfakes vallen, behoren tot de zogenaamde «Priority Offences» in de wet. Platforms moeten proactieve, passende maatregelen nemen om dergelijke inhoud te voorkomen en te verwijderen. Overtredingen kunnen boetes opleveren tot 18 miljoen pond (ongeveer 19,4 miljoen Zwitserse frank) of tot 10 procent van de wereldwijde omzet. In ernstige gevallen kan Ofcom bij de rechtbank «Business Disruption Measures» aanvragen, bijvoorbeeld het blokkeren of afsluiten van diensten op de Britse internetmarkt)

Een belangrijke vraag van het onderzoek zal waarschijnlijk zijn of X en zijn exploitanten proactief en voldoende actie ondernemen tegen misbruik. Het feit dat X het genereren van afbeeldingen beperkt tot betalende gebruikers is niet genoeg voor de Britse autoriteiten en ook de reactieve maatregelen zijn ontoereikend. Premier Keir Starmer was hier heel duidelijk over: «Als X Grok niet kan controleren, dan doen wij het». Hij heeft Ofcom opgeroepen om «alle opties te overwegen» - en heeft een Grok-verbod in het VK niet uitgesloten.

Grok, X en Elon: wat is er eigenlijk gebeurd?

In 2020 voegde xAI een functie voor het genereren van afbeeldingen en video's toe aan de chatbot. Gebruikers kunnen ook afbeeldingen bewerken via prompts. Binnen een paar dagen verspreidden seksuele en naaktbeelden van echte mensen, voornamelijk vrouwen, zich op het platform. Hieronder bevonden zich ook gevallen van minderjarigen.
De gebruikelijke beschermingsmechanismen werkten niet altijd: verzoeken die duidelijk ethische en wettelijke grenzen schonden, werden toch uitgevoerd. Ondanks herhaalde klachten en meldingen bleef de functie soms actief. Eigenaar Elon Musk reageerde aanvankelijk op zijn gebruikelijke manier op de kritiek en de plannen van de Britse regering: Hij uitte publiekelijk kritiek en noemde de ingrepen «censuur».

Recentelijk beperkte X de op afbeeldingen gebaseerde Grok-functie tot betalende abonnees om traceerbaarheid mogelijk te maken. X benadrukte dat illegale inhoud zou worden verwijderd en verantwoordelijke accounts zouden worden geblokkeerd. Grok zelf genereerde ook een verontschuldiging. Critici wijzen er echter op dat technische blokkades nog steeds kunnen worden omzeild, bijvoorbeeld via externe Grok-pagina's.

Wat gebeurt er in de EU en Zwitserland?

Als reactie op de Grok-incidenten heeft de Europese Unie regelgevingskaders aangenomen zoals de Digital Services Act (DSA) en de AI Act om de verspreiding van schadelijke AI-inhoud tegen te gaan. De autoriteit heeft X gevraagd om alle interne Grok-gerelateerde gegevens en documenten te beveiligen en controleert de naleving van de Europese eisen. De EU heeft verklaard dat zij «geseksualiseerde deepfake afbeeldingen, met name van minderjarigen, als illegaal beschouwt» en «zet zich actief in om deze te verwijderen en te voorkomen».
In Zwitserland is er geen speciale wet voor deepfake technologieën. In mei 2025 verwierp de Nationale Raad een motie van de Groenen waarin werd opgeroepen tot specifieke regelgeving voor deepfakes met een duidelijke meerderheid. De Bondsraad stelde dat de bestaande, «technologieneutrale» wetten voldoende waren. De Zwitserse uitvoerende macht noemde de bepaling tegen identiteitsfraude StGB art. 179 e.v..

Na de ondertekening van de «Conventie van de Raad van Europa over AI», heeft het Federale Departement van Justitie en Politie (FDJP) de opdracht gekregen om een overeenkomstig consultatieontwerp op te stellen, dat eind 2026 beschikbaar moet zijn. De Federal Data Protection and Information Commissioner (FDPIC) verwees ook naar de 2023 herziene gegevensbeschermingswet FADP, die «rechtstreeks van toepassing is op AI».

Een recente zaak laat zien dat Zwitserland ook actie onderneemt tegen AI-gegenereerde inhoud op zich: Het Zwitserse Federale Hooggerechtshof oordeelde onlangs dat pornografische inhoud met digitaal verjongde volwassenen die eruitzien als minderjarigen illegaal is. Dit is gebaseerd op bepalingen ter bescherming tegen «niet-reële» kinderpornografie in het Zwitserse wetboek van strafrecht. In feite zou de Zwitserse jurisprudentie niet helemaal tandeloos zijn.

Florian Bodoky

Editor

Florian.Bodoky@digitecgalaxus.ch

Sinds ik ontdekt heb hoe ik beide telefoonkanalen op de ISDN kaart kan activeren voor meer bandbreedte, ben ik aan het knutselen met digitale netwerken. Ik knutsel al met analoge netwerken sinds ik kan praten. Winterthur door keuze met een rood-blauw hart. En koffie - voor, na, tussendoor en tijdens. meer

---

Achtergrond

Interessante feiten uit de wereld van producten, een kijkje achter de schermen van fabrikanten en portretten van interessante mensen.

Alles tonen

Deze artikelen kunnen je ook interesseren