EU komt met verbod op uitkleedapps, moet voor de zomer ingaan

In dit artikel:

Met zogenaamde “nudify”- of uitkleedapps upload je een foto van wie dan ook en genereert AI een uiterst realistische naakte versie van die persoon. De beelden zijn nep, maar worden vaak zonder toestemming gemaakt — ook van minderjarigen — en vormen daarmee een vorm van seksueel misbruik. In Nederland is het maken van zulke beelden zonder toestemming verboden, maar de apps zijn eenvoudig te vinden en te gebruiken.

Expertisecentrum Offlimits ontving vorig jaar honderden meldingen over met AI bewerkte seksbeelden. Directeur Robbert Hoving waarschuwde: "Of het nou echt is of nep, we weten gewoon dat dit soort beelden heel verstrekkende gevolgen hebben voor slachtoffers." Onderzoek van RTL Nieuwspanel en &C liet zien dat veel mensen niet weten dat deze apps bestaan; scholen melden dat pesten met zulke beelden voorkomt (onderzoek van Pointer: één op de vier scholen kreeg er vorig jaar mee te maken).

Het Europees Parlement heeft inmiddels een verbod aangenomen; EU-landen en de Commissie steunen dit, en de maatregel kan naar verwachting nog voor de zomer ingaan. De maatregel maakt het verboden AI te gebruiken voor seksuele of naakte afbeeldingen, video’s of audio van bestaande personen — en het aanbieden van dergelijke apps. In een bijbehorende video wordt ook getoond hoe AI-bot Grok voor dit doel kan worden misbruikt.