Onschuldige familiefoto op social? Pas op dat je kind niet in AI-porno belandt

Kunstmatige intelligentie (artificial intelligence, oftewel AI) wordt steeds vaker gebruikt om nepbeelden te maken van kinderen, soms met gewone foto’s die online staan. Deze beelden zijn zo realistisch dat zelfs experts nauwelijks het verschil zien met echte foto’s. Dit roept de belangrijke vraag op: is het nog wel veilig om foto’s van je kind op sociale media te zetten?

Terwijl organisaties hard werken aan manieren om dit misbruik te stoppen, blijft het onduidelijk hoeveel beelden écht door AI worden gemaakt. Wat betekent dit voor de veiligheid van onze kinderen in de digitale wereld?

"In het verleden konden we het nog heel goed zien wanneer het ging om een AI-gegenereerde foto", vertelt Madeleine van der Brugge, directeur van Offlimits en teamleider Meldpunt Kinderporno. "Omdat het slachtoffer dan bijvoorbeeld 6 tenen had of een extra voet. Maar het is inmiddels steeds slechter te herkennen. De technieken worden beter en het is niet meer met het blote oog te zien."

Ken je de risico's?

In de meeste gevallen gaat het niet om plaatjes van 'echte' kinderen, maar "we zien ook dat foto's van sociale media gebruikt worden en gemanipuleerd worden in naaktbeelden. Dit gebeurt niet op grote schaal, maar het is wel belangrijk om de risico's te kennen."

Volgens Van der Brugge is er wel van alles tegen deze nieuwe trend te doen. "Internetplatformen moeten verantwoordelijkheid nemen om het internet schoon te houden, moeten verdachten worden opgespoord en slachtoffers worden ondersteund. Maar het belangrijkste is dat de beelden zo snel mogelijk offline worden gehaald."