Die Anzahl an Apps, um Personen auf Fotos „auszuziehen“, Gesichter in Fotos auszutauschen oder mithilfe von Künstlicher Intelligenz komplett neue Bilder zu generieren ist in den letzten Jahren deutlich angestiegen. Nicht wenige dieser Apps und Internetseiten sind auch für Kinder und Jugendliche zugänglich und leicht zu bedienen. Wurden anfänglich hauptsächlich Prominente Opfer solcher Programme, sind nun laut eines Online-Berichts von jugendschutz.net immer häufiger auch Privatpersonen zum Ziel geworden. Die Betroffen solcher gefälschter Nacktbilder sind fast immer weiblich und nicht selten minderjährig.

Auch junge Personen nutzen diese Dienste, um Personen in ihrem Umfeld zu schaden. Die sogenannten „Deepnudes“ können Bestandteil von Cybermobbing sein, aber auch aus Rache verbreitet werden (Revenge Porn) oder um die Betroffenen zu erpressen (Sextortion). Diese Art von sexualisierter Gewalt kann langwierige körperliche, psychische und soziale Folgen haben.

Zwar gehen einige Plattformen wie TikTok, YouTube, Instagram und Facebook bereits gegen derartige verfälschte und KI-generierte Inhalte vor, jedoch ist deren Moderation noch lange nicht lückenlos. Es ist deswegen essenziell, dass Kinder und Jugendliche wissen, dass solche Inhalte problematisch sind, wie sie Deepfakes und Deepnudes erkennen können und wie sie dagegen vorgehen können. Folgende Materialien können sie dabei unterstützen: