Die Anzahl an Apps, um Personen auf Fotos „auszuziehen“, Gesichter in Fotos auszutauschen oder mithilfe von Künstlicher Intelligenz komplett neue Bilder zu generieren ist in den letzten Jahren deutlich angestiegen. Nicht wenige dieser Apps und Internetseiten sind auch für Kinder und Jugendliche zugänglich und leicht zu bedienen. Wurden anfänglich hauptsächlich Prominente Opfer solcher Programme, sind nun laut eines Online-Berichts von jugendschutz.net immer häufiger auch Privatpersonen zum Ziel geworden. Die Betroffen solcher gefälschter Nacktbilder sind fast immer weiblich und nicht selten minderjährig.
Auch junge Personen nutzen diese Dienste, um Personen in ihrem Umfeld zu schaden. Die sogenannten „Deepnudes“ können Bestandteil von Cybermobbing sein, aber auch aus Rache verbreitet werden (Revenge Porn) oder um die Betroffenen zu erpressen (Sextortion). Diese Art von sexualisierter Gewalt kann langwierige körperliche, psychische und soziale Folgen haben.
Zwar gehen einige Plattformen wie TikTok, YouTube, Instagram und Facebook bereits gegen derartige verfälschte und KI-generierte Inhalte vor, jedoch ist deren Moderation noch lange nicht lückenlos. Es ist deswegen essenziell, dass Kinder und Jugendliche wissen, dass solche Inhalte problematisch sind, wie sie Deepfakes und Deepnudes erkennen können und wie sie dagegen vorgehen können. Folgende Materialien können sie dabei unterstützen:
Im Jahr 2024 registrierte die Meldestelle von jugendschutz.net insgesamt 17.630 Verstoßfälle — damit sind es mehr als doppelt so viele Verstöße wie durchschnittlich in den letzten drei Jahren verzeichnet wurden. Das Kompetenzzentrum führt im aktuellen Jahresbericht den enormen Zuwachs an Meldungen in erster Linie auf die steigende Zahl an Fällen sexualisierter Gewalt online zurück. Diese machten etwa 90 Prozent aller Verstöße aus. Aber auch politischer Extremismus, insbesondere in Form von Rechtsextremismus und Islamismus, hat im vergangenen Jahr deutlich zugenommen. Zudem werden die Kommentarspalten unter Videos mit Straßenumfragen in den sozialen Medien vermehrt Schauplatz von Cybermobbing.
Angesichts des derzeit ohnehin stark polarisierten gesellschaftlichen und politischen Klimas ist es besonders wichtig, Kinder und Jugendliche online vor solchen problematischen oder gefährdenden Phänomenen zu schützen, altersgerecht aufzuklären sowie sie für den Umgang mit diesen zu befähigen. Der Bericht betont die Bedeutsamkeit von Medienbildung. Prävention spielt dabei eine zentrale Rolle, aber auch die Unterstützung von Betroffenen und Handlungsstrategien bei Notfällen. Wichtige Anlaufstellen können dabei Schulen und Lehrkräfte, aber auch Familie, Freund*innen und Melde- und Beratungsangebote sein.
Um einen Beitrag zur Aufklärung über diese Phänomene beizutragen, wird Medien in die Schule in den kommenden Wochen drei Blogartikel zu den Schwerpunkten des Jahresberichtes veröffentlichen. In diesen wird nochmals im Detail auf die Erkenntnisse eingegangen und werden weiterführende Materialien für den Unterricht vorgeschlagen. Die Beiträge können nach der Veröffentlichung hier abgerufen werden:
Die Hälfte aller deutscher Internetnutzer*innen wurden schon einmal mit Hass im Netz konfrontiert, so lautet ein Ergebnis der neusten Studie „Lauter Hass, leiser Rückzug“ des Kompetenznetzwerks Hass im Netz. Mehr als 3.000 Teilnehmer*innen ab 16 Jahren wurden in der Studie zu ihrer eigenen Wahrnehmung und ihren Erfahrungen mit Hass im Netz befragt. Besonders stach dabei hervor, dass Jugendliche überdurchschnittlich oft Kontakt zu hasserfüllten Inhalten hatten, dreimal so viel wie die älteste erfasste Altersgruppe. Auch wurde beleuchtet, wie Jugendliche auf problematische Situationen reagieren und Hilfestellung leisten, welche Folgen Betroffene mit sich tragen und welche Wünsche und Ansprüche an das Bildungswesen Nutzer*innen stellen.
69 Prozent aller Jugendlicher und junger Erwachsener im Alter von 16 bis 24 Jahren haben schon einmal selbst Hass im Netz gesehen; über ein Viertel hat sich sogar selbst als Ziel solcher Kommentare wiedergefunden. Frauen und Personen, die einer Minderheit angehören, kommen dabei überproportional oft mit Hass in Berührung. Frauen, Personen mit nicht heterosexueller Orientierung und Personen mit Migrationshintergrund, vor allem mit sichtbarem Migrationshintergrund, erfahren im Schnitt mindestens 10 Prozent mehr Hass als andere Bevölkerungsgruppen. Zudem nehmen junge Menschen auch Politiker*innen (60%), Geflüchtete (58%), Aktivist*innen (54%) und religiöse Gruppen wie Muslime (45%) und Juden (31%) als häufige Ziele für aggressive und abwertende Aussagen wahr.
Häufig richten sich hasserfüllte Beiträge daneben gegen die politischen Ansichten, das Aussehen und die körperliche und psychische Gesundheit der Betroffenen. Betroffene berichten vor allem von Beleidigungen als verbreitetster Hassakt, gefolgt von der Verbreitung von Falschinformationen über einen selbst, sexueller Belästigung, unter anderem durch das Zuschicken von Nacktfotos oder Dickpics, und Bedrohung und Doxing. Frauen werden dabei weitaus häufiger Opfer sexualisierter Gewalt und erhalten fast doppelt so häufig ungefragt Nacktbilder, während Männer eher physische Gewaltandrohungen zugestellt bekommen.
X (früher: Twitter) wird von der Hälfte der Befragten als häufigster Schauplatz für Hass genannt. Knapp dahinter befinden sich TikTok (47%), Facebook (41%) und Instagram (38%). Messenger-Dienste wie WhatsApp werden hingegen eher selten benannt, mit der Ausnahme von Telegram, welcher häufiger nicht im privaten Kreis, sondern für seine öffentlichen Channels genutzt wird. Gleichzeitig nennt über die Hälfte der Befragten X, TikTok, Facebook und Instagram allerdings auch als Plattformen mit den leichtesten Meldewegen, während besonders Messenger-Dienste und Gaming-Plattformen eher schlecht abschneiden.
Dennoch greifen die meisten Jugendlichen zu passiveren Umgangsformen mit Hass wie das Blockieren und Stummschalten von Hassverbreitern (46%), das Privatstellen des eigenen Profils (40%) und dem Ignorieren von Kommentaren (36%). Betroffene sind hingegen öfter proaktiver: Drei Viertel melden den Plattformen Hass und zwei Drittel äußern sich kritisch gegenüber solchen Beiträgen und Kommentaren. Etwas weniger als die Hälfte zieht sich jedoch als Antwort auf Hass im Netz komplett sozial zurück und berichtet von psychischen Beschwerden (35%), Problemen mit dem Selbstbild (35%) und einem Rückgang der Online-Aktivität (34%). Fast die Hälfte deaktiviert und löscht ihr Profil daraufhin oder hört auf, auf der Plattform zu posten. Hilfsangebote dritter Parteien wie Meldestellen, Beratungsstellen oder der Polizei werden hingegen von allen Nutzer*innen wenig genutzt.
Die Mehrheit der Befragten macht sich Sorgen, dass andere sich durch Hass im Netz eingeschüchtert fühlen und weniger an Diskussionen teilnehmen, sich seltener zu ihrer eigenen politischen Meinung bekennen oder das Gefühl haben, sie müssen ihre Beiträge bewusst vorsichtiger formulieren. Vor allem Frauen, junge Erwachsene und Minderheiten bekennen sich dazu, sich von Onlinediskussionen ausgeschlossen zu fühlen. Dadurch werden sie bei politischen Debatten und bei der Meinungsbildung benachteiligt.
Deswegen fordern 84 Prozent aller Befragten, dass Hass im Netz im Unterricht stärker behandelt und fest in Lehrplänen verankert werden sollte. Sie verlangen mehr und umfangreichere Fortbildungen für Pädagog*innen und eine stärkere finanzielle Förderung von Projekten aus der Medienbildung.
Projekte wie Medien in die Schule sollen Lehrkräfte dabei unterstützen, gemeinsam mit ihren Schüler*innen Themen wie Hass im Netz und seine Auswirkungen auf die Gesellschaft zu behandeln sowie Reaktions- und Handlungsmöglichkeiten zu erlernen.
Eine Auswahl an hilfreichen weiterführenden Materialien zum Thema „Hass im Netz“ finden Sie hier:
