Deutschland

[DE] Jahresbericht von jugendschutz.net dokumentiert erneut sexualisierte Gewalt und extremistische Hassinhalte als zentrale Probleme für Online-Jugendmedienschutz

IRIS 2026-7:1/25

Sandra Schmitz-Berndt

Institut für Europäisches Medienrecht

In seinem Jahresbericht zum Jugendschutz im Internet 2025 weist jugendschutz.net auf Risiken und Handlungsbedarf hin und identifiziert dabei erneut sexualisierte Gewalt und extremistische Hassinhalte als zentrale Probleme im Netz. Dabei kommt KI, z.B. in Form von sog. KI-gesteuerten Charakter-Bots, auch bekannt als AI Companions, eine zentrale Rolle zu. So konnten Minderjährige sowohl bei Interaktionen mit Charakter-Bots, als auch bei KI-getriebenen Social-Media-Diensten wie dem Beispiel Butterflies.AI mit grenzüberschreitenden u.a. sexualisierten Inhalten konfrontiert werden, ohne dass es vorher eine wirksame Altersprüfung gab. Im zweiten Jahr in Folge hat jugendschutz.net auch eine höhere Zahl als 15.000 Fälle von Missbrauchsdarstellungen von Kindern bearbeitet. Jugendschutz.net recherchiert Verstöße gegen Jugendschutzbestimmungen selbst und nimmt Hinweise über eine Online-Beschwerdestelle entgegen. Das Thema sexualisierte Gewalt machte dabei 93 % der bearbeiteten Fälle aus.

Bei Spotify und Discord stellte die Stelle zahlreiche volksverhetzende Texte und strafbare extremistische Kennzeichen fest; auf TikTokdokumentierte jugendschutz.net drastische Hass- und Gewaltfantasien gegenüber Frauen und Mädchen. Des Weiteren kritisierte der Bericht die Verherrlichung von Essstörungen unter #skinnytok auf TikTok sowie die Verharmlosung und Bewerbung von riskanten Produkten wie psychoaktiven Substanzen oder Schmerzmitteln auf Social Media im Allgemeinen. Insgesamt steht besonders TikTok in der Kritik, nicht nur aufgrund der genannten Inhalte, sondern auch wegen jugendaffiner Köderstrategien beim sog. Social Commerce oder der Instrumentalisierung von Kindern durch Family-Influencing. Aber auch bei Snapchats Funktion „Spotlight“ zeigt sich, dass trotz der Altersbeschränkung in den Nutzungsbedingungen Videos von Kindern durch diese oder deren Eltern geteilt werden und in der Folge u.a. sexuell kommentiert werden. Der Bericht weist hier auf das Fehlen einer wirksamen Alterskontrolle hin.

Verschärft werden viele Risiken durch KI-Anwendungen, die frei verfügbar und auch für strafbare Handlungen einsetzbar sind. Obwohl Plattform-Betreiber gesetzlich – sowohl unter dem Jugendschutzgesetz als auch dem Digital Services Act – verpflichtet sind, geeignete Vorsorgemaßnahmen für eine altersgerechte Nutzung ihrer Dienste zu treffen, kommt jugendschutz.net zu dem Ergebnis, dass die Anbieter der Dienste zu wenig für den Schutz von Kindern und Jugendlichen unternehmen. Diesbezüglich richtet der Bericht seinen Fokus auf neue Funktionen bei Diensten, die bei Minderjährigen besonders beliebt sind wie bspw. die Shop-Funktion bei TikTok, Kaufanreize beim Livestreaming bei YouTube, „Spotlight“ bei Snapchat und Community-Funktionen bei WhatsApp. Eine Sonderauswertung des Musik-Streaming-Dienstes Spotify wegen vermehrter Verstöße u.a. im Hinblick auf politischen Extremismus und sexualisierte Gewalt zeigte, dass auch nach Kontakt durch jugendschutz.net als öffentlicher Institution nur wenige Inhalte gelöscht wurden.

Jugendschutz.net ist das gemeinsame Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten zum Schutz von Kindern und Jugendlichen im Internet. Es untersucht Risiken in jugendaffinen Online-Diensten und setzt sich dafür ein, Verstöße gegen Jugendschutzbestimmungen zu beseitigen sowie Angebote kind- und jugendgerecht zu gestalten.