Die Überarbeitung des KI-Gesetzes im Jahr 2026

IRIS 2026-7:1/11

Justine Radel-Cormann

Europäische Audiovisuelle Informationsstelle

Am 29. Juni 2026 hat der Rat der Europäischen Union die Verordnung zur Änderung des bestehenden KI-Gesetzes verabschiedet. Der Text wurde am 8. Juli 2026 sowohl vom Präsidenten des Europäischen Parlaments als auch vom Präsidenten des Rates offiziell unterzeichnet und wird in Kürze im Amtsblatt der Europäischen Union veröffentlicht.

Mit dieser überarbeiteten Fassung wurde die Umsetzung strengerer Schutzmaßnahmen für Kinder im Zusammenhang mit KI durchgeführt. Der Gesetzgeber hat in Artikel 5 neue Verbote eingeführt, die sich gegen bestimmte KI-Praktiken richten. Diese Bestimmungen sollen am 2. Dezember 2026 in Kraft treten. Es ist nun verboten, ein KI-System in Verkehr zu bringen, in Betrieb zu nehmen oder zu nutzen, das realistische Bilder, Videos, Audioaufnahmen oder ähnliches Material von den Intimstellen einer identifizierbaren natürlichen Person oder von einer identifizierbaren natürlichen Person, die an sexuell eindeutigen Handlungen beteiligt ist, erzeugt oder manipuliert, ohne dass diese Person ihre freiwillige, spezifische, informierte, eindeutige und ausdrückliche Einwilligung zu einer solchen Erzeugung oder Manipulation erteilt hat.

Darüber hinaus verbietet das geänderte Gesetz KI-Systeme, die Materialien oder Darbietungen erzeugen oder manipulieren, die Kinderpornografie oder pornografische Darbietungen eines Kindes beinhalten, es sei denn, es gilt nach nationalem Recht eine Ausnahme für die Einrede der „Rechtswidrigkeit“. Im Zusammenhang mit Kinderpornografie ermöglicht der Begriff „ohne Recht“ den Mitgliedstaaten, eine Rechtfertigung für Handlungen im Zusammenhang mit pornografischem Material vorzusehen, das beispielsweise einem medizinischen, wissenschaftlichen oder ähnlichen Zweck dient.

Die Änderungen stellen klar, dass diese Verbote nur dann gelten, wenn die Erzeugung oder Manipulation solcher Materialien oder Darbietungen der beabsichtigte Zweck des KI-Systems ist oder wenn die Konzeption, das Training, die Architektur, die Fähigkeiten oder die benutzerseitigen Funktionen des Systems diese Erzeugung oder Manipulation zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis machen, ohne dass hierfür wesentliche technische Änderungen erforderlich sind. Diese Verbote gelten auch dann, wenn dem System angemessene und ausreichende Sicherheitsmaßnahmen sowie sonstige Schutzvorkehrungen fehlen, um eine solche Erzeugung oder Manipulation unter Berücksichtigung vernünftigerweise vorhersehbarer Missbräuche zuverlässig zu verhindern und festgestellte oder gemeldete Missbräuche zu beheben . Die Verbote gelten zudem nur dann, wenn ein Betreiber das System zum Zweck der Erzeugung oder Manipulation solcher Materialien oder Darbietungen einsetzt.

Darüber hinaus wurden die Anforderungen an die Transparenz gemäß Artikel 50 verschärft. Anbieter von KI-Systemen, einschließlich von Allzweck-KI, müssen sicherstellen, dass von ihren Systemen erzeugte synthetische Audio-, Bild-, Video- oder Textinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Der überarbeitete Artikel 113 sieht vor, dass die Hersteller von KI-Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren, die notwendigen Maßnahmen ergreifen müssen, um bis zum 2. Dezember 2026 die Anforderungen des aktualisierten Artikels 50 zu erfüllen.

Der Text enthält weitere Änderungen, die auf eine Vereinfachung des KI-Gesetzes abzielen, wie beispielsweise die Klarstellung der Zuständigkeiten des KI-Büros, die verzögerte Einrichtung von KI-Regulierungs-Sandboxes oder die verzögerte Anwendung der Vorschriften für Hochrisiko-KI-Systeme.