Änderungen am KI-Gesetz und Verbot von "Nudifier-Apps“

Im EU-Parlament wurden Änderungen am europäischen Gesetz über Künstliche Intelligenz (KI-Gesetz) verabschiedet. Die sogenannte "Digital-Omnibus-Verordnung" soll dafür sorgen, die bestehenden Vorschriften zu vereinfachen und ihre Umsetzung zu erleichtern.

Kern der Neuregelung ist die Verschiebung bestimmter Vorgaben des KI-Gesetzes von 2024. Die rechtlichen Verpflichtungen für KI-Systeme, die als besonders risikoreich eingestuft werden, sollen nun erst ab dem 2. Dezember 2027 gelten. Für KI-Systeme, die unter spezielle EU-Sicherheitsvorschriften fallen, ist der Geltungsbeginn auf den 2. August 2028 verschoben worden. Nach Angaben der Berichterstatter:innen soll dies Unternehmen und Behörden mehr Zeit geben, da wichtige technische Standards, Leitlinien und Verfahren zur Überprüfung der Vorschriften noch nicht vollständig vorliegen. Darüber hinaus werden einige Regelungen vereinfacht oder angepasst. Betroffen sind unter anderem Vorgaben zur KI-Kompetenz, zur Verarbeitung sensibler personenbezogener Daten zur Erkennung von Verzerrungen in KI-Systemen, zur Cybersicherheit sowie zu sogenannten Reallaboren, in denen neue KI-Anwendungen unter Aufsicht getestet werden können.

Ein weiterer Bestandteil der Reform ist das Verbot von KI-Systemen, die Darstellungen von sexuellem Kindesmissbrauch oder nicht einvernehmliche intime Bilder erzeugen. Dazu zählen auch sogenannte „Nudifier-Apps“, die mithilfe künstlicher Intelligenz realistische Nacktaufnahmen oder sexuelle Darstellungen identifizierbarer Personen ohne deren Zustimmung erstellen können.

Achtung: Die rechts dargestellten Abstimmungsergebnisse spiegeln nur das Abstimmungsverhalten der deutschen EU-Abgeordneten wider und nicht das aller 720 EU-Abgeordneten.

Insgesamt wurden die neuen Vorgaben mit 423 Ja-Stimmen zu 57 Nein-Stimmen bei 174 Enthaltungen angenommen. Von den deutschen EU-Abgeordneten stimmten 66 dafür und elf dagegen. Es gab 13 Enthaltungen.