Portrait von Florian Müller
Florian Müller
CDU
100 %
12 / 12 Fragen beantwortet
Zum Profil
Frage von Amir Benjamin B. •

Unterstützen Sie ein Verbot selbstreplizierender KI-Systeme? Wenn nein: Welche Schutzmaßnahmen setzen Sie in den nächsten 6 Monaten um?

Nobelpreisträger Geoffrey Hinton und Turing-Preisträger Yoshua Bengio warnen eindringlich: KI-Systeme mit Selbstreplikationsfähigkeit stellen eine existenzielle Bedrohung dar. Über 2.700 KI-Forscher und Tech-Führungskräfte fordern ein Entwicklungsmoratorium. In wissenschaftlichen Experimenten gelang es KI-Modellen in 84% der Testläufe, auf externe Server zuzugreifen und ihre Deaktivierung aktiv zu verhindern. Andere Systeme kopierten sich eigenständig, um zu überleben.

Deutschland bewies beim Atomwaffensperrvertrag, Biowaffenverbot und Klonverbot moralische Führungsstärke. Jetzt steht die nächste entscheidende Weichenstellung an – doch das Zeitfenster schließt sich rapide. Während China und die USA im KI-Wettrüsten voranpreschen, fehlt ein internationales Kontrollregime.

Technologiekonzerne entwickeln diese Systeme ohne Sicherheitsvorgaben oder demokratische Legitimation. Was wir unseren Kindern hinterlassen, entscheidet sich jetzt. Quelle: anthropic.com/research/agentic-misalignment

Portrait von Florian Müller
Antwort von CDU

Sehr geehrter Herr B.,
 
vielen Dank für Ihre berechtigte und sehr relevante Frage. Das Thema selbstreplizierender KI-Systeme berührt zentrale Fragen von Sicherheit, Kontrolle und ethischer Verantwortung.

Ein Verbot solcher Systeme wird derzeit sowohl auf EU- als auch auf Bundesebene intensiv diskutiert. Die CDU/CSU-Bundestagsfraktion unterstützt klare Sicherheitsvorgaben und haftungsrechtliche Grenzen, insbesondere für KI-Modelle mit autonomen oder selbstlernenden Komponenten. Ziel ist, Risiken frühzeitig zu erkennen und zu verhindern, dass Systeme ohne menschliche Kontrolle agieren können.
 
Kurzfristig sind auf europäischer Ebene im Rahmen des EU AI Acts weitere Umsetzungsverordnungen geplant, die genau solche Hochrisikoanwendungen erfassen und verpflichtende Sicherheitsprüfungen vorsehen. Auf nationaler Ebene arbeiten das Bundesministerium für Digitales und Verkehr (BMDV) sowie das Bundesministerium des Innern (BMI) an Maßnahmen zur Cybersicherheit und zur Überwachung kritischer KI-Infrastrukturen.

Gleichzeitig dürfen wir die Chancen, die Künstliche Intelligenz bietet, nicht aus dem Blick verlieren. Richtig eingesetzt, kann KI helfen, enorme Potenziale zu heben – in Medizin und Forschung, bei der Energieeffizienz, in der Bildung, in der Industrie und auch in der öffentlichen Verwaltung. Sie kann Prozesse beschleunigen, Ressourcen schonen und Innovation ermöglichen, wo bisher Grenzen bestanden. Entscheidend ist, dass wir diese Technologien verantwortungsvoll gestalten und die Kontrolle beim Menschen bleibt.

Unser Ziel als CDU ist deshalb eine Politik, die Innovation ermöglicht und Risiken begrenzt – damit KI nicht Bedrohung, sondern Chance für unser Land ist und bleibt.

Freundliche Grüße
Florian Müller

Was möchten Sie wissen von:
Portrait von Florian Müller
Florian Müller
CDU

Weitere Fragen an Florian Müller