Unterstützen Sie das von führenden KI-Forschern unterzeichnete Superintelligence Statement, das die Entwicklung von Superintelligenz stoppen will?

Sehr geehrter Herr B.,

vielen Dank für Ihre Mail.

Die dynamische Entwicklung von KI-Modellen birgt enorme Chancen, aber auch erhebliche systemische und potenziell existentielle Risiken. Politik muss hier mit Entschlossenheit, Verantwortung und klaren Regeln reagieren – und dafür sorgen, dass diese auch tatsächlich durchgesetzt werden.

In diesem Sinne haben wir uns als Grüne Bundestagsfraktion in der Vergangenheit immer wieder eingesetzt und werden dies auch in Zukunft tun. Für uns gelten dabei folgende Grundsätze:

1. Klare Regeln für eine sichere, gemeinwohlorientierte KI

Der AI Act der Europäischen Union ist ein richtungsweisendes Regelwerk, das weltweit als Vorbild gilt. Wir setzen uns für seine konsequente Umsetzung ein, insbesondere für eine strenge Regulierung von Hochrisiko-KI, Transparenzpflichten und den Schutz von Grundrechten. Der neue Praxisleitfaden der EU-Kommission für Allzweck-KI-Modelle konkretisiert wichtige Anforderungen, allerdings bleiben zentrale Transparenzpflichten in der Öffentlichkeit unzureichend umgesetzt. Hier muss nachgebessert werden, denn nur durch öffentliche Nachvollziehbarkeit kann gesellschaftliches Vertrauen entstehen.

Besonders kritisch ist derzeit die Rolle der Bundesregierung. Während Brüssel Fortschritte macht, bleibt Berlin bei der nationalen Umsetzung zurück. Wichtige Fristen werden versäumt, konkrete Ausführungsgesetze fehlen. Statt digitalpolitischer Führung erleben wir Zurückhaltung. Wir fordern deshalb, dass die Bundesregierung jetzt handelt. Die nationalen Umsetzungsregeln müssen ambitioniert ausgestaltet werden. Nur so können Vertrauen, Grundrechte und Innovationskraft gleichzeitig geschützt und gestärkt werden. Zudem müssen auch die zuständigen Aufsichtsbehörden im Lichte der neuen Gesetzgebung und der Notwendigkeit, diese auch konkret durchzusetzen, gestärkt werden.

Wir haben dazu kürzlich einen parlamentarischen Antrag eingebracht: Vertrauenswürdige Künstliche Intelligenz ermöglichen – Umsetzung der europäischen KI-Verordnung in Deutschland beschleunigen, Innovation fördern und digitale Souveränität stärken (https://dserver.bundestag.de/btd/21/023/2102349.pdf).

2. Gemeinwohl braucht Forschung: Zentrum für verantwortungsvolle Technikgestaltung

Technologische Risiken lassen sich nicht allein durch Regulierung bewältigen. Wir Grüne setzen uns für die Gründung eines Forschungszentrums ein, das Technikfolgenabschätzung, Innovationsförderung und Governance-Expertise bündelt. Es soll mit Akteuren wie SprinD kooperieren und gesellschaftlich relevante Technologien wie KI, Quantencomputing und autonome Systeme unterstützen. Ziel ist es, Forschungsergebnisse in konkrete politische Handlungsempfehlungen zu übersetzen und die Entwicklung offener, gemeinwohlorientierter Infrastrukturen zu fördern. Auch für andere innovative - im AI-Act explizit vorgesehene - Versuchsräume wie KI-Reallabore habe wir uns immer wieder – auch öffentlich – eingesetzt.

3. Internationale Verantwortung und technologische Souveränität

Die Risiken fortgeschrittener KI enden nicht an Landesgrenzen. Deshalb engagieren wir uns für eine international abgestimmte Regulierung – auf EU-, G7- und UN-Ebene. Parallel stärken wir die technologische Souveränität Europas durch Förderung offener Systeme, resilienter Lieferketten und gezielte Einbindung von Start-ups und KMU.

4. Aufklärung und demokratische Teilhabe stärken

Verantwortungsvolle KI-Politik braucht eine aufgeklärte Öffentlichkeit und demokratische Kontrolle. Blackbox-Modelle mit weitreichenden Folgen dürfen nicht im Verborgenen operieren. Wir fordern nachvollziehbare Prüfprozesse, öffentliche Dokumentation und umfassende Informationsrechte für Betroffene.

Unabhängig davon bleibt es wichtig, dass sich auch die Bundesregierung sehr viel stärker als bisher engagiert, die Einhaltung hoher Sicherheitsstandards und eine transparente, risikobewusste Entwicklung von KI sowohl auf nationaler als auch internationaler Ebene aufmerksam nicht nur verfolgt, sondern gezielt politisch vorantreibt.

Mit freundlichen Grüßen 

Dr. Lena Gumnior