Unterstützen Sie ein Verbot selbstreplizierender KI-Systeme? Wenn nein: Welche Schutzmaßnahmen setzen Sie in den nächsten 6 Monaten um?
Nobelpreisträger Geoffrey Hinton und Turing-Preisträger Yoshua Bengio warnen eindringlich: KI-Systeme mit Selbstreplikationsfähigkeit stellen eine existenzielle Bedrohung dar. Über 2.700 KI-Forscher und Tech-Führungskräfte fordern ein Entwicklungsmoratorium. In wissenschaftlichen Experimenten gelang es KI-Modellen in 84% der Testläufe, auf externe Server zuzugreifen und ihre Deaktivierung aktiv zu verhindern. Andere Systeme kopierten sich eigenständig, um zu überleben.
Deutschland bewies beim Atomwaffensperrvertrag, Biowaffenverbot und Klonverbot moralische Führungsstärke. Jetzt steht die nächste entscheidende Weichenstellung an – doch das Zeitfenster schließt sich rapide. Während China und die USA im KI-Wettrüsten voranpreschen, fehlt ein internationales Kontrollregime.
Technologiekonzerne entwickeln diese Systeme ohne Sicherheitsvorgaben oder demokratische Legitimation. Was wir unseren Kindern hinterlassen, entscheidet sich jetzt. Quelle: anthropic.com/research/agentic-misalignment
Sehr geehrter Herr B.,
vielen Dank für Ihre Frage. Ich nehme Ihre Sorge hinsichtlich selbstreplizierender KI-Systeme ernst und habe mich hierzu auch mit meinen zuständigen Fachkolleginnen und -kollegen in der SPD-Bundestagsfraktion ausgetauscht.
Der Rat der Europäischen Union hat im Mai 2024 die Verordnung über künstliche Intelligenz (KI) verabschiedet. Im Rahmen der KI-Verordnung werden KI-Systeme in verschiedene Risikostufen eingeordnet und unterliegen je nach Risikoeinstufung unterschiedlichen Pflichten – bis hin zum Verbot eines KI-Systems. Wenn ein solches selbstreplizierendes KI-System z.B. als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen angesehen wird, wird dieses verboten.
Wir als SPD-Fraktion begrüßen diesen risikobasierten Ansatz, der ausreichend Raum für die Innovationskraft der Unternehmen lässt, aber genauso Schutz vor den Risiken künstlicher Intelligenz bietet. Mit dieser einheitlichen Rechtsgrundlage kann die EU weltweit eine führende Rolle in Sachen KI-Sicherheit einnehmen. Die Umsetzung in nationales Recht läuft derzeit.
Für weitergehende Fragen empfehle ich Ihnen, sich direkt an meinen Kollegen Armand Zorn, stellvertretender Vorsitzender der SPD-Bundestagsfraktion u.a. zuständig für Digitales, zu wenden.
Abschließend möchte ich darauf hinweisen, dass Sie selbstverständlich die Möglichkeit haben, auch auf direktem Weg mit dem Deutschen Bundestag, seinen Abgeordneten oder mir Kontakt aufzunehmen – zum Beispiel über https://www.bundestag.de.
Mit freundlichen Grüßen
Bärbel Bas
Weitere Fragen an Bärbel Bas
Klar ist aber auch: Wenn es um unsere Demokratie geht, ziehen wir an einem Strang. SPD und Union haben im Koalitionsvertrag vereinbart, jede Gefahr für unsere freiheitlich-demokratische Gesellschaft – von innen wie von außen – abzuwehren und keine Zusammenarbeit mit Kräften einzugehen, die diese Grundordnung verachten und zerstören wollen.
Es handelt sich um ein Verbrechen, das in Russland an einem russischen Staatsbürger begangen wurde. Wir können solche Taten klar verurteilen, zu ihrer Aufklärung beitragen, politischen Druck ausüben und internationale Sanktionen unterstützen. Die Verantwortung für eine mögliche Entschädigung von Frau Nawalnaja sehe ich jedoch eindeutig beim russischen Staat.
In den Koalitionsverhandlungen mit der Union haben wir darauf geeinigt, die beschleunigte Einbürgerung nach drei Jahren abzuschaffen, andererseits aber die doppelte Staatsbürgerschaft sowie die reguläre Einbürgerung nach fünf Jahren beizubehalten. Dass die Koalitionspartner eigene – auch gegensätzliche – Positionen haben, sich aber in einer Koalition aufeinander zubewegen müssen, ist ein normaler Bestandteil unserer parlamentarischen Demokratie.
Unser Ziel ist es, unseren Sozialstaat zukunftsfest aufzustellen. Wir wollen, dass Unterstützung dort ankommt, wo sie gebraucht wird, und dass Menschen eine echte Perspektive bekommen, wieder auf eigenen Füßen zu stehen.