Glauben Sie, dass die Entwicklung von immer fähigeren KI-Systemen eine existenzielle Bedrohung für die Menschheit darstellt?
Sehr geehrter Herr Schmidt,
Es ist das erklärte Ziel von führenden KI-Firmen wie Anthropic und OpenAI KI-Modelle herzustellen, die dem Menschen in allen kognitiven Fähigkeiten gleichwertig oder überlegen sein werden. Viele der im Feld Forschenden glauben, dass die derzeitige Dynamik in der KI-Forschung in den nächsten ein bis fünf Jahren zu solchen Systemen (Artifical General Intelligence) führen wird.
Währenddessen warnen viele hochangesehene Forscher (z.B. die Pioniere der KI-Forschung und Turing-Preisträger Yoshua Bengio und Geoffrey Hinton) seit Jahren vor den existenziellen Risiken für die Menschheit durch den Kontrollverlust an superintelligente KI-Systeme. Selbst in den KI-Laboren von Anthropic, OpenAI und Google Deepmind existiert diese Sorge wie Interviews mit einer steigenden Anzahl von Aussteigern aus diesen Firmen zeigen (zuletzt z.B. Jacob Coxon). Wir plädieren an die Politik diese Sorgen ernstzunehmen.
Sehr geehrter Herr F.,
vielen Dank für Ihre Frage zu einem der wichtigsten technologischen und gesellschaftlichen Themen unserer Zeit.
Ja, ich halte es grundsätzlich für möglich, dass hochentwickelte KI-Systeme eine existenzielle Bedrohung für die Menschheit darstellen können. Allerdings ist wissenschaftlich umstritten, wie wahrscheinlich ein solches Szenario ist und wann entsprechende Systeme überhaupt entstehen könnten.
Die Warnungen renommierter Wissenschaftler wie Yoshua Bengio (ich habe ihn diese Woche selbst getroffen) und Geoffrey Hinton nehme ich sehr ernst. Der internationale KI-Sicherheitsbericht 2026 zeigt, dass die Fähigkeiten von KI-Systemen rasant zunehmen, während erhebliche Unsicherheiten hinsichtlich ihrer langfristigen Kontrollierbarkeit bestehen.
Technologischer Fortschritt darf niemals bedeuten, dass wir die Kontrolle über die Technologie verlieren. Wir brauchen unabhängige Sicherheitsforschung, verbindliche Sicherheitsprüfungen besonders leistungsfähiger KI-Modelle und internationale Zusammenarbeit. Mit dem europäischen AI Act haben wir hierfür eine gute Grundlage geschaffen, die wir angesichts der technologischen Entwicklung kontinuierlich überprüfen müssen.
Gleichzeitig sehe ich in künstlicher Intelligenz enorme Chancen für Medizin, Wissenschaft, Wirtschaft und unseren Alltag. Diese Chancen sollten wir nicht aus Angst verspielen. Aber wir dürfen Risiken auch nicht aus wirtschaftlichem Wettbewerbsdruck ignorieren.
Mein politischer Anspruch ist deshalb, Deutschland und Europa zu einem führenden Standort für leistungsfähige und sichere KI zu machen. Dabei muss stets der Mensch die letzte Verantwortung und Kontrolle behalten.
Mit freundlichen Grüßen
Henri Schmidt, MdB
Weitere Fragen an Henri Schmidt
Ich will die Pflegereform nicht verhindern, sondern verbessern: Pflege muss bezahlbar bleiben und die Versorgung langfristig gesichert werden.
Die GKV kostet jährlich rund 370 Mrd. Euro. Für Bürgergeldempfänger fehlen 12 Mrd. Euro. Der Bund muss diese Kosten langfristig vollständig übernehmen.
Ich habe zugestimmt, um Beiträge zu stabilisieren. Die Strukturreform folgt – nötig wegen Demografie und damit Arbeit bezahlbar bleibt.
Keine Interessenkonflikte, keine Enthaltungen und keine Bundesaufträge. Der Ausschuss selbst vergibt keine Aufträge an Unternehmen.