Unterstützen Sie eine EU-weite KI-Risikostrategie, sowie eine nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrter Dr. Reinhard Brandl,
als KI-Ingenieur sehe ich, gestützt u.a. auf "AI 2027" (ai-2027.com), dringenden Handlungsbedarf in 4 Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
4. Missbrauchsrisiken: KI senkt die Hürde für ausgefeilte Cyberangriffe drastisch und könnte die Entwicklung gefährlicher Waffen, einschliesslich biologischer, beschleunigen.
Für andere Risikotechnologien wurden Strategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene. Unterstützen Sie eine EU-weite KI-Risikostrategie für diese Szenarien sowie eine nationale Strategie? Welche konkreten Schritte planen Sie?
Mit freundlichen Grüßen
A. S
Sehr geehrter Herr S.,
vielen Dank für Ihre Frage vom 13. Mai 2026 zur Künstlichen Intelligenz (KI). Diese bietet erhebliche Chancen für unseren Wohlstand. Wir können für viele Herausforderungen durch Innovation neue Lösungen finden. Gleichzeitig birgt die KI auch Risiken, die frühzeitig erkannt und wirksam begrenzt werden müssen. Ich persönlich sehe aber eher die Chancen, die wir nutzen sollten.
Unabhängig von dieser Abwägung zwischen Risiko und Chance habe ich aber eine andere Sorge: Egal, ob man sich für mehr oder weniger Regulierung entscheidet - wir kommen mit unseren politischen Prozessen der schnellen Entwicklung der KI kaum hinterher. Ich darf als Beispiel das Freihandelsabkommen Mercosur nennen. Hier haben die Verhandlungen je nach Zählweise 20 bzw. 25 Jahre gedauert. Das ist ein Extrembeispiel, aber selbst wenn wir "nur" fünf Jahre verhandeln, entwickelt sich die KI in dieser Zeit um mehrere Generationen weiter. Und auf weltweite Regeln werden wir uns ohnehin kaum einigen können.
Zu den von Ihnen genannten vier Themenfeldern kann ich Ihnen konkret antworten:
1. Kontrollverlust und Sicherheit fortgeschrittener KI-Systeme
Die Bundesregierung unterstützt Forschung zu KI-Sicherheit und -kontrollierbarkeit. Insbesondere bei sehr leistungsfähigen KI-Modellen müssen Verfahren entwickelt werden, die Transparenz, Überprüfbarkeit und menschliche Aufsicht gewährleisten. Auf europäischer und internationaler Ebene setzen wir uns für eine enge Zusammenarbeit bei der Bewertung potenzieller Risiken hochentwickelter KI-Systeme ein.
2. Auswirkungen auf den Arbeitsmarkt
Der technologische Wandel wird zahlreiche Berufsbilder verändern. Hier müssen wir die Beschäftigten unterstützen. Wir brauchen entsprechende Weiterbildung und Qualifizierung. Gleichzeitig beobachten wir die Auswirkungen von KI auf den Arbeitsmarkt fortlaufend, um gegebenenfalls sozial- und arbeitsmarktpolitische Maßnahmen anzupassen.
3. Desinformation und Schutz demokratischer Prozesse
Der Einsatz von KI zur Erzeugung von Desinformation stellt eine wachsende Herausforderung dar. Hier brauchen wir Transparenzpflichten beispielsweise für die Betreiber sozialer Netze mit Kennzeichnungsmöglichkeiten für KI-generierte Inhalte. Außerdem müssen wir die Resilienz demokratischer Institutionen gegen digitale Manipulation stärken. Medienkompetenz und die Förderung unabhängiger Informationsangebote spielen dabei ebenfalls eine wichtige Rolle.
4. Missbrauchsrisiken im Cyber- und Sicherheitsbereich
Unsere Behörden beobachten die immer stärkere Nutzung von KI durch staatliche und nichtstaatliche Akteure für Cyberangriffe oder andere sicherheitsrelevante Zwecke. Die Bundesregierung investiert in die Stärkung der Cybersicherheit, fördert Forschung zu sicheren KI-Systemen und unterstützt internationale Initiativen zur Begrenzung besonders gefährlicher Anwendungen.
Um all diese Dinge künftig noch besser einschätzen zu können, hat die Bundesregierung im Nationalen Sicherheitsrat am 10. Juni 2026 die Gründung eines KI-Sicherheitsinstituts beschlossen. Dieses soll die Kapazitäten zur Analyse der Fähigkeiten moderner KI-Modelle inklusive ihrer Risiken bündeln. Außerdem wird sich das Institut auch mit internationalen Partnern austauschen und vernetzen: https://www.deutschlandfunk.de/bundesregierung-gruendet-sicherheitsinstitut-fuer-ki-100.html
Sehr geehrter Herr S., auch ich sehe die Notwendigkeit, Risiken fortgeschrittener KI systematisch zu analysieren und Vorsorgemaßnahmen kontinuierlich weiterzuentwickeln. Dabei wird Deutschland eng mit den europäischen Institutionen sowie internationalen Partnern zusammenarbeiten. Ziel ist ein kohärenter Ansatz, der sowohl die Chancen der Technologie nutzt als auch Sicherheits-, Wirtschafts- und Gesellschaftsrisiken angemessen berücksichtigt. Ein nationaler Alleingang beim Thema KI wird uns sicher nicht helfen. Das Ziel kann nicht sein, dass das deutsche Alleinstellungsmerkmal bei KI die weltweit strengste Regulierung ist.
Mit besten Grüßen
Reinhard Brandl
Weitere Fragen an Reinhard Brandl
Die angesprochenen Gesichtspunkte beim Erwerb von Immobilien sind bereits geltende Rechtslage.
Für integrierte Zugewanderte gibt es bereits regeln. Wo der Aufenthaltsgrund komplett wegfällt, muss die Abschiebung möglich sein - auch nach Syrien.
Die Beratung hierzu findet auf EU-Ebene statt. Die Union lehnt anlasslose Kontrolle digitaler Kommunikation ab. Das ist auch Haltung der Bundesregierung.
Wahlprüfung und erste Zusammenkunft des Bundestages stehen nicht in Zusammenhang.