Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrter Herr McAllister,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Anfrage vom 12. Mai, die ich sorgfältig gelesen habe.
Die Europäische Union hat mit dem AI Act bereits einen wichtigen regulatorischen Rahmen geschaffen. Der europäische Ansatz verfolgt bewusst das Ziel, Innovation und technologische Entwicklung mit klaren Regeln für Hochrisiko-Anwendungen zu verbinden.
Europa muss im globalen Wettbewerb um künstliche Intelligenz seine technologische Souveränität stärken. Künstliche Intelligenz (KI) wird erhebliche Auswirkungen auf wirtschaftliche Wettbewerbsfähigkeit, industrielle Wertschöpfung, Sicherheitspolitik und geopolitischen Einfluss haben. Deshalb ist es in unserem europäischen Interesse, eigene leistungsfähige KI-Modelle, Rechenkapazitäten und Forschungsstrukturen aufzubauen und Abhängigkeiten von Drittstaaten zu verringern.
In der politischen Debatte wird daher zunehmend betont, dass das vereinte Europa nicht nur regulieren, sondern auch innovieren muss. Dazu gehören Investitionen in Recheninfrastruktur, die Förderung europäischer KI-Start-ups und Open-Source-Lösungen, die Gewinnung von Fachkräften sowie ein verantwortungsvoller Umgang mit sensiblen Daten und sicherheitsrelevanten Anwendungen. Ergänzend halte ich nationale Strategien für sinnvoll, insbesondere im Bereich Bildung, Weiterbildung, Forschung zu KI-Sicherheit sowie beim Schutz öffentlicher Debatten und demokratischer Institutionen vor KI-gestützter Manipulation.
In dieser Legislaturperiode wird es aus meiner Sicht darauf ankommen, den europäischen Rechtsrahmen praktikabel umzusetzen, gleichzeitig aber Innovations- und Wettbewerbsfähigkeit gezielt zu stärken. Erforderlich ist ein ausgewogener Ansatz, der Chancen nutzt, Risiken begrenzt und demokratische Kontrolle sichert.
Weiterführende Informationen zum europäischen KI-Ansatz finden Sie unter:
- AI-Act der Europäischen Union: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- Europäischer Ansatz für künstliche Intelligenz: https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence
Mit freundlichen Grüßen
David McAllister
Weitere Fragen an David McAllister
Sanktionen dienen in diesem Kontext außen- und sicherheitspolitischen Zielen und werden auf Basis entsprechender Beschlüsse und Verordnungen erlassen. Dabei ist vorgesehen, dass betroffene Personen Rechtsmittel einlegen und die Maßnahmen durch unabhängige Gerichte überprüfen lassen können.
Die Europäische Union soll Vorbild für die Welt sein. Das funktioniert, wenn wir Klimaschutz mit Wohlstand verbinden können. Dafür werde ich mich im Europäischen Parlament weiterhin einsetzen.
Die Europäische Union nimmt den Schutz kritischer Netze sehr ernst. Die zuständigen nationalen Behörden in Deutschland klären den genauen Sachverhalt rechtlich auf. Die Ermittlungen des Generalbundesanwalts dauern noch an. Es gilt, die endgültigen Ergebnisse dieser Untersuchungen abzuwarten.
Die Europäische Union steht für die Werte von Demokratie, Menschenrechte und Rechtsstaatlichkeit. Vor diesem Hintergrund ist es Aufgabe der Europäischen Union, Entwicklungen aufmerksam zu beobachten, rechtlich zu bewerten und dort, wo Grenzen des Völkerrechts überschritten werden, dies auch klar zu benennen.