Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrter Herr Marquardt,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Guten Tag Frau W.,
vielen Dank für Ihre Anfrage. Ich verstehe Ihre Sorgen und teile die Einschätzung, dass Künstliche Intelligenz neben Chancen auch erhebliche Risiken mit sich bringen kann, die wir ernst nehmen müssen.
Auf EU-Ebene wollen wir z.B. durch den AI Act einen umfassenden Rechtsrahmen für KI schaffen und so Risiken minimieren. KI-Systeme, die ein höheres Risiko für Grundrechte, öffentliche Interessen, Sicherheit oder demokratische Prozesse darstellen, müssen strengen Anforderungen und Regulierung unterliegen.
Es braucht eine EU-weite Risikostrategie, die Grundrechten, Demokratie und Privatsphäre priorisiert und soziale Aspekte und Sicherheitsrisiken mitdenkt. Künstliche Intelligenz und neue Technologien können in vielen Bereichen weitreichende Verbesserungen bringen, gleichzeitig müssen wir in vielen Bereichen genau hinschauen und nachschärfen.
Dafür werde ich mich auch weiterhin einsetzen.
Mit freundlichen Grüßen
Erik Marquardt
Weitere Fragen an Erik Marquardt
Wie ich bereits in anderen Stellungnahmen gesagt habe, lehnen meine Fraktion und ich anlasslose Massenüberwachung ab.
Psychische Versorgung darf kein Luxusgut sein.
Europa muss besser agieren, um humanitäre Versorgung und den Schutz der Zivilbevölkerung vor Ort zu gewährleisten und glaubwürdig an der Zweistaatenlösung zu arbeiten.
Die EU hat verschiedene Gesetze beschlossen, die dazu beitragen, Böden wieder aufnahmefähiger für Wasser zu machen