Unterstützen Sie eine EU-weite KI-Risikostrategie, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrte Frau Noichl,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Für andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie wurden Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Anfrage.
Eine klare Antwort auf Ihre Frage – Ja, wir brauchen eine Europäische KI-Risikostrategie, eine weltweite Strategie wäre sogar noch besser.
Das Vorsorgeprinzip sollte bei der Regulierung der Entwicklung von KI angewandt werden, d.h. Maßnahmen können ergriffen werden, ohne dass erwiesen sein muss, dass die Gefahr tatsächlich eintritt, wenn eine hinreichende Wahrscheinlichkeit besteht, dass sie eintritt.
In nationalen Kompetenzbereichen sind nationale KI-Risikostrategien als Ergänzung zudem sinnvoll.
Wir als SPD befassen uns umfassend mit der von Ihnen genannten Szenerie AI 27. Als Hinweis: Wir hatten hierzu auch erst eine Veranstaltung mit WissenschaftleInnen, um für das Grundsatzprogramm Antworten zu finden.
Zum Schutz demokratischer Prozesse gegen KI ist der Digital Services Act (DAS) ein wichtiges Instrument. Mein CDU-Kollege Andreas Schwab hat Ihnen hierzu auf abgeordnetenwatch folgende Antwort geschrieben, die ich ebenfalls unterstütze:
"Plattformen und KI-Anbieter müssen stärker gegen KI-generierte Desinformation, Deepfakes und automatisierte Manipulationskampagnen vorgehen. Mit dem Digital Services Act verfügt die EU bereits über ein wichtiges Instrument gegen systemische Risiken auf großen Online-Plattformen. Der DSA verpflichtet insbesondere sehr große Plattformen dazu, Risiken wie Desinformation, koordinierte Manipulationskampagnen und KI-generierte Deepfakes zu analysieren und Gegenmaßnahmen zu ergreifen. Transparenzpflichten für Empfehlungsalgorithmen und Online-Werbung stärken zusätzlich die Nachvollziehbarkeit digitaler Einflussnahme. Diese Regeln müssen konsequent durchgesetzt und an neue KI-Entwicklungen angepasst werden."
Zum Thema Gefährliche KI Praktiken/ Kontrollverlust
Der AI-Act (oder: KI-Verordnung) ist bereits ein wichtiger Schritt. Die Verordnung regelt KI nach Risikokategorien. Bestimmte Anwendungen, wie zum Beispiel social scoring, Echtzeit Gesichtserkennung oder Nudifier sind dabei kategorisch verboten. Hochrisiko KI -Systeme müssen besondere Vorsichtsmaßnahmen treffen und menschliche Kontrolle sicherstellen.
Wenn wir unsere eigenen KI-Kapazitäten ausbauen, sind wir weniger abhängig von Lösungen aus dem EU-Ausland und können auch besser sicherstellen, dass unsere Gesetze eingehalten und durchgesetzt werden können.
Die EU Kommission hat zudem Anfang Juli einen Aktionsplan für Cybersicherheit vorgestellt: https://digital-strategy.ec.europa.eu/en/library/eu-action-plan-cybersecurity-and-artificial-intelligence
Mit freundlichen Grüßen
Maria Noichl, MdEP
Weitere Fragen an Maria Noichl
Als Europaabgeordnete ist es mir leider nicht möglich, mich an Abstimmungen im Deutschen Bundestag zu beteiligen. Dennoch ist mir die Thematik um das Rentenpaket natürlich sehr wichtig.
Ich verweise daher sehr gerne auf meinen SPD-Kollegen und amtierenden Vorsitzenden des Ausschusses für Arbeit und Soziales im Deutschen Bundestag, Herrn Bernd Rützel
Der Vorschlag, für die meisten Wirkstoffe eine unbefristete Zulassung zu erteilen, stellt eine gefährliche Abkehr von einer evidenzbasierten Regulierung dar
Patente auf konventionelle Züchtungsverfahren und natürlich vorkommende Genvarianten erschweren insbesondere kleinen und mittleren Pflanzenzuchtunternehmen den Zugang zu wichtigen genetischen Ressourcen.