Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Sehr geehrte Frau Mertens,
als KI-Forscherin mit drei Jahren Erfahrung in der Evaluation von KI-Verhalten sehe ich, gestützt u.a. auf das Szenario „AI 2027" (ai2027.com), dringenden Handlungsbedarf in drei Bereichen:
1. Kontrollverlust: KI-Systeme könnten Fähigkeiten erlangen, die wir nicht mehr steuern können.
2. Massenarbeitslosigkeit: Automatisierung verdrängt Berufsfelder schneller, als Sozialsysteme reagieren können.
3. Polarisierung: KI-Desinformation destabilisiert demokratische Prozesse; Chatbots verstärken dies durch unkritisches Zustimmen.
Andere sicherheitskritische Technologien wie Kernenergie und Biotechnologie haben Risikominderungsstrategien entwickelt, bevor Katastrophen eintraten. Bei KI fehlt das auf nationaler wie EU-Ebene.
Unterstützen Sie eine EU-weite KI-Risikostrategie, die diese Szenarien adressiert, sowie eine ergänzende nationale Strategie? Welche konkreten Schritte planen Sie in dieser Legislaturperiode?
Mit freundlichen Grüßen, K. W.
Sehr geehrte Frau W.,
vielen Dank für Ihre Nachricht und dafür, dass Sie Ihre fachliche Perspektive als KI-Forscherin in die politische Debatte einbringen. Ihre Hinweise auf mögliche Risiken fortschrittlicher KI-Systeme, vom Kontrollverlust über tiefgreifende Veränderungen am Arbeitsmarkt bis hin zu Desinformation und gesellschaftlicher Polarisierung, zeigen sehr deutlich, dass die Entwicklung Künstlicher Intelligenz nicht nur eine technologische, sondern auch eine demokratische und gesellschaftliche Herausforderung ist.
Gerade weil KI enorme Chancen für Medizin, Forschung, Wirtschaft und öffentliche Verwaltung bietet, ist es wichtig, Risiken frühzeitig ernst zu nehmen und geeignete Schutzmechanismen aufzubauen. Ihr Vergleich mit anderen sicherheitskritischen Technologien wie der Kernenergie oder der Biotechnologie macht deutlich, dass verantwortungsvolle Innovation immer auch vorausschauende Regulierung und Risikomanagement erfordert.
Ich unterstütze deshalb grundsätzlich einen europäischen Ansatz für KI-Sicherheit und KI-Governance. Mit dem europäischen AI Act hat die EU bereits einen weltweit beachteten ersten Rechtsrahmen geschaffen, der insbesondere Hochrisiko-Anwendungen strengeren Anforderungen unterwirft und Transparenz- sowie Sicherheitsstandards festlegt. Aus Sicht der EVP ist dabei entscheidend, dass Europa einen ausgewogenen Weg verfolgt: Wir müssen Risiken wirksam begrenzen, ohne Innovation, Forschung und Wettbewerbsfähigkeit unnötig auszubremsen.
Für diese Legislaturperiode sehe ich insbesondere folgende Schwerpunkte:
· eine konsequente und praxistaugliche Umsetzung des AI Acts mit klaren Zuständigkeiten und wirksamer Aufsicht,
· stärkere Investitionen in europäische KI-Forschung und vertrauenswürdige KI „Made in Europe“,
· den Ausbau von Forschung zu KI-Sicherheit, Robustheit und Kontrollmechanismen,
· mehr Transparenzpflichten und Maßnahmen gegen KI-gestützte Desinformation, insbesondere im Kontext von Wahlen und demokratischen Prozessen,
· europäische Strategien für Weiterbildung, Qualifizierung und Anpassung der Arbeitsmärkte an den technologischen Wandel,
· sowie eine engere Zusammenarbeit zwischen EU, Mitgliedstaaten, Wissenschaft und Industrie bei der Bewertung langfristiger Risiken fortgeschrittener KI-Systeme.
Darüber hinaus halte ich es für sinnvoll, dass die Mitgliedstaaten ergänzende nationale Strategien entwickeln, etwa zur Cybersicherheit, zur Resilienz staatlicher Institutionen und zur Förderung von Medienkompetenz. Gleichzeitig sollte vermieden werden, dass innerhalb Europas viele unterschiedliche nationale Regelungen entstehen, die Innovation erschweren und den europäischen Binnenmarkt fragmentieren.
Die Diskussion über langfristige KI-Risiken wird in den kommenden Jahren weiter an Bedeutung gewinnen. Deshalb ist der Austausch mit Wissenschaftlerinnen und Wissenschaftlern wie Ihnen besonders wichtig, um politische Entscheidungen faktenbasiert und verantwortungsvoll zu gestalten.
Vielen Dank nochmals für Ihre Nachricht und Ihr Engagement zu diesem wichtigen Thema.
Verena Mertens
Weitere Fragen an Verena Mertens
Wir haben also weiterhin die Möglichkeit, einen besonders schnellen Anstieg abzumildern – und damit die Chancen zu erhöhen, dass Küstenschutzmaßnahmen langfristig ausreichen.
Wie bereits zu Ihrer früheren Frage mitgeteilt, ist es nicht meine Aufgabe, einzelne Rechtsgutachten in diesem Kontext zu bewerten.
Ich komme aus der inneren Sicherheit – und ich bin überzeugt, dass Datenschutz nie zum Schutzschild für Straftäter werden darf.
Ebenso halte ich die Anwendung des Europäischen Rechtsrahmens durch Europäische Kommission und Mitgliedsstaaten in diesem Bereich weiterhin für sinnvoll.