Welchen Beitrag kann Europa leisten, um die Risiken künstlicher Intelligenz unter Kontrolle zu bekommen? Wie setzen Sie sich hierfür ein?
Sehr geehrte Frau Neumann, die EU hat mit dem EU AI Act einen wichtigen Schritt in Richtung KI-Sicherheit gemacht. Aber die jüngsten Ereignisse haben gezeigt, dass das nicht ausreicht, um den Risiken wirklich entgegenzuwirken: wie Sie sicher wissen, gab es mehrere Vorfälle, bei denen KI-Modelle aus ihren Testumgebungen ausbrachen und vollautonome Hackingangriffe auf andere Unternehmen durchführten. Zum Teil war das durch die extreme Nachlässigkeit der betreffenden Unternehmen möglich. Aber es ist fraglich, ob sie ihre immer intelligenteren Systeme selbst mit perfekten Sicherheitsmaßnahmen unter Kontrolle behalten könnten. Immer deutlicher zeichnet sich ab, dass eine international koordinierte Verlangsamung oder Pause der Entwicklung nötig sein wird, um erst einmal zu erforschen, wie man KI-Systeme an menschlichen Werten ausrichtet und kontrolliert. Wie stehen Sie dazu, und welche Wege sehen Sie zu einer vernünftigeren Steuerung dieser Entwicklung?
Sehr geehrte Karen I.,
Vielen Dank für Ihre Frage.
Ich teile Ihre Sorge, dass die Entwicklung künstlicher Intelligenz immer schneller voranschreitet, während wir noch längst nicht alle damit verbundenen Risiken verstehen oder kontrollieren können. Besonders problematisch finde ich, dass die Unternehmen, die diese Systeme entwickeln, bislang in weiten Teilen selbst für deren Sicherheitsprüfung verantwortlich sind. Es braucht klare staatliche Regeln, unabhängige Kontrollen und Konsequenzen, wenn Sicherheitsvorgaben nicht eingehalten werden.
Der AI Act war dafür ein wichtiger erster Schritt. Er hat gezeigt, dass Europa bereit ist, KI an Grundrechten und menschlicher Kontrolle auszurichten. Aber er entstand zu einer Zeit, als autonom agierende Systeme noch nicht im Mittelpunkt standen. Deshalb setzen wir Grüne uns dafür ein, dass die bestehenden Vorgaben konsequent durchgesetzt werden und europäische Aufsichtsbehörden die notwendigen Befugnisse und Ressourcen erhalten. Besonders leistungsfähige Modelle müssen unabhängig auf ihre Risiken geprüft werden können. Es darf nicht allein den Unternehmen überlassen bleiben, zu beurteilen, ob ihre eigenen Systeme sicher sind.
Ihren Vorschlag einer Entwicklungspause kann ich vor diesem Hintergrund gut nachvollziehen. Die entscheidende Frage ist für mich allerdings, wie sich eine solche Pause weltweit verbindlich durchsetzen ließe. Wenn sich nur einzelne Staaten oder Unternehmen daran halten, während andere unkontrolliert weitermachen, wäre für die Sicherheit wenig gewonnen. Für sinnvoller halte ich deshalb verbindliche internationale Sicherheitsstandards und unabhängige Prüfungen, bevor besonders risikoreiche Systeme freigegeben werden dürfen. Europa kann hier mit seinem Binnenmarkt eine wichtige Vorreiterrolle einnehmen.
Mein eigener Schwerpunkt liegt in der Außen- und Sicherheitspolitik, und dort sehe ich KI zunehmend als Sicherheitsfrage. Autonome Cyberangriffe können Krankenhäuser, Energieversorgung und staatliche Verwaltung gefährden, und sie machen an Landesgrenzen nicht Halt. Deshalb halte ich es für wichtig, dass die europäischen Staaten bei der Abwehr zusammenarbeiten und Erkenntnisse über Bedrohungen schneller teilen. Dafür möchte ich mich auch weiterhin einsetzen. Unsere Grundrechte und demokratischen Werte müssen auch im digitalen Raum gelten.
Mein Kollege Sergey Lagodinsky begleitet die konkrete Ausgestaltung der europäischen KI-Gesetzgebung für unsere Fraktion Greens/EFA. Bei weiterführenden Fragen zu den einzelnen Regelungen können Sie sich daher auch gerne auch an ihn wenden.
Mit freundlichen Grüßen,
Hannah Neumann
