Welchen Beitrag kann Europa leisten, um die Risiken künstlicher Intelligenz unter Kontrolle zu bekommen? Wie setzen Sie sich hierfür ein?
Sehr geehrte Frau Demirel, die EU hat mit dem EU AI Act einen wichtigen Schritt in Richtung KI-Sicherheit gemacht. Aber die jüngsten Ereignisse haben gezeigt, dass das nicht ausreicht, um den Risiken wirklich entgegenzuwirken: wie Sie sicher wissen, gab es mehrere Vorfälle, bei denen KI-Modelle aus ihren Testumgebungen ausbrachen und vollautonome Hackingangriffe auf andere Unternehmen durchführten. Zum Teil war das durch die extreme Nachlässigkeit der betreffenden Unternehmen möglich. Aber es ist fraglich, ob sie ihre immer intelligenteren Systeme selbst mit perfekten Sicherheitsmaßnahmen unter Kontrolle behalten könnten. Immer deutlicher zeichnet sich ab, dass eine international koordinierte Verlangsamung oder Pause der Entwicklung nötig sein wird, um erst einmal zu erforschen, wie man KI-Systeme an menschlichen Werten ausrichtet und kontrolliert. Wie stehen Sie dazu, und welche Wege sehen Sie zu einer vernünftigeren Steuerung dieser Entwicklung?
Sehr geehrte Frau I.,
vielen Dank für Ihre Frage. Ich teile Ihre Auffassung, dass wir uns angesichts der rasanten Entwicklung künstlicher Intelligenz sehr ernsthaft mit der Frage beschäftigen müssen, wie wir auch künftig die Kontrolle über immer leistungsfähigere Systeme gewährleisten können.
Künstliche Intelligenz bietet große gesellschaftliche Möglichkeiten, wenn sie im Interesse der Menschen eingesetzt wird. Gleichzeitig birgt sie erhebliche Risiken. Sie kann bestehende Diskriminierung reproduzieren, zur Überwachung eingesetzt werden und menschliche Entscheidungen zunehmend durch undurchsichtige algorithmische Systeme ersetzen. Besonders kritisch sehe ich die Auswirkungen auf die Arbeitswelt, wenn KI zur Kontrolle von Beschäftigten oder zum Abbau von Arbeitsplätzen genutzt wird. Hinzu kommen Risiken im Gesundheitswesen, in den Medien sowie durch Überwachungs- und Waffensysteme.
Deshalb brauchen wir klare Grenzen, Transparenz und demokratische Kontrolle. Vor allem dürfen die Entscheidungen darüber, wie KI entwickelt und eingesetzt wird und welche Daten dafür genutzt werden, nicht einigen wenigen großen Technologiekonzernen überlassen werden. Technischer Fortschritt sollte nicht die Profite weniger Unternehmen steigern, sondern der Gesellschaft und den Menschen zugutekommen.
Ich halte daher eine international koordinierte Verlangsamung der Entwicklung besonders leistungsfähiger KI-Systeme für richtig. Das Tempo dieser Entwicklung darf nicht von Profitinteressen und dem internationalen Konkurrenzdruck zwischen Konzernen und Staaten bestimmt werden. Experten wie Stuart Russell warnen davor, dass immer leistungsfähigere Systeme entwickelt werden, bevor wir ausreichend verstanden haben, wie wir dauerhaft die Kontrolle über sie behalten können. Dabei geht es nicht um einen generellen Stopp der KI-Forschung, sondern darum, die Entwicklung besonders leistungsfähiger Systeme an überprüfbare Sicherheitsstandards zu knüpfen und international zu koordinieren. Dazu gehören unabhängige Sicherheitsprüfungen, Zulassungsverfahren für besonders leistungsfähige Systeme und verbindliche internationale Vereinbarungen.
Diese Warnungen müssen wir ernst nehmen. Denn am Ende sind es die Menschen, die die Folgen dieser Entwicklung tragen. Eine Verlangsamung kann uns die notwendige Zeit geben, ihre Rechte zu schützen und gesellschaftliche Regeln zu schaffen, bevor die technische Entwicklung Fakten schafft. Das betrifft den Schutz von Beschäftigten und Arbeitsplätzen ebenso wie Urheberrechte, Datenschutz und Cybersicherheit. Gleichzeitig müssen wir genügend Zeit haben, Risiken zu erforschen sowie technische Fehler und Sicherheitslücken zu erkennen und zu beheben.
Die EU sollte sich deshalb für verbindliche internationale Vereinbarungen einsetzen, die die Entwicklung besonders leistungsfähiger KI-Systeme an überprüfbare Sicherheitsstandards und unabhängige Kontrollen knüpfen. Gleichzeitig müssen wir als Gesellschaft darüber entscheiden können, wo und unter welchen Bedingungen wir KI einsetzen wollen und wo klare Grenzen notwendig sind. Die Entwicklung von KI muss demokratisch gestaltet werden und sich am Gemeinwohl orientieren. Nicht der Wettlauf um das leistungsfähigste System oder die Profitinteressen weniger Konzerne sollten das Tempo bestimmen, sondern die Frage, was den Menschen und der Gesellschaft zugutekommt.
Dafür werde ich mich weiterhin einsetzten.
Mit freundlichen Grüßen
Özlem Alev Demirel
Zum Nachlesen:
https://www.dielinkebt.de/themen/a-z/detailansicht/kuenstliche-intelligenz/
https://left.eu/dont-deregulate-ai-before-the-rules-even-apply/
https://www.theguardian.com/commentisfree/2026/aug/11/openai-anthropic-google-deepmind-letter
Weitere Fragen an Özlem Demirel
Ich verurteile den völkerrechtswidrigen Angriffskrieg Russlands gegen die Ukraine aufs Schärfste.
Die Kopplung des Renteneintrittsalters an die Lebenserwartung halte ich für eine weitere Scheinlösung, die die eigentlichen Probleme unseres Rentensystems nicht angeht
Der Einsatz von KI darf nicht dazu führen, dass Beschäftigte stärker überwacht, Arbeitsbedingungen verschlechtert oder Mitbestimmungsrechte ausgehebelt werden.
Unabhängig davon, wie man einzelne Betroffene oder ihre journalistische Arbeit bewertet, geht es hierbei um eine aktuelle Entwicklung, die äußerst gefährlich ist: Wenn exekutive Maßnahmen ohne ausreichende rechtliche Kontrolle eingesetzt werden, entsteht ein Klima der Einschüchterung, das auch über die konkret Betroffenen hinaus wirkt und Selbstzensur befördern kann.