Welche konkreten Maßnahmen befürworten Sie, um potenzielle Risiken durch hochentwickelte KI-Systeme zu steuern?

Sehr geehrter Herr M.,  

KI-Systeme entwickeln sich rasant weiter, und es ist dringend notwendig, weltweit die politischen Weichen zu stellen, damit Sicherheitsstandards es überhaupt noch schaffen, mit den Fähigkeiten dieser Systeme mitzuhalten. Dass es hier um reale Risiken geht und nicht um Schwarzmalerei, zeigt sich auch daran, dass zuletzt erst die Chefs von OpenAI und Anthropic, offen vor den Gefahren ihrer eigenen Systeme gewarnt haben. Die Forderung nach verbindlichen Kontrollen und Sicherheitsstandards halten wir GRÜNE daher für berechtigt. Die EU setzt in meinen Augen mit dem EU AI Act an der richtigen Stelle an, dennoch gilt es den Umgang mit KI global zu regeln, um nicht viele verschiedenen Insellösungen für das gleiche Problem, die unkontrollierte Entwicklung, zu haben. Dort wo wir Grüne Einfluss nehmen können, also sowohl in der EU als auch in Bund und Ländern, setzen wir uns daher für umsetzbare, tragfähige Lösungen ein.

Konkret bedeutet das, dass es uns auf Bundes- und EU-Ebene vor allem um eine konsequente Umsetzung des EU AI Act geht und um verbindliche Sicherheitsstandards, bevor neue KI-Systeme überhaupt auf den Markt kommen. Außerdem möchten wir gezielt Alignment- und KI-Sicherheitsforschung als eigenes Forschungsfeld fördern und Whistleblower*innen aus der KI-Industrie, die auf Sicherheitsrisiken hinweisen, besser schützen. Von pauschalen Entwicklungsmoratorien halte ich dagegen eher wenig, weil die sich international kaum durchsetzen lassen und Risiken am Ende eher verlagern als lösen. Sinnvoller finde ich verbindliche und überprüfbare Sicherheitsschwellen, ähnlich den „Responsible Scaling Policies", nur eben gesetzlich verankert und nicht freiwillig. 

In Bayern soll die von uns Grünen geforderte “Task Force gegen Desinformation” auch KI-generierte Falschinformation und Deepfakes mit abdecken, auch das gehört für uns zum Themenfeld KI dazu. Außerdem wollen wir die öffentliche Beschaffung als Hebel nutzen. Bayern sollte beim Einsatz von KI in der eigenen Verwaltung selbst hohe Sicherheits-, Transparenz- und Auditstandards vorleben, statt einfach unregulierte Systeme einzukaufen. Auch der Ausbau unabhängiger Forschungskapazitäten an bayerischen Hochschulen zu KI-Sicherheit und -Governance ist uns wichtig.  

Unverständnis bereitete mir derzeit das absolute Vertrauen der Staatsregierung in KI, so plant Florian Herrmann im Rahmen des 5. Modernisierungsgesetzes den Einsatz von KI bei hoheitlichen Ermessensentscheidungen. Staatsminister Herrmann hat für den Einsatz von KI in der Verwaltung sogar spezifisch Fälle von Kindeswohlgefährdung als Beispiel herangezogen, was ich für fatal halte. Solche hochsensiblen Einzelfallabwägungen brauchen menschliches Urteilsvermögen und Verantwortung, denn die erfahrenen Fachkräfte in unseren Jugendämtern lassen sich durch keine KI ersetzen. 

KI bietet selbstverständlich enorme Chancen, für Wissenschaft, Verwaltung und Wirtschaft und ist nicht mehr wegzudenken, eher verantwortungsvoll auszubauen, aber es gilt natürlich, die überprüfbaren Sicherheitsschwellen, auf die sich in der EU geeinigt wurde, konsequent und zügig durchzusetzen und hierzu mit anderen Ländern in Absprache zu bleiben.
 
Mit besten Grüßen  

Johannes Becher