Sehr geehrte Frau Becker, wie engagieren Sie sich für die weltweite internationale Zusammenarbeit im Umgang mit katastrophalen Risiken durch Künstliche Intelligenz? Welche Maßnahmen unterstützen Sie?

Sehr geehrte Frau I.,

ja, die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz stellen die Gesellschaft vor erhebliche Herausforderungen. Wie Sie richtig angemerkt haben, ist die KI bereits jetzt schon im militärischen Bereich ein zentraler Baustein bei der Entwicklung zukünftiger Waffensysteme. Die Bundeswehr plant für alle Teilstreitkräfte Beschaffungen autonomer Systeme, die auch KI-Elemente enthalten, sei es zur Aufklärung und Auswertung oder zur Bestimmung von Zielen und Kursvorgabe. Dies birgt ethische, aber auch konkrete Risiken. Hier muss der rechtliche Rahmen eng und deutlich abgesteckt werden.

Insgesamt ist unser Ansatz, dass KI nicht als Ersatz für den Menschen gedacht wird, um effizienter zu wirtschaften, sondern als weitere Technologie in einer digitalen Gesellschaft, die hilft, Wissen zu generieren, von Arbeit zu entlasten, und Teilhabe zu erleichtern. Um das gesellschaftliche Potenzial einer gemeinwohlorientierten KI zu entfalten, braucht KI mehr Grundlagenforschung und einen klaren Rechtsrahmen, vor allem in Bezug auf Fragen der Verantwortlichkeit und Haftungsfragen sowie Datenschutz und Datensicherheit. Verbindliche internationale Abkommen und ethische Grundlagen für den Einsatz von KI werden benötigt um ein Wettrennen zwischen den Staaten um die leistungsfähigste KI zu unterbinden.

Außerdem ergibt sich, dass die Daten, mit denen solche Systeme trainiert werden, meist gesellschaftliche Vorurteile enthalten. Diese werden dann nicht nur wiedergegeben, sondern sogar verstärkt. Wir kennen diverse Beispiele von Diskriminierungen durch KI-Anwendungen. Ein weiteres Risiko ist, dass KI häufig fehlerhafte Ergebnisse produziert. Diese „Halluzinationen“ führen zu weiterer Desinformation und verstärken sich durch das KI-Training an KI generierten Texten. 

KI-Entwicklung ist keine rein technischer Vorgang, sondern erfordert extrem viel menschliche Arbeit: Menschen, die in Ländern des globalen Südens, wie z.B. Kenia, Bilder labeln müssen: Straßenzüge für Navigations-KI genauso wie schlimmste Gewaltdarstellungen, die als solche gelabelt werden, damit diese später von einer KI erkannt und nicht ausgegeben werden. All dies tun sie in prekären Bedingungen, ohne psychologische Unterstützung 10 Stunden am Tag für 2 Dollar die Stunde. KI gefährdet damit unmittelbar die psychische Gesundheit von Menschen und führt globale Ausbeutungsstrukturen fort.

Zudem werden für das Training und den Einsatz von KI derzeit große Mengen an Strom und Wasser verbraucht. Daraus ergeben sich enorme Belastungen für die Umwelt, die in keinem Verhältnis zu dem von der Wirtschaft propagierten Nutzen stehen. 

Aus diesen Gründen fordern wir generell eine differenzierte Debatte, welche KI-Systeme für die Gesellschaft bei Berücksichtigung aller sozial-ökologischen Aspekte überhaupt sinnvoll und verträglich sind, und dass die Bundesregierung KI-Entwicklungen, die diesen Maßstäben nicht entsprechen, nicht weiter fördert.