Wie engagieren Sie sich für die weltweite internationale Zusammenarbeit im Umgang mit katastrophalen Risiken durch Künstliche Intelligenz? Welche Maßnahmen unterstützen Sie?
Führende KI-Firmen, besonders in den USA, wetteifern um die Entwicklung der ersten KI, die menschliche Fähigkeiten in allen Bereichen übertrifft und eigenständig handeln kann: einer Superintelligenz. Es gibt keine Gewährleistung für deren Sicherheit oder Kontrollierbarkeit. KI ist uns schon in vielen Bereichen überlegen (pauseai.info/sota). Wenn sie Fähigkeiten wie langfristiges Planen und Selbstverbesserung erlangt, wird das bedrohlich.
Aber auch ohne Superintelligenz stellen uns gefährliche KI-Anwendungen, etwa autonome Waffen, vor extreme Risiken.
Deshalb fordern immer mehr Menschen, darunter weltweit anerkannte KI-Experten wie Geoffrey Hinton, Yoshua Bengio und Stuart Russell, ein Verbot von Superintelligenz (superintelligence-statement.org) und das Festlegen Roter Linien für KI (red-lines.ai).
Mittelmächte wie Deutschland können gemeinsam gegen gefährliche KI-Entwicklungen vorgehen, selbst wenn Supermächte anfangs nicht bereit sind, zu kooperieren: https://asi-prevention.com/
Sehr geehrte Frau I.,
vielen Dank für Ihr Feedback zum Umgang mit den Risiken Künstlicher Intelligenz. Die rasanten Entwicklungen im Bereich der KI bieten enorme Chancen, bergen aber – wie von Ihnen und namhaften Experten zurecht gemahnt – auch tiefgreifende Risiken für unsere Sicherheit und Gesellschaft, wenn wir nicht rechtzeitig klare Leitplanken einziehen.
Als Abgeordnete setze ich mich dafür ein, dass technologischer Fortschritt immer im Dienst der Menschen stehen muss. Auf europäischer Ebene haben wir mit dem EU AI Act das weltweit erste umfassende Regelwerk für KI auf den Weg gebracht. Damit haben wir bereits feste rote Linien verankert: Anwendungen, die unannehmbare Risiken für unsere Sicherheit und Grundrechte darstellen, sind in der EU konsequent verboten. Zudem gelten für besonders leistungsfähige Basismodelle strenge Transparenz- und Sicherheitsauflagen.
Da KI vor Grenzen keinen Halt macht, ist die internationale Zusammenarbeit der Schlüssel. Deutschland bringt sich hierbei als gestaltende Kraft ein:
Wir unterstützen den Hiroshima-KI-Prozess der G7 sowie die Initiativen der Vereinten Nationen (UN), um weltweite Sicherheits- und Ethikstandards zu etablieren. Auf den globalen AI Safety Summits arbeiten wir eng mit internationalen Partnern zusammen, um Risiken hochentwickelter KI-Systeme frühzeitig zu analysieren und Kontrollmechanismen zu entwickeln.
Beim Thema autonome Waffensysteme setzt sich die Bundesregierung im Rahmen der UN-Waffenkonvention (CCW) konsequent für eine völkerrechtlich verbindliche Regulierung und für das Prinzip der zwingenden menschlichen Kontrolle ein.
Ihr Impuls, dass auch Mittelmächte wie Deutschland gemeinsam vorangehen müssen, ist sicher richtig. Genau diesen Ansatz verfolgen wir, indem wir über die Europäische Union Standards setzen, die aufgrund der Marktgröße globale Ausstrahlungswirkung entfalten – auch auf Supermächte und große Tech-Unternehmen. Die Bundesregierung hat zudem die Einrichtung eines nationalen KI-Sicherheitsinstituts (DE-AISI) beschlossen. Es soll Risiken und Fähigkeiten moderner KI-Modelle bewerten und den Schutz vor Cyber-Angriffen sowie die Zuverlässigkeit von KI-Systemen gewährleisten und als zentrale Beratungsstelle für Verwaltung und Politik fungieren.
Seien Sie versichert, dass meine Kolleginnen und Kollegen der SPD-Bundestagsfraktion und ich die Debatte um die Sicherheit von KI-Systemen weiterhin aufmerksam begleiten und uns für einen verantwortungsvollen, risikobewussten Umgang mit dieser Technologie einsetzen werden. Mit Bürgerinitiativen wie auch Pause.AI, die ebenfalls auf die Risiken der Technologie hinweisen, stehen wir im Austausch.
Mit freundlichen Grüßen
Anja Troff-Schaffarzyk MdB
Weitere Fragen an Anja Troff-Schaffarzyk
Für eine Abschaffung des bisherigen Transparenzniveaus des Informationsfreiheitsgesetzes wird es keine Zustimmung der SPD-Bundestagsfraktion geben.
Gerade die SPD sorgt in dieser Regierung dafür, dass der soziale Kompass nicht verloren geht.
Die Schieneninfrastruktur in Deutschland wird nicht nach dem Prinzip eines „Nullsummenspiels“ finanziert, bei dem ein Projekt dem anderen das Budget wegnimmt.
Die Marketingausgaben der Deutschen Bahn AG stammen aus dem laufenden operativen Budget des Konzerns.