Guten Tag Herr Stegner, wie engagieren Sie sich für die weltweite internationale Zusammenarbeit im Umgang mit katastrophalen Risiken durch Künstliche Intelligenz? Welche Maßnahmen unterstützen Sie?
Führende KI-Firmen, besonders in den USA, wetteifern um die Entwicklung der ersten KI, die menschliche Fähigkeiten in allen Bereichen übertrifft und eigenständig handeln kann: einer Superintelligenz. Es gibt keine Gewährleistung für deren Sicherheit oder Kontrollierbarkeit. KI ist uns schon in vielen Bereichen überlegen (pauseai.info/sota). Wenn sie Fähigkeiten wie langfristiges Planen und Selbstverbesserung erlangt, wird das bedrohlich.
Aber auch ohne Superintelligenz stellen uns gefährliche KI-Anwendungen, etwa autonome Waffen, vor extreme Risiken.
Deshalb fordern immer mehr Menschen, darunter weltweit anerkannte KI-Experten wie Geoffrey Hinton, Yoshua Bengio und Stuart Russell, ein Verbot von Superintelligenz (superintelligence-statement.org) und das Festlegen Roter Linien für KI (red-lines.ai).
Mittelmächte wie Deutschland können gemeinsam gegen gefährliche KI-Entwicklungen vorgehen, selbst wenn Supermächte anfangs nicht bereit sind, zu kooperieren: https://asi-prevention.com/
Sehr geehrte Frau I.,
vielen Dank für Ihre Frage. Künstliche Intelligenz eröffnet zum einen natürlich große Chancen für Wissenschaft, Medizin, Wirtschaft und Gesellschaft. Gleichzeitig wirft sie aber auch wichtige Fragen für unsere Demokratie, Sicherheit und Grundrechte auf. Deshalb beschäftigen wir uns in der SPD-Bundestagsfraktion intensiv mit den Chancen und Risiken dieser Technologie. Die von Ihnen angesprochenen Risiken einer möglichen Superintelligenz sollten aus meiner Sicht ernst genommen werden. Führende Wissenschaftlerinnen und Wissenschaftler weisen darauf hin, dass immer leistungsfähigere KI-Systeme langfristig Risiken mit sich bringen könnten, die wir heute noch nicht vollständig abschätzen können. Zwar gibt es bislang keinen wissenschaftlichen Konsens darüber, ob und wann eine solche Entwicklung eintreten wird. Dennoch halte ich es für richtig, nach dem Vorsorgeprinzip zu handeln. Bevor immer leistungsfähigere Systeme entwickelt und eingesetzt werden, müssen Fragen der Sicherheit, Kontrollierbarkeit und demokratischen Aufsicht ausreichend geklärt sein.
Ich bin überzeugt, dass wir die Entwicklung von KI aktiv gestalten müssen. Sie darf nicht allein von wirtschaftlichen Interessen oder dem globalen Wettbewerb um technologische Führungspositionen bestimmt werden. Technischer Fortschritt muss den Menschen dienen, demokratisch kontrollierbar bleiben und sich am Gemeinwohl orientieren. Deshalb setze ich mich für klare Regeln beim Einsatz von KI ein. Mit dem europäischen AI Act hat die Europäische Union weltweit eine Vorreiterrolle übernommen. Der risikobasierte Ansatz sorgt dafür, dass besonders gefährliche Anwendungen verboten werden, etwa KI-Systeme zur Manipulation von Menschen oder Social Scoring. Für Hochrisiko-Systeme gelten dabei strenge Anforderungen. Gleichzeitig werden Transparenzpflichten eingeführt, damit KI-generierte Inhalte erkennbar bleiben. Diesen Ansatz, Innovation zu ermöglichen und zugleich Grundrechte zu schützen, unterstütze ich ausdrücklich. Genauso wichtig ist mir aber auch die internationale Zusammenarbeit in dieser Sache. KI macht nicht an Staatsgrenzen halt. Deshalb brauchen wir gemeinsame Regeln und Standards, die über Europa hinaus wirken. Bei besonders risikoreichen Entwicklungen kann es sogar sinnvoll sein, das Tempo zu reduzieren, bis Fragen der Sicherheit, Kontrollierbarkeit und Regulierung ausreichend geklärt sind. Der technische Fortschritt darf nicht vor den Rechten der Menschen stehen.
Mit freundlichen Grüßen
Ralf Stegner
Weitere Fragen an Ralf Stegner
Ich setze mich dafür ein, dass Kontrollen nicht erst am Endprodukt, sondern schon bei Zwischenhändlern und Re-Exporten ansetzen, und dass die EU ihre Sanktionslisten enger mit den Erkenntnissen aus solchen Drohnen-Analysen abgleicht
Als Junior-Partner der Union in der aktuellen Regierungskoalition müssen wir derzeit eine Reihe von Kompromissen eingehen, die schwierig, teilweise auch schmerzhaft sind. Gleichzeitig ist die schwarz-rote Koalition die einzige Möglichkeit, im Parlament demokratische Mehrheiten herzustellen. Deswegen wäre ihr Scheitern katastrophal.
In der SPD-Fraktion ist uns klar, dass im Bereich der früheren Verrentungen Vertrauensschutz gilt und Übergangszeiten über mehrere Jahre (unsere Fraktions-Fachleute sprechen von fünf bis zehn Jahren) kommen müssen
Ich bin sowohl mit Praxen aus dem Kreis Pinneberg als auch mit meinen zuständigen Fachkolleginnen und -kollegen im Austausch