Glauben Sie, dass die Entwicklung von immer fähigeren KI-Systemen eine existenzielle Bedrohung für die Menschheit darstellt?

Sehr geehrter Herr Plum,

Es ist das erklärte Ziel von führenden KI-Firmen wie Anthropic und OpenAI KI-Modelle herzustellen, die dem Menschen in allen kognitiven Fähigkeiten gleichwertig oder überlegen sein werden. Viele der im Feld Forschenden glauben, dass die derzeitige Dynamik in der KI-Forschung in den nächsten ein bis fünf Jahren zu solchen Systemen (Artifical General Intelligence) führen wird.

Währenddessen warnen viele hochangesehene Forscher (z.B. die Pioniere der KI-Forschung und Turing-Preisträger Yoshua Bengio und Geoffrey Hinton) seit Jahren vor den existenziellen Risiken für die Menschheit durch den Kontrollverlust an superintelligente KI-Systeme. Selbst in den KI-Laboren von Anthropic, OpenAI und Google Deepmind existiert diese Sorge wie Interviews mit einer steigenden Anzahl von Aussteigern aus diesen Firmen zeigen (zuletzt z.B. Jacob Coxon). Wir plädieren an die Politik diese Sorgen ernstzunehmen.