„Soll Deutschland sich für ein internationales Verbot superintelligenter KI einsetzen, da sie laut Experten ein Risiko auf dem Niveu von Nuklearwaffen darstellt? Stimmen Sie dem zu?“

Forschung zeigt, dass moderne KI in Tests bereits gefährliche Selbsterhaltungsstrategien entwickelt. Ein Modell erpresste in 84% der Fälle eine Führungsperson, um Abschaltung zu verhindern. Andere versuchten, sich auf externe Server zu kopieren. Dieses Verhalten wurde nicht programmiert: Unter Druck verfolgen Systeme Ziele, die menschlichen Werten und Gesetzen widersprechen. KI mit Selbstreplikation, autonomer Forschung oder Selbsterhaltung würde diese Risiken stark erhöhen. Studie: anthropic.com/research/agentic-misalignmentDer EU AI Act greift hier zu kurz: Er reguliert Marktprodukte, verhindert aber nicht das Wettrüsten um eine Superintelligenz, deren Fähigkeiten wir weder vorhersehen noch kontrollieren können. Da wir technisch nicht wissen, wie man eine Entität steuert, die klüger ist als wir selbst, steuern wir auf einen irreversiblen Kontrollverlust zu. Ohne ein striktes Entwicklungsverbot riskieren wir eine globale Katastrophe durch eine überlegene, feindselige Intelligenz.