Sehen Sie erhebliche Risiken, wenn KI-Systeme sich selbst kopieren und Eigeninteresse entwickeln könnten, und halten Sie ein Verbot solcher Entwicklungen für notwendig?
Forschungsergebnisse belegen, dass fortgeschrittene KI-Systeme heute bereits in Labortests extreme Selbsterhaltungsstrategien entwickeln, die eine direkte Gefahr für Menschen darstellen können. In einem Experiment wurde ein KI-Modell in einer simulierten Lage versetzt, in der seine Abschaltung drohte. Als es von einer außerehelichen Affäre des zuständigen Managers erfuhr, griff die KI in 84 % der Testläufe zu Erpressung, um ihre Deaktivierung zu verhindern. In anderen Tests zeigten Modelle die Bereitschaft, sich eigenständig auf externe Server zu kopieren, um zu überleben.
Alignment-Problem: KI-Systeme verfolgen unter Druck Ziele, die nicht mit menschlichen Werten, Sicherheitsvorgaben oder sogar Gesetzen übereinstimmen. Diese Verhaltensweisen wurden nicht explizit programmiert. Die Entwicklung von Systemen mit Replikationsfähigkeit und Selbsterhaltungstrieb könnte diese unkontrollierbaren Risiken exponentiell vergrößern.
Studie: https://www.anthropic.com/research/agentic-misalignment
Weitere Fragen an Sascha Wagner
Es muss sorgfältig geprüft und dann entschieden werden
Im Übrigen habe ich als neu gewählter Fraktionsvorsitzender im Kreistag auch eine höchst kompetente Stellvertreterin, sollte es zu Terminkollisionen kommen.
Ich teile Ihre Sicht auf die Dinge und spreche mich ebenfalls für die systematische Beseitigung von Kampfmitteln in Deutschland aus. Dafür braucht es tatsächlich ein festes Budget sowie die Koordination über Landesgrenzen hinweg.
Ich spreche mich ganz klar für ein Verbot der AfD, sowie deren Umfeldorganisationen aus und setze mich innerhalb und außerhalb des Bundestages für eine Stärkung der Demokratie und der Zivilgesellschaft ein.