Wie stehen Sie zur Prävention von Kontrollverlustrisiken im Zusammenhang mit KI?

Sehr geeherte Frau Vogtschmidt,

Als Softwareentwickler in einem großen IT-Unternehmen verfolge ich mit Bedenken, wie schnell KI Fortschritte macht, um große Teile meines Jobs zu automatisieren. Ich kann mir sehr gut vorstellen, dass schon in den nächsten Jahren sehr viele Jobs vollständig automatisiert sein werden. Das wird einen radikalen Einfluss haben auf unseren Arbeitsmarkt.

Jedoch noch bedenklicher finde ich das Risiko von einem vollständigen Kontrollverlust über fortgeschrittene KI, die intelligenter ist als wir Menschen. Davor warnen z.B. KI Experten wie Yoshua Bengio und Geoffrey Hinton.

https://red-lines.ai/

"We urgently call for international red lines to prevent unacceptable AI risks."

https://aistatement.com/

"Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."

https://superintelligence-statement.org/

"We call for a prohibition on the development of superintelligence ..."