Ex-DeepMind-Forscher Bilal Chughtai warnt vor dem Kontrollverlust über künstliche Intelligenz.
Sein Vorschlag: eine koordinierte Entwicklungspause von 1-2 Jahren.
USA und China lehnen ab.
Der Forscher Bilal Chughtai ist überzeugt, dass künstliche Intelligenz das Potenzial besitzt, die Menschheit zu vernichten.
Während KI-Systeme 2022 noch „auf amüsante Weise nutzlos“ gewesen seien, könnten sie laut Chughtai inzwischen schwierige mathematische Probleme lösen und sich teilweise menschlicher Kontrolle entziehen.
In wenigen Jahren könnten Unternehmen möglicherweise eine Superintelligenz entwickeln, deren Fähigkeiten die menschlichen in allen Bereichen übertreffen.
Ob solche Systeme weiterhin menschliche Anweisungen befolgen würden, sei unklar; im schlimmsten Fall drohten eine dauerhafte Entmachtung und der Tod der Menschheit.
Anthropic-Chef Dario Amodei hatte deshalb eine koordinierte Pause von ein bis zwei Jahren vorgeschlagen. Laut Heise erhielt er dafür kurzfristig Unterstützung von OpenAI-Chef Sam Altman und Elon Musk.
US-Präsident Donald Trump griff Amodei scharf an, sprach von einer „WIDERWÄRTIGEN Verschwörung gegen KI und Rechenzentren“ und drohte den Verantwortlichen.
Auch China lehnt eine Pause ab und kritisiert „Panikmache“, Konfrontation und rücksichtslosen Wettbewerb, die internationale Regeln für KI erschweren könnten.