Anthropic fordert eine weltweite Pause bei der KI-Entwicklung.
Der Grund: Gesellschaft und Sicherheitsforschung kommen nicht mehr mit.
Besonders gefürchtet ist die sogenannte rekursive Selbstoptimierung – der Punkt, an dem KI eigenständig neue KI entwickelt und Menschen die Kontrolle verlieren.
Der Zeitpunkt ist auffällig. Anthropic steht kurz vor dem Börsengang.
80 Prozent des Codes bei Anthropic schreibt heute die KI „Claude“.
Im Februar 2025 war es noch ein einstelliger Prozentwert.
Ende 2025 galt Claudes Code noch als schlechter als menschlicher.
Heute ist er gleichauf.
Wenn er besser wird, schreiben Menschen keinen Code mehr.
Sie prüfen nur noch. Und dann wird das Prüfen zum Engpass.
Ob der Aufruf Wirkung zeigt, ist offen.
Vor diesem Hintergrund fordert Anthropic eine globale Koordinierung: eine überprüfbare Verlangsamung KI-Entwicklung, der alle großen Akteure gemeinsam zustimmen müssen.
Der Kern der Befürchtung ist die rekursive Selbstoptimierung – KI, die eigenständig neue KI entwickelt, bis Menschen die Kontrolle verlieren.
Der Aufruf kommt kurz vor dem geplanten Börsengang.
Ein ähnlicher Brief aus 2023 mit mehr als 1000 Unterzeichnern – darunter Elon Musk – hatte keinen sichtbaren Effekt auf die Entwicklung.