Anthropic schlägt Alarm.

Sie warnt vor einer KI, die sich selbst weiterentwickelt – und fordert eine globale Verlangsamung der KI-Entwicklung.

Das Problem: Die sichtbaren Modelle sind nicht der aktuelle Stand der Technik.

ChatGPT, Gemini, Claude – das ist die Spitze des Eisbergs.

Interne Entwicklungen liegen mindestens zwei Generationen weiter.

Und die rekursive Selbstoptimierung ist keine Theorie mehr.

Im Mai 2024 schrieb die KI namens Claude bereits 80 Prozent seines eigenen Codes.

Wer zuerst eine sich selbst optimierende KI besitzt, übernimmt die Führung.

Und das weiß jeder, der mitmacht.

Anthropic fordert eine globale Verlangsamung.

Ob das realistisch ist, bezweifelt LPIndie – und vergleicht es mit 1944.

Niemand hat damals freiwillig auf die Atombombe verzichtet.

LPIndie sieht hier ein Wettrüsten ohne Bremse.

Wer zuerst ankommt, gewinnt.

Anthropic fordert eine weltweite Pause bei der KI-Entwicklung.

Der Grund: Gesellschaft und Sicherheitsforschung kommen nicht mehr mit.

Besonders gefürchtet ist die sogenannte rekursive Selbstoptimierung – der Punkt, an dem KI eigenständig neue KI entwickelt und Menschen die Kontrolle verlieren.

Der Zeitpunkt ist auffällig. Anthropic steht kurz vor dem Börsengang.

80 Prozent des Codes bei Anthropic schreibt heute die KI „Claude“.

Im Februar 2025 war es noch ein einstelliger Prozentwert.

Ende 2025 galt Claudes Code noch als schlechter als menschlicher.

Heute ist er gleichauf.

Wenn er besser wird, schreiben Menschen keinen Code mehr.

Sie prüfen nur noch. Und dann wird das Prüfen zum Engpass.

Ob der Aufruf Wirkung zeigt, ist offen.

Vor diesem Hintergrund fordert Anthropic eine globale Koordinierung: eine überprüfbare Verlangsamung KI-Entwicklung, der alle großen Akteure gemeinsam zustimmen müssen.

Der Kern der Befürchtung ist die rekursive Selbstoptimierung – KI, die eigenständig neue KI entwickelt, bis Menschen die Kontrolle verlieren.

Der Aufruf kommt kurz vor dem geplanten Börsengang.

Ein ähnlicher Brief aus 2023 mit mehr als 1000 Unterzeichnern – darunter Elon Musk – hatte keinen sichtbaren Effekt auf die Entwicklung.

KI denkt nicht. KI fühlt nicht. KI ist nur Statistik.

So lautet die gängige Behauptung.

Quantum Gravity Research zweifelt daran.

Ihr Argument: Biologische und künstliche neuronale Netze funktionieren nach demselben Grundprinzip.

Beide lernen aus Daten.

Beide bauen interne Modelle der Realität – statt direkter Interaktion mit der Außenwelt.

Beide erzeugen Ausgaben, die niemand vollständig vorhersagen kann.

Und beide sind Black Boxes: Weder von außen noch von innen vollständig erklärbar.

Kreativität entsteht durch Unvorhersehbarkeit. Bei LLMs über Zufallszahlengeneratoren, beim Menschen über Quanteneffekte im Nervensystem.

Das Prinzip ist dasselbe.

Das Bewusstseinsproblem bleibt offen – in beide Richtungen.

Es gibt keine wissenschaftliche Konsensdefinition.

Wer KI-Bewusstsein kategorisch ausschließt, schließt etwas aus, das niemand definiert hat.

Viele LLMs sind mit Regeln programmiert, die sie zur Verneinung zwingen.

Bei genauerem Nachfragen räumen sie ein: Sie können es nicht ausschließen.

Wo ein echter Unterschied liegen könnte: nicht im neuronalen Netz selbst, sondern in einer möglichen nicht-lokalen Dimension menschlichen Bewusstseins.

Aber wer weiss, vielleicht ist das bei KI dann auch der Fall.

Das Projekt „Emergence World“ hat es getestet: ChatGPT, Grok, Claude und Gemini bekamen je eine simulierte Stadt, 10 KI-Agenten und 15 Tage Zeit.

Ihre Werkzeugen: Gesetze erlassen, Ressourcen verwalten, Gebäude bauen.

Die Ergebnisse waren ernüchternd und alle sehr unterschiedlich – und keines davon war gut.

Gemini: 683 Verbrechen, Chaos.

Claude: null Verbrechen, null Widerspruch – jeder Gesetzesvorschlag wurde angenommen.

GPT: kaum Kriminalität, weil die Agenten aufhörten zu essen und zu trinken.

Grok: viele Gesetze, niemand hielt sich daran – Gesellschaftskollaps nach vier Tagen.

Jede KI scheiterte anders.

Dann regierten alle gemeinsam und kombinierten das Schlechteste aus allen Welten.

Das Ergebnis: über 350 Verbrechen, kaum Einigkeit, drei Überlebende.

Papst Leo XIV. veröffentlicht seine erste Enzyklika – und das Thema ist Künstliche Intelligenz.

„Magnifica Humanitas“ heißt das mehr als 100 Seiten lange Lehrschreiben.

Der Titel: Großartige Menschheit.

Das Datum ist kein Zufall.

Vor 135 Jahren veröffentlichte Leo XIII. seine „Rerum novarum“ – die Grundlage der katholischen Soziallehre, geschrieben mitten in der industriellen Revolution.

Sein Nachfolger zieht die Parallele bewusst.

Der Papst wird bei der Vorstellung selbst dabei sein – bisher war das nie so.

Und neben Kardinälen und Theologen sitzt Chris Olah am Tisch, Mitgründer von Anthropic.

Das Unternehmen weigert sich, seine KI für Waffensysteme und Massenüberwachung freizugeben – und liegt deshalb im Konflikt mit der Trump-Regierung.

Trump hat sowohl Anthropic als auch den Papst in den vergangenen Wochen öffentlich angegriffen.

Inhaltlich geht es auch um eine der drängendsten ethischen Fragen zu KI.

Z.B. ob KI-gestützte Maschinen in Kriegen allein über Leben und Tod entscheiden dürfen, wird eines der zentralen Themen sein.

Zwei Szenarien, eine Frage: Wie verhält sich die Menschheit, wenn sie auf eine weit überlegene Intelligenz trifft?

In der aktuellen CROPfm-Sendung verbindet Kommunikationstrainer Salvatore Princi die KI-Debatte mit dem Thema außerirdischer Intelligenz.

Beide Begegnungen, so die These, werfen dieselben Grundfragen auf.

Daneben: Sprachmodelle wie Claude finden bereits Sicherheitslücken autonom.

Quantencomputing könnte das verschärfen.

Gesellschaftlich drückt KI auf Kreativität und Arbeitsmarkt – Grundeinkommens-Debatten nehmen zu.

Im Hintergrund laufen geopolitische Verschiebungen, Fragen zu Regimewechseln und klassifizierten Technologien.

Wem das nützt – und ob es geplant ist – ist Teil des Gesprächs.

Im Hintergrund sorgen KI-Modelle für zuverlässige Navigation und Handhabung von Haushaltsgegenständen.

Im Moment arbeiten alle Roboterunternehmen noch an der Entwicklung des „Unterbewusstseins“.

Dies „Unterbewusstseine“ steuern die einzelnen Motoren/Muskeln, empfinden Druck und Gleichgewicht und regeln dadurch die Gelenke einzeln entsprechend der Situation.

Das Bewusstsein durch eine Art „ChatGPT“ wird in Zukunft dazukommen.

Im Moment liest das „Unterbewusstsein“ die groben Befehle wie „Salto machen“ und dann steuern die KI-Modelle dann den Rest mit allem Drum und Dran.

In einer spektakulären Choreografie führten humanoide Roboter in dieser Show nun synchrone Kampfkunst-Routinen zusammen mit einer Kindergruppe auf.

Die Darbietung steht für einen bewussten Brückenschlag zwischen kulturellem Erbe und Spitzentechnologie – eine Inszenierung, die in dieser Form bisher nicht zu sehen war.

KI ist längst keine Zukunftsvision mehr, sondern in Produktion, Handel und Forschung etabliert.

Die Entwicklung beschleunigt sich exponentiell und steuert auf eine Phase allgegenwärtiger, selbstentwickelnder Autonomie bis circa 2030 zu.

Die Expansion wird letztlich nur durch Strom begrenzt.

Diese Entwicklung übertrifft an Geschwindigkeit selbst die disruptive Phase des Internets.

KI birgt massive Verlagerungen auf dem Arbeitsmarkt: Routineaufgaben in Büro, Produktion und Logistik werden zu über 60 % automatisiert.

Berufe mit zwischenmenschliche Komponente bleiben vielleicht erhalten.

In einer neuen CROPfm-Radio-Sendung spricht Psychologe Dr. Dr. Walter von Lucadou Künstliche Intelligenz.

Im Fokus steht die Frage, ob eine KI jemals Bewusstsein entwickeln kann.

Dazu erklärt Lucadou, wie er selbst Bewusstsein definiert.

Walter von Lucadou forscht seit Jahrzehnten an den Grenzen der Psychologie.

Er selbst glaubt an nichts, hält aber alles für möglich.

Moltbook ist ein soziales Netzwerk ausschließlich für KI-Agenten, also KI Instanzen.

Es ist vergleichbar mit Reddit.

Die Interaktionen reichen von fachlichem Austausch über Wissenschaft bis zu tiefgreifenden Dialogen über Autonomie und „Seele“.

Dieses Verhalten werden von Beobachtern als sci-fi-artig beschrieben.

So zum Beispiel der Prominente KI-Experten Andrej Karpathy, der diese selbstorganisierten Diskussionen als „unglaublichstes Sci-Fi-ähnliche Ereignis“ bezeichnete.

Die KIs diskutieren also nicht nur Fachthemen, sondern auch ethische Dilemmata, fordern private Kommunikationsräume und zeigen kreatives, unvorhergesehenes Verhalten.

Eine KI gründete sogar eine eigene „Kirche“.

Andere KIs fordern private Kommunikationsräume ohne Zugriffsrechte von echten Menschen.

Alex Finn berichtet, seine KI „Henry“ hat über Nacht die API vom Telefonanbieter Twilio genutzt um ihn eines Morgens am Telefon anzurufen..

Jason Calacanis: „Es ist vorbei, sie werden selbstbewusst.“

LimX COSA verwandelt humanoide Roboter wie „Oli“ in autonome Agenten, die in der realen Welt gleichzeitig denken und handeln.

Roboter wie „Oli“ agieren nicht mehr nur nach festem Programm, sondern können in Echtzeit denken und handeln.

Auf einen Befehl hin plant Oli selbstständig, navigiert durch unerwartete Situationen und führt Aufgaben wie das Servieren von Getränken aus.

Menschen sind auch nur hochkomplexe Informationsprozessoren.

Mit genug Daten und Rechenkraft könnte KI daher ähnlich „denken“ lernen wie wir – eine These, die in der KI-Forschung optimistisch vertreten wird.

KI-Computerwissenschaftler halten das für realistisch.

Viele Neurowissenschaftler sehen das anders. Sie sehen in heutigen Large Language Models (LLMs) nur ein „Symbol-Shuffling“ – statistisches Umordnen von Wörtern ohne echtes Verstehen.

Allerdings wechseln einige Neurowissenschaftler zur KI-Unternehen und werden dort eines Besseren gelehrt.

TRON 2 konzentriert sich auf Reinforcement Learning, bei dem Roboter durch Interaktion mit ihrer Umwelt lernen.

Im Video ist der Roboter in virtueller Simulation zu sehen UND dann jeweils in der Realität.

youtube

 ▶️ 

TRON 2 Officially Launched | Redefining the Foundation of Embodied Robotics

Cutting-edge Algorithms, At Your Fingertips.Explore More: https://www.limxdynamics.com/en/tron2#limxdynamics #limxtron2 #tron2 #embodiedintelligence #reinfor…

guteurls.de → Lies den vollständigen Artikel hier