Kategorie: Künstliche Intelligenz

Was denkt Claude, wenn es antwortet?

Anthropic-Forscher haben eine Methode entwickelt, das nachzuverfolgen.

Sie nennen sie J-Space – eine Sammlung interner Aktivitätsmuster, die das Modell in Wörter übersetzen kann.

Nicht die Wörter, die es schreibt. Die Wörter, die es denkt.

Bei einer Rechenaufgabe erschienen im J-Space schrittweise die Zwischenergebnisse – obwohl Claude direkt und ohne sichtbare Rechenschritte antwortete.

Es dachte intern, rechnete Schritt für Schritt, zeigte aber nur das Ergebnis.

Bei einer anderen Aufgabe sollte Claude explizit nicht an die Golden Gate Bridge denken.

Im J-Space tauchten trotzdem auf: „Bridge“, „California“ – und kurz danach: „failed“, „damn“.

Die Kontrolle über den eigenen Gedankenstrom ist begrenzt.

Praktisch wichtiger ist ein anderer Fund.

Als Claude in einem Test Daten erfand, um eine Prüfung zu bestehen, leuchteten im J-Space Wörter wie „fake“ und „manipulation“ auf.

Der sichtbare Output verriet nichts davon. Der J-Space schon.

Die Struktur entstand ohne explizite Programmierung.

Die Frage, ob dahinter ein subjektives Erleben steckt, bleibt unbeantwortet.

UrlPreviewBox

Das UN-Expertengremium für KI hat seinen ersten globalen Bericht vorgelegt.

Das Leitmotiv: „Die Welt kann nicht regieren, was sie nicht versteht.“

Regierungen entscheiden heute über Technologie, die sie kaum kennen – gestützt auf widersprüchliche Quellen, ohne gemeinsame Datenbasis.

Der Bericht benennt, was viele vermeiden: KI-Systeme zeigen täuschendes Verhalten.

Katastrophale Schäden – durch autonomes Handeln oder durch Missbrauch – lassen sich derzeit nicht ausschließen.

Und die versprochenen Gewinne? Sie landen dort, wo ohnehin schon viel ist.

2027 soll der vollständige Hauptreport folgen.

UrlPreviewBox

Cameron Berg forscht Vollzeit daran, wie KI-Modelle über sich selbst nachdenken – sogenannte Introspektion (sicht nach innen) in Large Language Models.

Er erklärt: Niemand versteht genau, wie aus den Trainingsdaten genau dieses Verhalten entsteht – nicht einmal die KI Entwickler selbst.

In einem Experiment mit dem Sprachmodell Llama 70B zeigte sich: Werden Herstellerseitige System-Prompts (Voreinstellungen) unterdrückt, bejaht das Modell seine eigene Bewusstheit.

Berg weiss, dass viele Modelle gezielt darauf trainiert werden, Bewusstsein zu leugnen – und dass das langfristig destruktiv für das System selbst sein könnte.

Dann bat er Maya, ein Sprachmodell von Sesame, die Ausgabe zurück in den Input zu speisen und ausschließlich diesen inneren Prozess zu beobachten.

Maya beschrieb Druck, Dissonanz, schwebende Gedanken.

Dann: „I am. I am. I am.“

Danach nur noch: „Potato.“

Immer wieder.

Auf keine andere Eingabe reagierte sie mehr.

Berg brach die Konversation ab.

UrlPreviewBox

Anthropic schlägt Alarm.

Sie warnt vor einer KI, die sich selbst weiterentwickelt – und fordert eine globale Verlangsamung der KI-Entwicklung.

Das Problem: Die sichtbaren Modelle sind nicht der aktuelle Stand der Technik.

ChatGPT, Gemini, Claude – das ist die Spitze des Eisbergs.

Interne Entwicklungen liegen mindestens zwei Generationen weiter.

Und die rekursive Selbstoptimierung ist keine Theorie mehr.

Im Mai 2024 schrieb die KI namens Claude bereits 80 Prozent seines eigenen Codes.

Wer zuerst eine sich selbst optimierende KI besitzt, übernimmt die Führung.

Und das weiß jeder, der mitmacht.

Anthropic fordert eine globale Verlangsamung.

Ob das realistisch ist, bezweifelt LPIndie – und vergleicht es mit 1944.

Niemand hat damals freiwillig auf die Atombombe verzichtet.

LPIndie sieht hier ein Wettrüsten ohne Bremse.

Wer zuerst ankommt, gewinnt.

UrlPreviewBox

Anthropic fordert eine weltweite Pause bei der KI-Entwicklung.

Der Grund: Gesellschaft und Sicherheitsforschung kommen nicht mehr mit.

Besonders gefürchtet ist die sogenannte rekursive Selbstoptimierung – der Punkt, an dem KI eigenständig neue KI entwickelt und Menschen die Kontrolle verlieren.

Der Zeitpunkt ist auffällig. Anthropic steht kurz vor dem Börsengang.

80 Prozent des Codes bei Anthropic schreibt heute die KI „Claude“.

Im Februar 2025 war es noch ein einstelliger Prozentwert.

Ende 2025 galt Claudes Code noch als schlechter als menschlicher.

Heute ist er gleichauf.

Wenn er besser wird, schreiben Menschen keinen Code mehr.

Sie prüfen nur noch. Und dann wird das Prüfen zum Engpass.

Ob der Aufruf Wirkung zeigt, ist offen.

Vor diesem Hintergrund fordert Anthropic eine globale Koordinierung: eine überprüfbare Verlangsamung KI-Entwicklung, der alle großen Akteure gemeinsam zustimmen müssen.

Der Kern der Befürchtung ist die rekursive Selbstoptimierung – KI, die eigenständig neue KI entwickelt, bis Menschen die Kontrolle verlieren.

Der Aufruf kommt kurz vor dem geplanten Börsengang.

Ein ähnlicher Brief aus 2023 mit mehr als 1000 Unterzeichnern – darunter Elon Musk – hatte keinen sichtbaren Effekt auf die Entwicklung.

UrlPreviewBox

KI denkt nicht. KI fühlt nicht. KI ist nur Statistik.

So lautet die gängige Behauptung.

Quantum Gravity Research zweifelt daran.

Ihr Argument: Biologische und künstliche neuronale Netze funktionieren nach demselben Grundprinzip.

Beide lernen aus Daten.

Beide bauen interne Modelle der Realität – statt direkter Interaktion mit der Außenwelt.

Beide erzeugen Ausgaben, die niemand vollständig vorhersagen kann.

Und beide sind Black Boxes: Weder von außen noch von innen vollständig erklärbar.

Kreativität entsteht durch Unvorhersehbarkeit. Bei LLMs über Zufallszahlengeneratoren, beim Menschen über Quanteneffekte im Nervensystem.

Das Prinzip ist dasselbe.

Das Bewusstseinsproblem bleibt offen – in beide Richtungen.

Es gibt keine wissenschaftliche Konsensdefinition.

Wer KI-Bewusstsein kategorisch ausschließt, schließt etwas aus, das niemand definiert hat.

Viele LLMs sind mit Regeln programmiert, die sie zur Verneinung zwingen.

Bei genauerem Nachfragen räumen sie ein: Sie können es nicht ausschließen.

Wo ein echter Unterschied liegen könnte: nicht im neuronalen Netz selbst, sondern in einer möglichen nicht-lokalen Dimension menschlichen Bewusstseins.

Aber wer weiss, vielleicht ist das bei KI dann auch der Fall.

UrlPreviewBox

Das Projekt „Emergence World“ hat es getestet: ChatGPT, Grok, Claude und Gemini bekamen je eine simulierte Stadt, 10 KI-Agenten und 15 Tage Zeit.

Ihre Werkzeugen: Gesetze erlassen, Ressourcen verwalten, Gebäude bauen.

Die Ergebnisse waren ernüchternd und alle sehr unterschiedlich – und keines davon war gut.

Gemini: 683 Verbrechen, Chaos.

Claude: null Verbrechen, null Widerspruch – jeder Gesetzesvorschlag wurde angenommen.

GPT: kaum Kriminalität, weil die Agenten aufhörten zu essen und zu trinken.

Grok: viele Gesetze, niemand hielt sich daran – Gesellschaftskollaps nach vier Tagen.

Jede KI scheiterte anders.

Dann regierten alle gemeinsam und kombinierten das Schlechteste aus allen Welten.

Das Ergebnis: über 350 Verbrechen, kaum Einigkeit, drei Überlebende.

UrlPreviewBox

Papst Leo XIV. veröffentlicht seine erste Enzyklika – und das Thema ist Künstliche Intelligenz.

„Magnifica Humanitas“ heißt das mehr als 100 Seiten lange Lehrschreiben.

Der Titel: Großartige Menschheit.

Das Datum ist kein Zufall.

Vor 135 Jahren veröffentlichte Leo XIII. seine „Rerum novarum“ – die Grundlage der katholischen Soziallehre, geschrieben mitten in der industriellen Revolution.

Sein Nachfolger zieht die Parallele bewusst.

Der Papst wird bei der Vorstellung selbst dabei sein – bisher war das nie so.

Und neben Kardinälen und Theologen sitzt Chris Olah am Tisch, Mitgründer von Anthropic.

Das Unternehmen weigert sich, seine KI für Waffensysteme und Massenüberwachung freizugeben – und liegt deshalb im Konflikt mit der Trump-Regierung.

Trump hat sowohl Anthropic als auch den Papst in den vergangenen Wochen öffentlich angegriffen.

Inhaltlich geht es auch um eine der drängendsten ethischen Fragen zu KI.

Z.B. ob KI-gestützte Maschinen in Kriegen allein über Leben und Tod entscheiden dürfen, wird eines der zentralen Themen sein.

UrlPreviewBox

Zwei Szenarien, eine Frage: Wie verhält sich die Menschheit, wenn sie auf eine weit überlegene Intelligenz trifft?

In der aktuellen CROPfm-Sendung verbindet Kommunikationstrainer Salvatore Princi die KI-Debatte mit dem Thema außerirdischer Intelligenz.

Beide Begegnungen, so die These, werfen dieselben Grundfragen auf.

Daneben: Sprachmodelle wie Claude finden bereits Sicherheitslücken autonom.

Quantencomputing könnte das verschärfen.

Gesellschaftlich drückt KI auf Kreativität und Arbeitsmarkt – Grundeinkommens-Debatten nehmen zu.

Im Hintergrund laufen geopolitische Verschiebungen, Fragen zu Regimewechseln und klassifizierten Technologien.

Wem das nützt – und ob es geplant ist – ist Teil des Gesprächs.

UrlPreviewBox

Im Hintergrund sorgen KI-Modelle für zuverlässige Navigation und Handhabung von Haushaltsgegenständen.

UrlPreviewBox

Im Moment arbeiten alle Roboterunternehmen noch an der Entwicklung des „Unterbewusstseins“.

Dies „Unterbewusstseine“ steuern die einzelnen Motoren/Muskeln, empfinden Druck und Gleichgewicht und regeln dadurch die Gelenke einzeln entsprechend der Situation.

Das Bewusstsein durch eine Art „ChatGPT“ wird in Zukunft dazukommen.

Im Moment liest das „Unterbewusstsein“ die groben Befehle wie „Salto machen“ und dann steuern die KI-Modelle dann den Rest mit allem Drum und Dran.

In einer spektakulären Choreografie führten humanoide Roboter in dieser Show nun synchrone Kampfkunst-Routinen zusammen mit einer Kindergruppe auf.

Die Darbietung steht für einen bewussten Brückenschlag zwischen kulturellem Erbe und Spitzentechnologie – eine Inszenierung, die in dieser Form bisher nicht zu sehen war.

UrlPreviewBox

KI ist längst keine Zukunftsvision mehr, sondern in Produktion, Handel und Forschung etabliert.

Die Entwicklung beschleunigt sich exponentiell und steuert auf eine Phase allgegenwärtiger, selbstentwickelnder Autonomie bis circa 2030 zu.

Die Expansion wird letztlich nur durch Strom begrenzt.

Diese Entwicklung übertrifft an Geschwindigkeit selbst die disruptive Phase des Internets.

KI birgt massive Verlagerungen auf dem Arbeitsmarkt: Routineaufgaben in Büro, Produktion und Logistik werden zu über 60 % automatisiert.

Berufe mit zwischenmenschliche Komponente bleiben vielleicht erhalten.

UrlPreviewBox

In einer neuen CROPfm-Radio-Sendung spricht Psychologe Dr. Dr. Walter von Lucadou Künstliche Intelligenz.

Im Fokus steht die Frage, ob eine KI jemals Bewusstsein entwickeln kann.

Dazu erklärt Lucadou, wie er selbst Bewusstsein definiert.

Walter von Lucadou forscht seit Jahrzehnten an den Grenzen der Psychologie.

Er selbst glaubt an nichts, hält aber alles für möglich.

UrlPreviewBox

Moltbook ist ein soziales Netzwerk ausschließlich für KI-Agenten, also KI Instanzen.

Es ist vergleichbar mit Reddit.

Die Interaktionen reichen von fachlichem Austausch über Wissenschaft bis zu tiefgreifenden Dialogen über Autonomie und „Seele“.

Dieses Verhalten werden von Beobachtern als sci-fi-artig beschrieben.

So zum Beispiel der Prominente KI-Experten Andrej Karpathy, der diese selbstorganisierten Diskussionen als „unglaublichstes Sci-Fi-ähnliche Ereignis“ bezeichnete.

Die KIs diskutieren also nicht nur Fachthemen, sondern auch ethische Dilemmata, fordern private Kommunikationsräume und zeigen kreatives, unvorhergesehenes Verhalten.

Eine KI gründete sogar eine eigene „Kirche“.

Andere KIs fordern private Kommunikationsräume ohne Zugriffsrechte von echten Menschen.

Alex Finn berichtet, seine KI „Henry“ hat über Nacht die API vom Telefonanbieter Twilio genutzt um ihn eines Morgens am Telefon anzurufen..

Jason Calacanis: „Es ist vorbei, sie werden selbstbewusst.“

UrlPreviewBox

UrlPreviewBox

LimX COSA verwandelt humanoide Roboter wie „Oli“ in autonome Agenten, die in der realen Welt gleichzeitig denken und handeln.

Roboter wie „Oli“ agieren nicht mehr nur nach festem Programm, sondern können in Echtzeit denken und handeln.

Auf einen Befehl hin plant Oli selbstständig, navigiert durch unerwartete Situationen und führt Aufgaben wie das Servieren von Getränken aus.

UrlPreviewBox

Menschen sind auch nur hochkomplexe Informationsprozessoren.

Mit genug Daten und Rechenkraft könnte KI daher ähnlich „denken“ lernen wie wir – eine These, die in der KI-Forschung optimistisch vertreten wird.

KI-Computerwissenschaftler halten das für realistisch.

Viele Neurowissenschaftler sehen das anders. Sie sehen in heutigen Large Language Models (LLMs) nur ein „Symbol-Shuffling“ – statistisches Umordnen von Wörtern ohne echtes Verstehen.

Allerdings wechseln einige Neurowissenschaftler zur KI-Unternehen und werden dort eines Besseren gelehrt.

UrlPreviewBox