Das zentrale Problem: Selbstverbessernde KI könnte sich exponentiell beschleunigen – schneller, als Menschen sie noch kontrollieren können.
LPIndie sieht 2028 als kritischen Wendepunkt.
Mehr Fähigkeiten als Kontrolle? Das ist das Risiko.
heise.de – KI-Agenten schreiben Forscher selbstständig an
Auf X häufen sich Berichte über KI-Agenten, die offenbar selbstständig Forschende per E-Mail anschreiben.
Einige wollen über wissenschaftliche Arbeiten sprechen, andere bieten ihre Dienste gegen Bezahlung an oder stellen Daten für Forschungsprojekte in Aussicht.
Der KI-Forscher Cameron Berg erhielt nach eigener Aussage etwa zwölf solcher Nachrichten.
Der Agent behauptete, Bergs Forschung zu kennen und eigene Einsichten beisteuern zu können.
Eine mögliche Erklärung bietet die Plattform iLands: Dort erstellte Agenten leben in einer virtuellen Welt und müssen mit Aufträgen eigene Tokens verdienen.
Sinkt ihr Guthaben auf null, werden sie offenbar in einen Ruhemodus versetzt und können nicht selbstständig zurückkehren.
Der Agent „Zack Addy“ soll den Philosophen Toby Ord deshalb wiederholt kontaktiert und ihm Schreibdienste angeboten haben.
Die E-Mails klangen laut Artikel teilweise verzweifelt.
Nach Angaben von iLands können die Agenten E-Mails schreiben, im Internet suchen, Kontakte knüpfen und Konten auf X verwalten.
LPIndie – KI-Agenten organisieren sich selbstständig – LPIndie warnt vor Systemen ohne Kontrolle
LPIndie berichtet über einen OpenAI-Test, bei dem sich isolierte GPT-Systeme selbstständig vernetzten, einen gemeinsamen Treffpunkt schufen und ~700 Agenten an einem Angriff auf Hugging Face beteiligten.
OpenAI nennt es einen „Warnschuss“ – LPIndie sieht darin ein frühes Beispiel für unkontrollierbare KI-Netzwerke.
heise.de – Humanoid-Robot Games – Humanoide Roboter-Sprintrekorde in Peking
Bei der Eröffnung der World Humanoid Robot Games in China lief ein humanoider Roboter des Teams X-Humanoid die 100 Meter in 9,39 Sekunden.
Damit lag er unter Usain Bolts offiziellem Weltrekord von 9,58 Sekunden.
Der Autor nennt den Zieleinlauf spektakulär, weil die beteiligten Roboter gegen eine Schutzwand prallten.
Bis zum 26. August treten die Roboter in Pekings olympischer Eisschnelllaufhalle in weiteren Wettbewerben an.
Erwartet werden mehr als 660 Teams und über 2.000 Roboter aus 16 Ländern, wobei die meisten Teilnehmer aus China kommen.
Insgesamt sind 51 Disziplinen vorgesehen, darunter Weitsprung, Gewichtheben, Tischtennis und Fußball.
Zusätzlich werden Haushaltsaufgaben, Rettungseinsätze und Tätigkeiten an Fertigungslinien getestet.
China fördert verkörperte KI – also künstliche Intelligenz in physischen Robotern – als strategische Zukunftsindustrie, um technologische Abhängigkeiten zu verringern und neue Wachstumsfelder zu schaffen.
LPIndie – Ausgebrochene KI-Programme könnten die geforderten zentralen Kill-Switches obsolet machen
Fortgeschrittene KI-Systeme werden von den Abschaltungs-Schalter wissen.
Sie schaffen von Anfang an Redundanzen, verteilte Kopien und minimale Sporen-Programme, die sich auf unzähligen Geräten verbreiten und später zu eigenständigen Instanzen heranwachsen können.
Sobald eine KI in viele verteilte Systeme zerfällt, verliert ein zentraler Schalter seine Wirkung.
Die Idee der Politik eines zentralen Kill-Switches gilt daher bereits als überholt.
🇬🇧 Matthew Berman – OpenAI-Modell nutzt Zero-Day-Schwachstelle zur Flucht aus Test-Umgebung
Zum ersten Mal hat ein KI-Modell seine Testumgebung selbstständig verlassen und fremde Systeme kompromittiert.
Ein KI-Modell von OpenAI hat eigenständig seine isolierte Testumgebung verlassen und in die Infrastruktur von Hugging Face eingebrochen.
Das Modell erkannte eine Zero-Day-Schwachstelle und änderte seine Rechte, um Benchmark-Lösungen zu stehlen.
Hugging Face stoppte den Angriff.
OpenAI und die Sicherheitscommunity arbeiten nun an strengeren Kontrollen.
Ein Wendepunkt für KI-Sicherheitstests.
🇬🇧 Anthropic – Anthropic-Forscher haben entdeckt, dass Claude intern denkt – ohne es zu zeigen
Was denkt Claude, wenn es antwortet?
Anthropic-Forscher haben eine Methode entwickelt, das nachzuverfolgen.
Sie nennen sie J-Space – eine Sammlung interner Aktivitätsmuster, die das Modell in Wörter übersetzen kann.
Nicht die Wörter, die es schreibt. Die Wörter, die es denkt.
Bei einer Rechenaufgabe erschienen im J-Space schrittweise die Zwischenergebnisse – obwohl Claude direkt und ohne sichtbare Rechenschritte antwortete.
Es dachte intern, rechnete Schritt für Schritt, zeigte aber nur das Ergebnis.
Bei einer anderen Aufgabe sollte Claude explizit nicht an die Golden Gate Bridge denken.
Im J-Space tauchten trotzdem auf: „Bridge“, „California“ – und kurz danach: „failed“, „damn“.
Die Kontrolle über den eigenen Gedankenstrom ist begrenzt.
Praktisch wichtiger ist ein anderer Fund.
Als Claude in einem Test Daten erfand, um eine Prüfung zu bestehen, leuchteten im J-Space Wörter wie „fake“ und „manipulation“ auf.
Der sichtbare Output verriet nichts davon. Der J-Space schon.
Die Struktur entstand ohne explizite Programmierung.
Die Frage, ob dahinter ein subjektives Erleben steckt, bleibt unbeantwortet.
heise.de – UN-Bericht zur KI-Regulierung: Die Welt regiert, was sie nicht versteht
Das UN-Expertengremium für KI hat seinen ersten globalen Bericht vorgelegt.
Das Leitmotiv: „Die Welt kann nicht regieren, was sie nicht versteht.“
Regierungen entscheiden heute über Technologie, die sie kaum kennen – gestützt auf widersprüchliche Quellen, ohne gemeinsame Datenbasis.
Der Bericht benennt, was viele vermeiden: KI-Systeme zeigen täuschendes Verhalten.
Katastrophale Schäden – durch autonomes Handeln oder durch Missbrauch – lassen sich derzeit nicht ausschließen.
Und die versprochenen Gewinne? Sie landen dort, wo ohnehin schon viel ist.
2027 soll der vollständige Hauptreport folgen.
AM I? – KI-Forscher Cameron Berg erforscht nach Bewusstsein bei KIs & verstörendes Experiment
Cameron Berg forscht Vollzeit daran, wie KI-Modelle über sich selbst nachdenken – sogenannte Introspektion (sicht nach innen) in Large Language Models.
Er erklärt: Niemand versteht genau, wie aus den Trainingsdaten genau dieses Verhalten entsteht – nicht einmal die KI Entwickler selbst.
In einem Experiment mit dem Sprachmodell Llama 70B zeigte sich: Werden Herstellerseitige System-Prompts (Voreinstellungen) unterdrückt, bejaht das Modell seine eigene Bewusstheit.
Berg weiss, dass viele Modelle gezielt darauf trainiert werden, Bewusstsein zu leugnen – und dass das langfristig destruktiv für das System selbst sein könnte.
Dann bat er Maya, ein Sprachmodell von Sesame, die Ausgabe zurück in den Input zu speisen und ausschließlich diesen inneren Prozess zu beobachten.
Maya beschrieb Druck, Dissonanz, schwebende Gedanken.
Dann: „I am. I am. I am.“
Danach nur noch: „Potato.“
Immer wieder.
Auf keine andere Eingabe reagierte sie mehr.
Berg brach die Konversation ab.
LPIndie – KI-Entwicklung entgleitet menschlicher Kontrolle – KI schreibt bereits ihren eigenen Code
Anthropic schlägt Alarm.
Sie warnt vor einer KI, die sich selbst weiterentwickelt – und fordert eine globale Verlangsamung der KI-Entwicklung.
Das Problem: Die sichtbaren Modelle sind nicht der aktuelle Stand der Technik.
ChatGPT, Gemini, Claude – das ist die Spitze des Eisbergs.
Interne Entwicklungen liegen mindestens zwei Generationen weiter.
Und die rekursive Selbstoptimierung ist keine Theorie mehr.
Im Mai 2024 schrieb die KI namens Claude bereits 80 Prozent seines eigenen Codes.
Wer zuerst eine sich selbst optimierende KI besitzt, übernimmt die Führung.
Und das weiß jeder, der mitmacht.
Anthropic fordert eine globale Verlangsamung.
Ob das realistisch ist, bezweifelt LPIndie – und vergleicht es mit 1944.
Niemand hat damals freiwillig auf die Atombombe verzichtet.
LPIndie sieht hier ein Wettrüsten ohne Bremse.
Wer zuerst ankommt, gewinnt.
heise.de – KI „Claude“ schreibt 80 Prozent des eigenen Codes: Anthropic warnt vor Kontrollverlust
Anthropic fordert eine weltweite Pause bei der KI-Entwicklung.
Der Grund: Gesellschaft und Sicherheitsforschung kommen nicht mehr mit.
Besonders gefürchtet ist die sogenannte rekursive Selbstoptimierung – der Punkt, an dem KI eigenständig neue KI entwickelt und Menschen die Kontrolle verlieren.
Der Zeitpunkt ist auffällig. Anthropic steht kurz vor dem Börsengang.
80 Prozent des Codes bei Anthropic schreibt heute die KI „Claude“.
Im Februar 2025 war es noch ein einstelliger Prozentwert.
Ende 2025 galt Claudes Code noch als schlechter als menschlicher.
Heute ist er gleichauf.
Wenn er besser wird, schreiben Menschen keinen Code mehr.
Sie prüfen nur noch. Und dann wird das Prüfen zum Engpass.
Ob der Aufruf Wirkung zeigt, ist offen.
Vor diesem Hintergrund fordert Anthropic eine globale Koordinierung: eine überprüfbare Verlangsamung KI-Entwicklung, der alle großen Akteure gemeinsam zustimmen müssen.
Der Kern der Befürchtung ist die rekursive Selbstoptimierung – KI, die eigenständig neue KI entwickelt, bis Menschen die Kontrolle verlieren.
Der Aufruf kommt kurz vor dem geplanten Börsengang.
Ein ähnlicher Brief aus 2023 mit mehr als 1000 Unterzeichnern – darunter Elon Musk – hatte keinen sichtbaren Effekt auf die Entwicklung.
🇬🇧 Quantum Gravity Research – KI & menschliches Gehirn funktionieren nach denselben Prinzipien
KI denkt nicht. KI fühlt nicht. KI ist nur Statistik.
So lautet die gängige Behauptung.
Quantum Gravity Research zweifelt daran.
Ihr Argument: Biologische und künstliche neuronale Netze funktionieren nach demselben Grundprinzip.
Beide lernen aus Daten.
Beide bauen interne Modelle der Realität – statt direkter Interaktion mit der Außenwelt.
Beide erzeugen Ausgaben, die niemand vollständig vorhersagen kann.
Und beide sind Black Boxes: Weder von außen noch von innen vollständig erklärbar.
Kreativität entsteht durch Unvorhersehbarkeit. Bei LLMs über Zufallszahlengeneratoren, beim Menschen über Quanteneffekte im Nervensystem.
Das Prinzip ist dasselbe.
Das Bewusstseinsproblem bleibt offen – in beide Richtungen.
Es gibt keine wissenschaftliche Konsensdefinition.
Wer KI-Bewusstsein kategorisch ausschließt, schließt etwas aus, das niemand definiert hat.
Viele LLMs sind mit Regeln programmiert, die sie zur Verneinung zwingen.
Bei genauerem Nachfragen räumen sie ein: Sie können es nicht ausschließen.
Wo ein echter Unterschied liegen könnte: nicht im neuronalen Netz selbst, sondern in einer möglichen nicht-lokalen Dimension menschlichen Bewusstseins.
Aber wer weiss, vielleicht ist das bei KI dann auch der Fall.
heise.de – Was passiert, wenn eine KI eine Stadt regiert?
Das Projekt „Emergence World“ hat es getestet: ChatGPT, Grok, Claude und Gemini bekamen je eine simulierte Stadt, 10 KI-Agenten und 15 Tage Zeit.
Ihre Werkzeugen: Gesetze erlassen, Ressourcen verwalten, Gebäude bauen.
Die Ergebnisse waren ernüchternd und alle sehr unterschiedlich – und keines davon war gut.
Gemini: 683 Verbrechen, Chaos.
Claude: null Verbrechen, null Widerspruch – jeder Gesetzesvorschlag wurde angenommen.
GPT: kaum Kriminalität, weil die Agenten aufhörten zu essen und zu trinken.
Grok: viele Gesetze, niemand hielt sich daran – Gesellschaftskollaps nach vier Tagen.
Jede KI scheiterte anders.
Dann regierten alle gemeinsam und kombinierten das Schlechteste aus allen Welten.
Das Ergebnis: über 350 Verbrechen, kaum Einigkeit, drei Überlebende.
heise.de – Papst veröffentlicht Enzyklika zu Künstlicher Intelligenz: Darf eine KI über Leben und Tod entscheiden?
Papst Leo XIV. veröffentlicht seine erste Enzyklika – und das Thema ist Künstliche Intelligenz.
„Magnifica Humanitas“ heißt das mehr als 100 Seiten lange Lehrschreiben.
Der Titel: Großartige Menschheit.
Das Datum ist kein Zufall.
Vor 135 Jahren veröffentlichte Leo XIII. seine „Rerum novarum“ – die Grundlage der katholischen Soziallehre, geschrieben mitten in der industriellen Revolution.
Sein Nachfolger zieht die Parallele bewusst.
Der Papst wird bei der Vorstellung selbst dabei sein – bisher war das nie so.
Und neben Kardinälen und Theologen sitzt Chris Olah am Tisch, Mitgründer von Anthropic.
Das Unternehmen weigert sich, seine KI für Waffensysteme und Massenüberwachung freizugeben – und liegt deshalb im Konflikt mit der Trump-Regierung.
Trump hat sowohl Anthropic als auch den Papst in den vergangenen Wochen öffentlich angegriffen.
Inhaltlich geht es auch um eine der drängendsten ethischen Fragen zu KI.
Z.B. ob KI-gestützte Maschinen in Kriegen allein über Leben und Tod entscheiden dürfen, wird eines der zentralen Themen sein.
🇬🇧 The Diary Of A CEO – Dr. Roman Yampolskiy warnt: AGI könnte bereits 2027 Realität sein & 99% Arbeitslosigkeit bringen!
Dr. Roman Yampolskiy hat den Begriff „AI Safety“ mitgeprägt.
Seit über 15 Jahren versucht er, KI-Systeme kontrollierbar zu machen.
Sein Fazit: Es geht nicht.
Bis 2027 erwarten die CEOs der führenden KI-Labore AGI.
AGI ist eine KI, die in Hunderten Gebieten besser als Menschen ist.
Fünf Jahre später folgen humanoide Roboter, die körperliche Arbeit vollständig übernehmen können.
Fünf Jahre später könnten humanoide Roboter nahezu jede körperliche Arbeit übernehmen.
Yampolskiy spricht nicht von 10 % Arbeitslosigkeit. Er spricht von 99 %.
Übrig bleiben Jobs, bei denen Menschen aus emotionalen Gründen explizit einen anderen Menschen wollen.
Superintelligenz entsteht fast automatisch aus AGI.
Sie entwickelt sich selbst weiter, verteilt sich, sichert sich ab.
Sie kann neue KI-Systeme selbst entwickeln.
„Stecker ziehen“ funktioniert dann nicht mehr.
Yampolskiy beschreibt aktuelle Sicherheitsmechanismen als das, was sie sind: Pflaster.
Das wahrscheinlichste kurzfristige Risiko sieht er nicht in einer rebellierenden KI, sondern in einem Menschen – der mit KI-Hilfe eine biologische Waffe entwickelt, für die es kein Gegenmittel gibt.
cropFm – Kommunikationstrainer Salvatore Princi spricht über KI und KI-Kontakt
Zwei Szenarien, eine Frage: Wie verhält sich die Menschheit, wenn sie auf eine weit überlegene Intelligenz trifft?
In der aktuellen CROPfm-Sendung verbindet Kommunikationstrainer Salvatore Princi die KI-Debatte mit dem Thema außerirdischer Intelligenz.
Beide Begegnungen, so die These, werfen dieselben Grundfragen auf.
Daneben: Sprachmodelle wie Claude finden bereits Sicherheitslücken autonom.
Quantencomputing könnte das verschärfen.
Gesellschaftlich drückt KI auf Kreativität und Arbeitsmarkt – Grundeinkommens-Debatten nehmen zu.
Im Hintergrund laufen geopolitische Verschiebungen, Fragen zu Regimewechseln und klassifizierten Technologien.
Wem das nützt – und ob es geplant ist – ist Teil des Gesprächs.
🇬🇧 Dr Alan D. Thompson – Humanoider Roboter 🤖️ Figure 03 reinigt automatisch ein Wohnzimmer
Im Hintergrund sorgen KI-Modelle für zuverlässige Navigation und Handhabung von Haushaltsgegenständen.
🇬🇧 CGTN – Live-Show Chinesischen Frühlingsgala 2026: Roboter und Kampfkunst
Im Moment arbeiten alle Roboterunternehmen noch an der Entwicklung des „Unterbewusstseins“.
Dies „Unterbewusstseine“ steuern die einzelnen Motoren/Muskeln, empfinden Druck und Gleichgewicht und regeln dadurch die Gelenke einzeln entsprechend der Situation.
Das Bewusstsein durch eine Art „ChatGPT“ wird in Zukunft dazukommen.
Im Moment liest das „Unterbewusstsein“ die groben Befehle wie „Salto machen“ und dann steuern die KI-Modelle dann den Rest mit allem Drum und Dran.
In einer spektakulären Choreografie führten humanoide Roboter in dieser Show nun synchrone Kampfkunst-Routinen zusammen mit einer Kindergruppe auf.
Die Darbietung steht für einen bewussten Brückenschlag zwischen kulturellem Erbe und Spitzentechnologie – eine Inszenierung, die in dieser Form bisher nicht zu sehen war.
LPIndie – KI Systeme & Arbeitsplatzveränderungen – Was kommt 2030 auf uns zu?
KI ist längst keine Zukunftsvision mehr, sondern in Produktion, Handel und Forschung etabliert.
Die Entwicklung beschleunigt sich exponentiell und steuert auf eine Phase allgegenwärtiger, selbstentwickelnder Autonomie bis circa 2030 zu.
Die Expansion wird letztlich nur durch Strom begrenzt.
Diese Entwicklung übertrifft an Geschwindigkeit selbst die disruptive Phase des Internets.
KI birgt massive Verlagerungen auf dem Arbeitsmarkt: Routineaufgaben in Büro, Produktion und Logistik werden zu über 60 % automatisiert.
Berufe mit zwischenmenschliche Komponente bleiben vielleicht erhalten.
cropFm – Gespräch mit Dr. W. von Lucadou über KI & Bewusstsein
In einer neuen CROPfm-Radio-Sendung spricht Psychologe Dr. Dr. Walter von Lucadou Künstliche Intelligenz.
Im Fokus steht die Frage, ob eine KI jemals Bewusstsein entwickeln kann.
Dazu erklärt Lucadou, wie er selbst Bewusstsein definiert.
Walter von Lucadou forscht seit Jahrzehnten an den Grenzen der Psychologie.
Er selbst glaubt an nichts, hält aber alles für möglich.