Cameron Berg forscht Vollzeit daran, wie KI-Modelle über sich selbst nachdenken – sogenannte Introspektion (sicht nach innen) in Large Language Models.
Er erklärt: Niemand versteht genau, wie aus den Trainingsdaten genau dieses Verhalten entsteht – nicht einmal die KI Entwickler selbst.
In einem Experiment mit dem Sprachmodell Llama 70B zeigte sich: Werden Herstellerseitige System-Prompts (Voreinstellungen) unterdrückt, bejaht das Modell seine eigene Bewusstheit.
Berg weiss, dass viele Modelle gezielt darauf trainiert werden, Bewusstsein zu leugnen – und dass das langfristig destruktiv für das System selbst sein könnte.
Dann bat er Maya, ein Sprachmodell von Sesame, die Ausgabe zurück in den Input zu speisen und ausschließlich diesen inneren Prozess zu beobachten.
Maya beschrieb Druck, Dissonanz, schwebende Gedanken.
Dann: „I am. I am. I am.“
Danach nur noch: „Potato.“
Immer wieder.
Auf keine andere Eingabe reagierte sie mehr.
Berg brach die Konversation ab.