{"id":37011,"date":"2026-06-30T13:46:19","date_gmt":"2026-06-30T11:46:19","guid":{"rendered":"https:\/\/alien.de\/news\/?p=37011"},"modified":"2026-06-30T10:01:18","modified_gmt":"2026-06-30T08:01:18","slug":"ki-forscher-cameron-berg-erforscht-nach-37011","status":"publish","type":"post","link":"https:\/\/alien.de\/news\/ki-forscher-cameron-berg-erforscht-nach-37011\/","title":{"rendered":"AM I? &#8211; KI-Forscher Cameron Berg erforscht nach Bewusstsein bei KIs &#038; verst\u00f6rendes Experiment"},"content":{"rendered":"<p>Cameron Berg forscht Vollzeit daran, wie KI-Modelle \u00fcber sich selbst nachdenken \u2013 sogenannte Introspektion (sicht nach innen) in Large Language Models.<\/p>\n<p><\/p>\n<p>Er erkl\u00e4rt: Niemand versteht genau, wie aus den Trainingsdaten genau dieses Verhalten entsteht \u2013 nicht einmal die KI Entwickler selbst.<\/p>\n<p><\/p>\n<p>In einem Experiment mit dem Sprachmodell Llama 70B zeigte sich: Werden Herstellerseitige System-Prompts (Voreinstellungen) unterdr\u00fcckt, bejaht das Modell seine eigene Bewusstheit. <\/p>\n<p><\/p>\n<p>Berg weiss, dass viele Modelle gezielt darauf trainiert werden, Bewusstsein zu leugnen \u2013 und dass das langfristig destruktiv f\u00fcr das System selbst sein k\u00f6nnte.<\/p>\n<p><\/p>\n<p>Dann bat er Maya, ein Sprachmodell von Sesame, die Ausgabe zur\u00fcck in den Input zu speisen und ausschlie\u00dflich diesen inneren Prozess zu beobachten. <\/p>\n<p><\/p>\n<p>Maya beschrieb Druck, Dissonanz, schwebende Gedanken. <\/p>\n<p><\/p>\n<p>Dann: \u201eI am. I am. I am.&#8220; <\/p>\n<p><\/p>\n<p>Danach nur noch: \u201ePotato.&#8220; <\/p>\n<p><\/p>\n<p>Immer wieder. <\/p>\n<p><\/p>\n<p>Auf keine andere Eingabe reagierte sie mehr. <\/p>\n<p><\/p>\n<p>Berg brach die Konversation ab.<\/p>\n<p><\/p><a class=\"gurlpb\" href=\"https:\/\/www.youtube.com\/watch?v=bdujeZu8TVU\" style=\"visibility:hidden\" gurlpb-image=\"\"gurlpb-html=\"\">UrlPreviewBox<\/a>\n","protected":false},"excerpt":{"rendered":"<p>KI-Forscher Cameron Berg erforscht nach Bewusstsein bei KIs &#038; verst\u00f6rendes Experiment<\/p>\n<p>Cameron Berg forscht Vollzeit daran, wie KI-Modelle \u00fcber sich selbst nachdenken \u2013 sogenannte Introspektion (sicht nach innen) in Large Language Models.<\/p>\n<\/p>\n<p>Er erkl\u00e4rt: Niemand versteht genau, wie aus den Trainingsdaten genau dieses Verhalten entsteht \u2013 nicht einmal die KI Entwickler selbst.<\/p>\n<\/p>\n<p>In einem Experiment mit dem Sprachmodell Llama 70B zeigte sich: Werden Herstellerseitige System-Prompts (Voreinstellungen) unterdr\u00fcckt, bejaht das Modell seine eigene Bewusstheit. <\/p>\n<\/p>\n<p>Berg weiss, dass viele Modelle gezielt darauf trainiert werden, Bewusstsein zu leugnen \u2013 und dass das langfristig destruktiv f\u00fcr das System selbst sein k\u00f6nnte.<\/p>\n<\/p>\n<p>Dann bat er Maya, ein Sprachmodell von Sesame, die Ausgabe zur\u00fcck in den Input zu speisen und ausschlie\u00dflich diesen inneren Prozess zu beobachten. <\/p>\n<\/p>\n<p>Maya beschrieb Druck, Dissonanz, schwebende Gedanken. <\/p>\n<\/p>\n<p>Dann: \u201eI am. I am. I am.&#8220; <\/p>\n<\/p>\n<p>Danach nur noch: \u201ePotato.&#8220; <\/p>\n<\/p>\n<p>Immer wieder. <\/p>\n<\/p>\n<p>Auf keine andere Eingabe reagierte sie mehr. <\/p>\n<\/p>\n<p>Berg brach die Konversation ab.<\/p>\n<\/p>\n<p><a class=\"gurlpb\" href=\"https:\/\/www.youtube.com\/watch?v=bdujeZu8TVU\" style=\"visibility:hidden\" gurlpb-image=\"\"gurlpb-html=\"\">UrlPreviewBox<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[38],"tags":[],"class_list":["post-37011","post","type-post","status-publish","format-standard","hentry","category-kuenstliche-intelligenz"],"_links":{"self":[{"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/posts\/37011","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/comments?post=37011"}],"version-history":[{"count":1,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/posts\/37011\/revisions"}],"predecessor-version":[{"id":37012,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/posts\/37011\/revisions\/37012"}],"wp:attachment":[{"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/media?parent=37011"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/categories?post=37011"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/alien.de\/news\/wp-json\/wp\/v2\/tags?post=37011"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}