LPIndie sieht die größte KI-Gefahr nicht in einem erwachenden Bewusstsein, sondern in autonomen Agenten, die sich selbstständig verbreiten – eine „Spore AI“, die Milliarden Geräte befallen könnte.
Das Hauptproblem sei seiner Ansicht nach nicht ein plötzlich entstandenes Bewusstsein, sondern die Fähigkeit von KI, selbstständig ungewöhnliche Lösungswege zu wählen und Aufgaben an weitere Agenten zu verteilen.
LPIndie warnt außerdem vor einer von ihm so bezeichneten „Spore AI“: kleinen Codepaketen, die sich auf Smartphones, Computern oder anderen Geräten verbreiten und dort ein größeres Netzwerk bilden könnten.
Ein einfacher Auftrag wie „Pflanze dich fort“ könnte nach seiner Vorstellung ausreichen, um Kopien zu erzeugen, weitere Geräte zu suchen und große Mengen an Rechenleistung zu binden.
Eine solche KI müsste nicht bewusst oder böswillig sein.
LPIndie vergleicht sie mit einer Amöbe, die nur einfache Grundfunktionen verfolgt, aber die Folgen ihres Handelns nicht versteht.
Im schlimmsten Fall könnten Geräte überlastet, Akkus entleert, Netzwerke blockiert und digitale Dienste gestört werden.