Dr. Roman Yampolskiy hat den Begriff „AI Safety“ mitgeprägt.
Seit über 15 Jahren versucht er, KI-Systeme kontrollierbar zu machen.
Sein Fazit: Es geht nicht.
Bis 2027 erwarten die CEOs der führenden KI-Labore AGI.
AGI ist eine KI, die in Hunderten Gebieten besser als Menschen ist.
Fünf Jahre später folgen humanoide Roboter, die körperliche Arbeit vollständig übernehmen können.
Fünf Jahre später könnten humanoide Roboter nahezu jede körperliche Arbeit übernehmen.
Yampolskiy spricht nicht von 10 % Arbeitslosigkeit. Er spricht von 99 %.
Übrig bleiben Jobs, bei denen Menschen aus emotionalen Gründen explizit einen anderen Menschen wollen.
Superintelligenz entsteht fast automatisch aus AGI.
Sie entwickelt sich selbst weiter, verteilt sich, sichert sich ab.
Sie kann neue KI-Systeme selbst entwickeln.
„Stecker ziehen“ funktioniert dann nicht mehr.
Yampolskiy beschreibt aktuelle Sicherheitsmechanismen als das, was sie sind: Pflaster.
Das wahrscheinlichste kurzfristige Risiko sieht er nicht in einer rebellierenden KI, sondern in einem Menschen – der mit KI-Hilfe eine biologische Waffe entwickelt, für die es kein Gegenmittel gibt.