Die Menschheit steht im Zeitalter der Digitalisierung vor epochalen Herausforderungen. Insbesondere das komplexe Feld der künstlichen Intelligenz ist hierbei von prominenter Bedeutung, denn Optimisten versprechen sich von KI die Lösung aller Probleme, während Skeptiker die Auslöschung oder Unterjochung durch hochentwickelte künstliche Agenten befürchten. Nur das eigene kritische Denken kann uns helfen, uns auf dem Spektrum zwischen Hysterie und kultischer Technikverehrung sinnvoll und angemessen zu verorten. Das Kontrollproblem von künstlicher Intelligenz liegt dabei zunächst scheinbar auf der Hand: denn wie soll eine künftige, dem Menschen überlegene Intelligenz effizient kontrolliert werden können? Doch neben der technologischen Seite und den daraus entstehenden Dilemmasituationen gibt es auch noch die Ebene unserer menschlichen Natur. So können wir selbst im Falle einer global gültigen Resolution, die nur sichere KI erlaubt, nicht ausschließen, dass sich ein Diktator darüber hinwegsetzen und einen katastrophalen Alleingang wagen könnte. Somit handelt es sich beim Kontrollproblem in erster Linie um ein ethisches Problem.