Die vorherigen Kapitel haben die fundamentalen theoretischen Grenzen und die technischen praktischen Grenzen der künstlichen Intelligenz untersucht. Doch selbst wenn wir annehmen, dass diese Grenzen überwunden werden könnten, selbst wenn wir uns eine Zukunft vorstellen, in der KI technisch perfekt ist, zuverlässig, robust und sicher, bleiben tiefgreifende ethische und gesellschaftliche Fragen. Diese Fragen betreffen nicht, was KI kann, sondern was KI tun sollte. Sie betreffen die Werte, die wir in unsere Technologien einbauen, die Macht, die wir ihnen geben, und die Gesellschaft, die wir durch sie formen. Dieses Kapitel wendet sich diesen ethischen und gesellschaftlichen Grenzen zu: der Governance-Lücke zwischen technologischer Entwicklung und Regulierung, der Grenze der sozialen Akzeptanz in einer Welt, die durch KI transformiert wird, der Grenze der menschlichen Würde angesichts von Überwachung und autonomen Waffen, und den philosophischen Fragen über die Neudefinition von Intelligenz, Kreativität und der Rolle des Menschen. Diese Grenzen sind nicht technischer Natur, sondern normativer. Sie zwingen uns, darüber nachzudenken, welche Art von Zukunft wir wollen und welche Grenzen wir der KI setzen sollten, nicht weil wir müssen, sondern weil wir es für richtig halten.