Allgemeine Künstliche Intelligenz („artificial general intelligence“ oder AGI) ist KI, die dem Menschen in allen intellektuellen Bereichen mindestens ebenbürtig ist. AGI existiert noch nicht und vielleicht wird eine solche KI niemals existieren. Aber alleine die Möglichkeit, dass eine solche Technologie mit nicht zu vernachlässigender Wahrscheinlichkeit einmal existieren könnte, wirft grundlegende ethische Fragen auf. Eine Frage ist die nach der Verteilung von Risiken und Chancen, die für uns Menschen mit der Entwicklung der Technologie einhergehen. In diesem Text argumentiere ich dafür, dass die Verteilung dieser Chancen und Risiken unter dem derzeitigen KI-Regime ungerecht ist. Um dieser Ungerechtigkeit zu begegnen, schlage ich vor, zukünftige KI-Entwicklung in einem relevanten Sinne zu „demokratisieren“.