Erklärbarkeit

Das Gebiet der erklärbaren künstlichen Intelligenz (XAI), oder interpretierbaren KI, oder manchmal erklärbaren Maschinelles Lernen ist ein Forschungsfeld zur Erstellung von Modellen mit dem automatischen wissenschaftlichen Prozess, der es Menschen ermöglicht, die Entscheidungen und Vorhersagen des Modells zu verstehen (Gilpin et al. (Erklärungen erklären: Ein Überblick über die Interpretierbarkeit des maschinellen Lernens, IEEE 5th International Conference on Data Science and Advanced Analytics (DSAA) S. 80–89, 2018)). Es steht im Gegensatz zum „Black-Box“-Konzept im maschinellen Lernen (siehe Kap.  3 wo selbst seine Designer nicht erklären können, warum ein Modell zu einer bestimmten Entscheidung gekommen ist.