In diesem Kapitel beschreiben wir die Geschäftsanforderungen und schlagen ein Lösungskonzept für Erklärbarkeit der Ergebnisse vor. Um Vertrauen zwischen Mensch und Maschine aufzubauen, ist es wichtig, die Ergebnisse von Modellen der Künstlichen Intelligenz zu erklären. Transparenz und Rückverfolgbarkeit von Modellen der Künstlichen Intelligenz sind zudem aus gesetzlichen Gründen notwendig. Je nach den zugrunde liegenden Techniken der Künstliche Intelligenz kann dies jedoch sehr schwierig sein. Beispielsweise sind neuronale Netzwerke schwer verständlich. Im Kontext von ERP-Systemen muss die Erklärung zusätzlich in die Geschäftssprache übersetzt werden. Daher müssen Designer von Benutzungsoberflächen viel Zeit investieren, um für jeden Anwendungsfall die statischen Zahlen in der Domäne des Endbenutzers zu übertragen.