Die erfolgreiche Implementierung von Künstlicher Intelligenz (KI) in Unternehmen hängt wesentlich von Vertrauen und Akzeptanz der Nutzenden ab. Eine zentrale Herausforderung ist die Intransparenz vieler KI-Modelle, die als „Black Boxes“ gelten und durch schwer nachvollziehbare Entscheidungen Unsicherheit erzeugen. Vertrauen wird damit zum leitenden Gestaltungsprinzip. Der „Human-in-the-Loop“-Ansatz (HITL) bindet gezielt menschliche Expertise in Entwicklung und Betrieb ein und erhöht Transparenz, Nachvollziehbarkeit und Verantwortlichkeit. Auf Basis eines Modells zur akzeptanz- und vertrauensförderlichen KI-Implementierung untersucht dieser Beitrag, wie eine rollenbasierte Entwicklung, Einführung und Nutzung KI-basierter Services unter Berücksichtigung des HITL-Ansatzes gestaltet werden kann.