Vertrauensbildende Maßnahmen am Beispiel von KI-Anwendungen in der Hochschulbildung

Im folgenden Beitrag werden die Fragen „Wie werden KI-Anwendungen in der (Hochschul-)Bildung eingesetzt?“ und „Wie kann (berechtigtes) Vertrauen in bestehende KI-Anwendungen aufgebaut werden?“ mit Hilfe einer Literaturanalyse bestehender angewandter Forschung beantwortet. Über Elicit, Google Scholar und ScienceDirect werden ab dem Jahr 2014 begutachtete englischsprachige Fachartikel recherchiert und anhand des Titels und des Abstracts ex- bzw. inkludiert. Der Fokus liegt auf den fünf Schlüsselwörtern Vertrauen, Künstliche Intelligenz, Lernen, Nutzungsrate und Bildung. Siebzehn Artikel werden ausgewählt und zusammenfassend qualitativ analysiert. Das Extrakt zeigt, dass KI-Anwendungen in der Bildung vor allem zur Analyse von Studierendendaten und zur Optimierung von Entscheidungsprozessen entlang des Lernprozesses eingesetzt werden. Im Mittelpunkt steht dabei die Individualisierung der Lehre auf Basis der Bedürfnisse der Lernenden. Der Einsatz von KI-Systemen kann die Qualität des Lernens und Lehrens verbessern. Aktuell wird eher die Lehrenden-Lernenden-Beziehung und weniger die Peer-Beziehung fokussiert. Das Vertrauen in KI-Systeme wird von der Reife der Maschinellen Intelligenz und der KI-Repräsentation bestimmt. Kognitive Faktoren wiegen schwerer als emotionale Faktoren. Empfohlen werden interdisziplinäre, langfristige und datenintensive Forschungsprojekte, die sich z. B. auf die Kalibrierung von Vertrauen konzentrieren.