Kann man ChatGPT aus der Nutzerinnen- und Nutzerperspektive in der physikalischen Forschung und Lehre trauen?

Die Vertrauenswürdigkeit von ChatGPT als Unterstützung für Forschende, Lehrende und Lernende in der Physik wird in Bezug auf die Einhaltung wissenschaftlicher Leitlinien und den Einsatz in der Lehre untersucht. Dabei wird festgestellt, dass ChatGPT den Definitionen für vertrauenswürdige KI per Konstruktion nicht genügen kann. Die Frage der Vertrauenswürdigkeit verschiebt sich somit auf die Forschenden und Lehrenden, die ChatGPT anwenden. Hierbei ergeben sich Herausforderungen in Bezug auf den Datenschutz und die Qualitätssicherung. In der Lehre zeigen bestimmte Ansätze wie Gamification und virtuelle Diskussionspartner positive Auswirkungen auf die Studienleistungen. ChatGPT selbst verneint die eigene Vertrauenswürdigkeit aufgrund mangelnder Erklärbarkeit und der nicht öffentlichen Trainingsdaten. Letztendlich hängt auch die Vertrauenswürdigkeit von ChatGPT stark vom Einsatzkontext und der Verantwortung der Forschenden ab.