Digitalisierung sowie KI im Allgemeinen und Sprachmodelle wie ChatGPT im Besonderen verändern nachhaltig die Gesellschaft. Es gibt im Rahmen dieser Entwicklung unbestritten viele Vorteile, aber auch Nachteile; manche sind nicht sofort offensichtlich, sie ergeben sich als nicht-intendierte Nebenwirkungen. In diesem Aufsatz stellen wir dazu Überlegungen an mit Blick auf die zentrale Funktion gemeinsamer Wahrnehmungen, Überzeugungen und Interpretationsmuster der Mitglieder der Gesellschaft, dem „gemeinsamen Spielverständnis“, das die Grundlage gesellschaftlicher Kooperation bzw. die Bewältigung gesellschaftlicher Konflikte darstellt. Wir vertreten die These, dass der verbreitete Gebrauch von KI-basierten Sprachmodellen dieses gemeinsame Spielverständnis gefährden kann: Einerseits aufgrund des Vertrauens vieler Menschen in die Antworten der Sprachmodelle, ohne dass sie Kenntnis über deren Wirkungsweise und mögliche „Halluzinationen“ der Sprachmodelle haben; andererseits, weil dies die Möglichkeiten der Manipulation sowie des Missbrauchs, aber auch der unreflektierten Übernahme verfehlter Aussagen, Ansichten und Positionen, erheblich vergrößert, was einen vernünftigen gesellschaftlichen Diskurs immer schwieriger werden lässt.