Papst Leo XIV. warnt vor generativer KI

Leo über KI: Keine Ehrfurcht vor der Schönheit der Schöpfung

Papst Leo XIV. hat seine Kritik an generativer Künstlicher Intelligenz erneuert. Auf einer Jugendkonferenz warnte er: „KI kann keine wahre Weisheit bieten.“ Kommt seine Mahnung in Kirche und Gesellschaft an?

Von Philipp Greifenstein,

Papst Leo ist einer der lautstärksten Kritiker von generativer Künstlicher Intelligenz (genAI). Bereits im Juni 2025 warnte er in einer Ansprache bei einer Konferenz im Vatikan vor der unreflektierten Nutzung von Werkzeugen wie ChatGPT, Grok & Co., „die schnelle Entwicklung der künstlichen Intelligenz“ werfe „tiefere Fragen auf, die den richtigen Einsatz einer solchen Technologie im Hinblick auf die Schaffung einer wahrhaft gerechteren und menschlicheren globalen Gesellschaft betreffen“. Als beunruhigend beschrieb er die „möglichen Auswirkungen auf die Offenheit der Menschheit für Wahrheit und Schönheit“ und die menschliche „Fähigkeit, die Realität zu erfassen und zu verarbeiten“.

Seine Kritik hat er nun während einer Ansprache auf der National Catholic Youth Conference in den USA am vergangenen Freitag wiederholt. Die Rede des Papstes wurde digital übertragen, sein Treffen mit den Jugendlichen steht als YouTube-Video zur Verfügung. Anknüpfend an seine Botschaft vom Juni warnte Papst Leo die Jugendlichen: „Seid umsichtig, seid weise, achtet darauf, dass eure Nutzung von KI euer wahres menschliches Wachstum nicht einschränkt.“

Explizit warnte der Papst die Schüler:innen vor dem Gebrauch von „KI“-Werkzeugen bei der Erledigung der Hausaufgaben. Seine Kritik geht aber weit über die Nutzung von generativer KI in Schulen hinaus:

“[AI] cannot offer real wisdom. […] It misses a very important human element. AI will not judge between what is truly right and wrong, and it won’t stand in authentic wonder before the beauty of God’s creation.”

„[KI] kann keine wahre Weisheit bieten. […] Ihr fehlt ein sehr wichtiges menschliches Element. Künstliche Intelligenz wird nicht zwischen richtig und falsch unterscheiden können und sie kann nicht in authentischer Ehrfurcht vor der Schönheit der Schöpfung Gottes stehen.“

Seit seinem Amtsantritt warnt Papst Leo immer wieder vor den Gefahren der Digitalisierung und insbesondere vor Algorithmen und generativer KI. Dabei lebt Leo XIV. / Robert Prevost keineswegs digitalabstinent. In früheren Jahren bediente er persönlich seinen Twitter-Account, informierte sich selbst bei Online-Medien und probierte digitale Werkzeuge aus. Seine scharfe Digitalisierungs-Kritik steht zudem in Kontinuität mit derjenigen seines Vorgängers im Papstamt der römisch-katholischen Kirche, Papst Franziskus.

Es ist nicht verdient und es ist nicht fair

Wie bei Franziskus steht im Zentrum von Leos Kritik an der Digitalisierung die Warnung vor den Auswüchsen der kapitalistischen Weltwirtschaft, unter der vor allem Menschen in Entwicklungs- und Schwellenländern und die Natur leiden. Auch beim Umgang mit generativer KI gehe es darum, „die unverletzliche Würde jedes Menschen zu schützen und den kulturellen und spirituellen Reichtum und die Verschiedenheit der Völker dieser Welt zu achten“, erklärte der Papst in seiner Botschaft vom Juni 2025.

Die Folgen des „KI“-Hypes für die Umwelt und für das menschliche Zusammenleben müssten ebenso Teil einer umfassenden ethischen Beurteilung der neuen Technik sein wie die Konsequenzen für die „intellektuelle und neurologische Entwicklung“ von Kindern und jungen Menschen. Einen neuen Akzent setzt Leo dadurch, dass er seine Kritik in die Lebenssituation von jungen Menschen hinein kontextualisiert:

„Noch nie hatte eine Generation einen so schnellen Zugang zu der Menge an Informationen, die heute durch die künstliche Intelligenz zur Verfügung steht. Aber auch hier gilt, dass der Zugang zu Daten – wie umfangreich auch immer – nicht mit Intelligenz verwechselt werden darf, […]. Letztlich hat echte Weisheit mehr mit dem Erkennen des wahren Sinns des Lebens zu tun als mit der Verfügbarkeit von Daten.“

Den US-amerikanischen Jugendlichen, zu denen er am Freitag sprach, empfahl Papst Leo denn auch keinen Totalverzicht auf generative KI, sondern einen bewussten Umgang mit den neuen Werkzeugen, deren Nutzung Schüler:innen wie Erwachsenen derzeit fast ubiquitär aufgenötigt wird:

“Use it in such a way that if it disappeared tomorrow, you would still know how to think, how to create, how to act on your own, how to form authentic friendships. […] AI cannot ever replace the unique gift that you are to the world.”

„Nutze [KI-Werkzeuge] so, dass du auch dann noch denken, kreativ sein, selbstständig handeln und echte Freundschaften schließen kannst, wenn sie morgen verschwände. […] KI kann niemals das einzigartige Geschenk ersetzen, das du für die Welt bist.“

„KI“-Nutzung und ihre Kritik nehmen zu

Die Mahnungen des Papstes fallen in eine Zeit, in der immer mehr Nutzer:innen „KI“-Werkzeuge in ihrem Alltag verwenden. Einer neuen Forsa-Umfrage im Auftrag des TÜV-Verbands zufolge nutzen 65 % der Befragten „KI“-Werkzeuge wie ChatGPT (Oktober 2023: 37 %). Die Nutzung ist unter jüngeren Menschen weiter verbreitet als unter älteren: 55 % der Befragten im Alter zwischen 16 und 29 gaben an, generative KI täglich oder mehrfach pro Woche anzuwenden.

Besonders häufig wird „KI“ zur Internet-Recherche verwendet (72 %). Dieser Wert ist seit dem vergangenen Jahr auch stark gestiegen. Weniger häufig als noch 2024 werden „KI“-Werkzeuge hingegen für das Verbessern und Erstellen von Texten verwendet. 27 % der Nutzer:innen sehen „KI“ als „Coach“ für Lebensfragen und 6 % nehmen sie laut der Forsa-Umfrage sogar als „Freund“ wahr. Derweil häufen sich Nachrichten und erste wissenschaftliche Untersuchungen über die Gefahren von generativer KI gerade für junge und vulnerable Menschen. Die Debatte über den Einfluss von „KI“ auf die psychische Gesundheit von Jugendlichen hat inzwischen die Anbieter zur Einführung neuer Sicherheitsvorkehrungen gezwungen, mehrere Klagen von Eltern sind (insbesondere in den USA) anhängig, berichtet beck-aktuell.

Viele Nutzer:innen von Social-Media-Plattformen und unterschiedlichen Softwares sind über den tatsächlichen Nutzen von „KI“-Werkzeugen und ihren Produkten inzwischen in Zweifel geraten: Erste wissenschaftliche Untersuchungen zeigen, dass „KI“-Werkzeuge nicht zu einer Produktivitätssteigerung führen. Die Allgegenwart von „KI-Schrott“ (AI-Slop) in Social-Media-Netzwerken, insbesondere auf den Plattformen des Meta-Konzerns und auf X, auf denen Erzeugnisse generativer KI von den Algorithmen besonders gepusht werden, nervt viele menschliche Nutzer:innen zunehmends. Dazu tragen insbesondere auch die Neuentwicklungen bei „KI“-Werkzeugen zur Bild- und Videoerstellung bei.

Auch wenn die zugrundeliegenden Rechenmodelle und Trainingsdaten sich unterscheiden, sind alle „KI“-Werkzeuge fehleranfällig: In bis zu 40 % aller Anwendungsfälle stellen ChatGPT & Co. Zusammenhänge falsch dar, erfinden Informationen und sogar falsche Quellen, hat eine Studie der Europäischen Rundfunkunion ergeben.  Joachim Bühler, Geschäftsführer des TÜV-Verbands, erklärte angesichts der Ergebnisse der Forsa-Studie, die Sicherheitskultur halte mit der zunehmenden Nutzung von „KI“-Werkzeugen nicht mit:

„Viele erkennen den Unterschied zwischen realen und KI-Inhalten kaum und unterschätzen die Risiken von Deepfakes und Datenlecks. Wir müssen dafür sorgen, dass zur breiten Nutzung auch ein sicherer und aufgeklärter Umgang mit KI gehört.“

Dinge, die vermeidbar sind

Trotz der Warnungen nicht zuletzt des Papstes nutzen auch katholische Institutionen und Medien verstärkt „KI“-Werkzeuge. Die römisch-katholische Bischofskonferenz und zahlreiche (Erz-)Bistümer in den USA fluten ihre digitalen Kanäle geradezu mit zeitgeistigem „KI-Schrott“, der sich an die Ästhetik der „Make-America-Great-Again“-Bewegung Donald Trumps anlehnt. Eine Mode, die zunehmend auch auf deutschsprachige Accounts von Kirchen und Kirchenmedien übergreift – und von privaten Nutzer:innen und Influencer:innen häufig unreflektiert befördert wird.

(Über die problematischen Bildprogramme von generative KI klärte bei einem Eule-Live-Abend der Konzeptkünstler und „KI“-Kritiker Nils Pooker auf. Eine Zusammenfassung der Inhalte des Abends findet sich hier in der Eule.)

Im Herbst 2025 nutzte auch die Evangelische Kirche in Deutschland (EKD) „KI“ für ihre neue Klimakampagne „Du zählst“. Für die Verbreitung mittels Online-Werbung auf Instagram und YouTube wurden vier Kurzvideos mit generativer KI erstellt (wir berichteten). Kritik an diesem Vorgehen wurde auch auf der Tagung der EKD-Synode im November 2025 in Dresden geäußert. Die Kritik eines Synodalen wurde jedoch vom Rat der EKD mit Hinweisen auf die geringen Produktionskosten und erzielte Reichweite (5 Millionen Views) zurückgewiesen. Nachfragen zur inhaltlich-theologischen Gestaltung blieben unbeantwortet. Außerdem beschloss die Synode, dass die evangelische Kirche eine eigene KI-Strategie entwickeln soll.

Glaubt man hingegen Papst Leo, ist eine Nutzung von „KI“-Werkzeugen nur in engen Grenzen angeraten: Zu vermeiden sind eine persönliche Bindung an die Werkzeuge, das Teilen von sensiblen Nutzer:innendaten und privaten Informationen. Eine weise Mahnung, da immer wieder Datenlecks mit hundertausenden privaten Aufnahmen von realen Menschen auftreten, die von Nutzer:innen auf die Server der Werkzeuge hochgeladen wurden, um „KI“-Videos und -Bilder aus ihnen generieren zu lassen.

Auf dem Eule-Live-Abend riet Nils Pooker im Umgang mit „KI“-Werkzeugen zu einer „Ethik des Unterlassens“. Eine solche Verzichtsethik muss nicht jedes Experimentieren mit der neuen Technik kategorisch ausschließen, vermeidet aber unsinnige und überflüssige Nutzungen, die in ihrer Menge schließlich auch katastrophale Auswirkungen auf die Umwelt und das Klima haben.

Für kirchliche Zwecke gibt es zum Beispiel mit der evangelischen Bilddatenbank „Fundus“ bereits ein kirchensteuerfinanziertes Angebot mehrerer Landeskirchen, das eine „KI“-Nutzung für die Illustration von Medien überflüssig maht. Weil sich generative KI bei der Erstellung von Texten, Bildern und Videos ungefragt und großzügig am geistigen Eigentum von Autor:innen und Künstler:innen vergreift, sind auch Fragen nach dem Urheberrecht weiterhin offen.

Papst Leo: Die Logik des Algorithmus brechen

Vor allem aber scheinen eine extensive Nutzung von generativer KI und die Verbreitung von „KI“-erstellten Inhalten im Widerspruch zum Authentizitätsversprechen (digitaler) Kommunikation zu stehen. Das sehen auch zahlreiche Expert:innen aus der Öffentlichkeitsarbeit und PR-Branche so. „Sogenannter Content ist bereits im Überfluss vorhanden“, sagten die PR-Expert:innen dem aktuellen PR-Trendmonitor von News Aktuell und PER. Der von „KI“ noch weiter angetriebenen „Content-Flut“ müsse man „hochwertige Inhalte mit Mehrwert und Relevanz“ entgegenstellen. Nur 1 % der Befragten ist der Meinung, man könne dem Druck mit „einer höheren Veröffentlichungsfrequenz“ begegnen.

„Inhalte, die echte Menschen in den Mittelpunkt stellen, sowie von echten Menschen erstellte Inhalte“ seien „besonders wirkungsvoll“, bekundete gut ein Viertel der Befragten. Weitere Möglichkeiten in Zeiten von „KI-Schrott“ und „Content-Overkill“ Akzente zu setzen, sind laut den PR-Expert:innen „intensives Storytelling“, analoge Begegnungen auf Konferenzen, Messen und Veranstaltungen sowie „Nischen- und Micro-Communities“ – und selbst die „klassischer Pressearbeit“ erfreut sich angesichts der Unsicherheiten von „KI“ bei immerhin 24 % der Befragten (neuer oder bleibender) Beliebtheit.

Mit seiner Mahnung zu Vorsicht und Zurückhaltung im Umgang mit „KI“ und zur Nachdenklichkeit angesichts von Algorithmen und Plattformmacht liegt Papst Leo XIV. sicher nicht auf der Linie der Interessen der großen Medienkonzerne, könnte aber zum Anstifter eines neuen digitalen Zeitgeistes werden, der stärker an der tatsächlichen conditio humana, an einer authentischen Sicht auf Menschheit und Schöpfung interessiert ist als an der Gewinnmaximierung der Plattform-Giganten. Vor Filmemacher:innen betonte Papst Leo vor wenigen Tagen:

„Die Logik des Algorithmus neigt zur Wiederholung dessen, was ‚funktioniert‘, aber die Kunst macht offen für das, was möglich ist. Nicht alles muss unmittelbar oder vorhersehbar sein: Verteidigen Sie die Langsamkeit, wenn sie nötig ist, die Stille, wenn sie spricht, das Anderssein, wenn es herausfordert.“

Unterstütze uns!

Die Eule bietet Nachrichten und Meinungen zu Kirche, Politik und Kultur, immer mit einem kritischen Blick aufgeschrieben für eine neue Generation. Der unabhängige Journalismus und die Stimmenvielfalt der Eule werden von unseren Abonnent:innen ermöglicht. Mit einem Eule-Abo unterstützst Du die Arbeit der Redaktion, die faire Entlohnung unserer Autor:innen und die Weiterentwicklung der Eule.

Jetzt informieren und Eule-Abo abschließen!

Mehr:

* In diesem Text wird „KI“ an entsprechenden Stellen in Anführungszeichen geschrieben, um die generative Künstliche Intelligenz (genAI) der Gegenwart von Ideen von allgemeiner Künstlicher Intelligenz abzugrenzen.

Mitdiskutieren