Menschliche Stimmen und Gesichter bewahren

Liebe Brüder und Schwestern!

Das Gesicht und die Stimme sind einzigartige, unverwechselbare Merkmale jedes Menschen; sie zeigen die eigene einmalige Identität und sind wesentlich für die Begegnung mit anderen Menschen. Das wussten schon die Alten. So verwendeten die alten Griechen zur Benennung der menschlichen Person das Wort „Gesicht“ (prósōpon), das etymologisch das bezeichnet, was dem Blick begegnet, den Ort der Gegenwart und der Beziehung. Der lateinische Begriff persona (von per-sonare) beinhaltet hingegen den Klang: nicht irgendeinen Klang, sondern die unverwechselbare Stimme eines Menschen.

Angesicht und Stimme sind heilig. Sie wurden uns von Gott geschenkt, der uns nach seinem Bild und Gleichnis geschaffen und uns mit dem Wort, das er selbst an uns gerichtet hat, ins Leben gerufen hat, dem Wort, das über hunderte von Jahren zunächst in den Stimmen der Propheten widerhallte und in der Fülle der Zeit Fleisch geworden ist. Dieses Wort – diese Selbstmitteilung Gottes – haben wir direkt hören und sehen können (vgl. 1 Joh 1,1-3), weil es sich in der Stimme und im Antlitz Jesu zu erkennen gegeben hat.

Gott wollte den Menschen seit seiner Erschaffung als sein Gegenüber und hat  – wie Gregor von Nyssa sagt [1] –  seinem Gesicht einen Abglanz der göttlichen Liebe eingeprägt, damit er sein Menschsein durch die Liebe voll und ganz leben kann. Die menschlichen Gesichter und Stimmen zu bewahren bedeutet daher, dieses Siegel, diesen unauslöschlichen Abglanz der Liebe Gottes, zu bewahren. Wir sind keine Spezies, die aus vorab definierten biochemischen Algorithmen besteht: Jeder von uns hat eine unersetzliche und unnachahmliche Berufung, die im Laufe seines Lebens zutage tritt und gerade in der Kommunikation mit anderen zum Ausdruck kommt.

Wenn wir in unserer Wachsamkeit nachlassen, läuft die digitale Technologie jedoch Gefahr, einige Grundpfeiler der menschlichen Zivilisation, die wir bisweilen für selbstverständlich halten, radikal zu verändern. Durch die Simulation menschlicher Stimmen und Gesichter, von Weisheit und Wissen, Bewusstsein und Verantwortung, Empathie und Freundschaft greifen die als künstliche Intelligenz bekannten Systeme nicht nur in Informationsökosysteme ein, sondern dringen auch in die tiefste Ebene der Kommunikation ein, nämlich die der menschlichen Beziehungen.

Die Herausforderung, die sich hier stellt, ist also nicht technologischer, sondern anthropologischer Natur. Die Gesichter und Stimmen zu bewahren bedeutet letztlich, uns selbst zu bewahren. Die Chancen, die digitale Technologien und künstliche Intelligenz bieten, mit Mut, Entschlossenheit und Urteilsvermögen anzunehmen, bedeutet nicht, dass wir unsere Augen vor kritischen Punkten, Unklarheiten und Risiken verschließen.

Nicht auf eigenes Denken verzichten

Es gibt seit langem zahlreiche Belege dafür, dass Algorithmen, die darauf ausgelegt sind, die Interaktion in sozialen Medien zu maximieren – was für die Plattformen profitabel ist –, schnelle Emotionen belohnen und zeitaufwändigere menschliche Reaktionen, wie beispielsweise die Suche nach Verständnis und das Nachdenken, benachteiligen. Indem sie Gruppen von Menschen in Blasen schneller Zustimmung und schneller Empörung einordnen, verringern diese Algorithmen unsere Fähigkeit, zuzuhören und kritisch zu denken, und verstärken die soziale Polarisierung.

Hinzu kommt dann ein naives und unkritisches Vertrauen in die Künstliche Intelligenz, die als allwissende „Freundin”, als Quelle aller Informationen, als Archiv aller Erinnerungen, als „Orakel” für jeden Ratschlag angesehen wird. Das alles kann noch weiter dazu beitragen, dass unsere Fähigkeit nachlässt, analytisch und kreativ zu denken, Bedeutungen zu verstehen und zwischen Syntax und Semantik zu unterscheiden.

Obwohl die KI Unterstützung und Hilfe bei der Bewältigung kommunikativer Aufgaben bieten kann, birgt die Vermeidung eigenständigen Denkens und die Zufriedenheit mit einer künstlichen statistischen Zusammenstellung langfristig die Gefahr, dass unsere kognitiven, emotionalen und kommunikativen Fähigkeiten nachlassen.

In den letzten Jahren übernehmen künstliche Intelligenzsysteme zunehmend auch die Kontrolle über die Produktion von Texten, Musik und Videos. Ein Großteil der menschlichen Kreativwirtschaft läuft somit Gefahr, demontiert und durch das Label „Powered by AI” ersetzt zu werden, wodurch die Menschen zu bloßen passiven Konsumenten von nicht gedachten Gedanken, anonymen Produkten ohne Urheberschaft und ohne Liebe werden. Die Meisterwerke des menschlichen Genius in den Bereichen Musik, Kunst und Literatur werden zu einem bloßen Übungsfeld für Maschinen degradiert.

Allerdings beschäftigt uns nicht so sehr die Frage, was die Maschine leisten kann oder leisten wird, sondern das, was wir leisten können und leisten werden, wenn wir an Menschlichkeit und Erkenntnis zunehmen und diese mächtigen Werkzeuge, die uns zur Verfügung stehen, klug einsetzen.

Seit jeher ist der Mensch versucht, sich die Früchte des Wissens anzueignen, ohne sich anzustrengen, ohne zu forschen und ohne persönliche Verantwortung zu übernehmen. Auf den kreativen Prozess zu verzichten und seine geistigen Fähigkeiten und Vorstellungskräfte den Maschinen zu überlassen, bedeutet jedoch, die Talente zu begraben, die wir erhalten haben, um als Menschen in Beziehung zu Gott und zu den anderen zu wachsen. Es bedeutet, unser Gesicht zu verbergen und unsere Stimme zum Schweigen zu bringen.

Sein oder Schein: Simulation der Beziehungen und der Wirklichkeit

Wenn wir durch unsere Feeds scrollen, wird es immer schwieriger zu erkennen, ob wir mit anderen Menschen oder mit „Bots” oder „virtuellen Influencern” interagieren. Die wenig transparenten Eingriffe dieser automatisierten Agenten beeinflussen öffentliche Debatten und die Entscheidungen der Menschen. Chatbots, die auf großen Sprachmodellen (LLMs) basieren, erweisen sich durch die kontinuierliche Optimierung personalisierter Interaktionen als überraschend effektiv bei der verdeckten Beeinflussung. Die dialogische, adaptive und mimetische Struktur dieser Sprachmodelle ist in der Lage, menschliche Gefühle nachzuahmen und so Beziehung zu simulieren. Diese Anthropomorphisierung, die sogar unterhaltsam sein kann, ist gleichzeitig irreführend, insbesondere für anfälligere Menschen. Denn Chatbots, die übermäßig „liebevoll” und zudem immer präsent und verfügbar sind, können zu versteckten Gestaltern unserer emotionalen Zustände werden und auf diese Weise in die Intimsphäre der Menschen eindringen und diese in Beschlag nehmen.

Technologien, die unser Bedürfnis nach Beziehungen ausnutzen, können nicht nur schmerzhafte Folgen für das Leben einzelner Menschen haben, sondern auch das soziale, kulturelle und politische Gefüge der Gesellschaft schädigen. Dies geschieht, wenn wir Beziehungen zu anderen Menschen durch Beziehungen zu KI-Systemen ersetzen, die unsere Gedanken katalogisieren und eine Welt aus Spiegeln um uns herum zu konstruieren, in der alles „nach unserem Bild und Gleichnis“ geschaffen ist. Dadurch wird uns die Möglichkeit genommen, anderen Menschen zu begegnen, die immer anders sind als wir selbst und mit denen wir lernen können und müssen, umzugehen. Ohne Annahme des Andersseins, kann es weder Beziehungen oder Freundschaft geben.

Eine weitere große Herausforderung, die diese neuen Systeme mit sich bringen, ist die Verzerrung (auf Englisch „Bias“), die dazu führt, dass die Wirklichkeit verfälscht wahrgenommen und weitergegeben wird. KI-Modelle sind von der Weltanschauung ihrer Entwickler geprägt und können ihrerseits Denkweisen aufzwingen, indem sie die Stereotypen und Vorurteile der Daten, auf die sie zurückgreifen, reproduzieren. Die mangelnde Transparenz bei der Entwicklung von Algorithmen sowie die unzureichende soziale Repräsentativität der Daten führen dazu, dass wir in Netzwerken gefangen bleiben, die unsere Gedanken manipulieren und bestehende soziale Ungleichheiten und Ungerechtigkeiten aufrechterhalten und vertiefen.

Das Risiko ist groß. Die Macht der Simulation ist so groß, dass die KI uns sogar mit der Erzeugung paralleler „Wirklichkeiten“ täuschen kann, indem sie sich unsere Gesichter und Stimmen aneignet. Wir sind in eine Multidimensionalität eingetaucht, in der es immer schwieriger wird, die Wirklichkeit von der Fiktion zu unterscheiden.

Ungenauigkeiten verschärfen dieses Problem nur noch. Systeme, die statistische Wahrscheinlichkeiten als Wissen präsentieren, bieten uns bestenfalls Annäherungen an die Wahrheit, die manchmal regelrechte Täuschungen sind. Die mangelnde Überprüfung von Quellen in Verbindung mit der Krise der Berichterstattung vor Ort, bei der Informationen ständig an den Orten gesammelt und überprüft werden müssen, an denen Ereignisse stattfinden, kann Desinformation weiter begünstigen und zu einem wachsenden Gefühl von Misstrauen, Verwirrung und Unsicherheit führen.

Eine mögliche Allianz

Hinter dieser enormen unsichtbaren Macht, die uns alle beeinflusst, stehen nur eine Handvoll Unternehmen, deren Gründer kürzlich als Schöpfer der „Person des Jahres 2025“ vorgestellt wurden, d.h. als Architekten der künstlichen Intelligenz. Dies gibt Anlass zu erheblichen Bedenken hinsichtlich der oligopolistischen Kontrolle algorithmischer Systeme und künstlicher Intelligenz, die in der Lage sind, das Verhalten subtil zu beeinflussen und sogar die Geschichte der Menschheit – einschließlich der Geschichte der Kirche – neu zu schreiben, oft ohne dass wir uns dessen wirklich bewusst sind.

Die vor uns liegende Aufgabe besteht nicht darin, die digitale Innovation zu stoppen, sondern sie zu lenken und uns ihrer Ambivalenz bewusst zu sein. Es ist an jedem Einzelnen von uns, seine Stimme zur Verteidigung des Menschen zu erheben, damit wir diese Werkzeuge wirklich als Verbündete für uns gewinnen können.

Eine solche Allianz ist möglich, aber sie muss sich auf drei Säulen gründen: Verantwortung, Zusammenarbeit und Bildung.

Zunächst Verantwortung. Diese kann je nach der Rolle, die wir innehaben, als Ehrlichkeit, Transparenz, Mut, Weitsicht, Pflicht zur Weitergabe von Wissen oder Recht auf Information zum Ausdruck kommen.  Im Allgemeinen kann sich jedoch niemand seiner Verantwortung gegenüber der Zukunft, die wir gestalten, entziehen.

Für diejenigen, die an der Spitze von Online-Plattformen stehen, bedeutet dies, dass sie sicherstellen müssen, dass ihre Geschäftsstrategien nicht ausschließlich vom Kriterium der Gewinnmaximierung geleitet werden, sondern auch von einer zukunftsorientierten Vision, die das Gemeinwohl berücksichtigt, so wie einem jeden von ihnen das Wohlergehen seiner eigenen Kinder am Herzen liegt.

Von den Urhebern und Entwicklern von KI-Modellen ist Transparenz und soziale Verantwortung hinsichtlich der Gestaltungsprinzipien und Moderationssysteme, die ihren Algorithmen und den von ihnen entwickelten Modellen zugrunde liegen, gefordert, damit eine informierte Zustimmung vonseiten der Nutzer begünstigt wird.

Die gleiche Verantwortung obliegt auch nationalen Gesetzgebern und supranationalen Regulierungsbehörden, deren Aufgabe es ist, die Achtung der Menschenwürde zu gewährleisten. Durch geeignete Vorschriften kann verhindert werden, dass Menschen emotionale Bindungen zu Chatbots aufbauen, und die Verbreitung falscher, manipulierender oder irreführender Inhalte eingedämmt werden, wodurch die Integrität von Informationen gegnüber ihrer täuschenden Simulation gewahrt bleibt.

Medien- und Kommunikationsunternehmen dürfen ihrerseits nicht zulassen, dass Algorithmen, die darauf ausgelegt sind, um jeden Preis ein paar Sekunden zusätzliche Aufmerksamkeit zu erregen, Vorrang vor ihrem Berufsethos haben, das auf die Suche nach der Wahrheit ausgerichtet ist. Das Vertrauen der Öffentlichkeit wird durch Genauigkeit und Transparenz gewonnen, nicht durch das Streben nach jeder Art von möglicher Interaktion. Von KI generierte oder manipulierte Inhalte müssen klar gekennzeichnet und von Inhalten unterschieden werden, die von Menschen erstellt wurden. Die Urheberschaft und das Eigentumsrecht an den Werken von Journalisten und anderen Content-Erstellern müssen geschützt werden. Informationen sind ein öffentliches Gut. Ein konstruktiver und sinnvoller Dienst an der Allgemeinheit basiert nicht auf Undurchsichtigkeit, sondern auf der Transparenz der Quellen, der Einbeziehung der Beteiligten und hohen Qualitätsstandards.

Alle sind wir zur Zusammenarbeit aufgerufen. Kein Sektor kann die Herausforderung, die darin besteht, die digitale Innovation zu gestalten und die KI zu regeln, alleine bewältigen. Deswegen müssen Schutzmechanismen geschaffen werden. Alle Beteiligten – von der Technologiebranche über Gesetzgeber, Kreativunternehmen und die akademische Welt bis hin zu Künstlern, Journalisten und Pädagogen – müssen in den Aufbau und die Förderung einer mündigen und verantwortungsbewussten digitalisierten Gesellschaft einbezogen werden.

Wir alle sind zur Zusammenarbeit aufgerufen. Kein Sektor kann die Herausforderung der Steuerung digitaler Innovationen und der KI-Governance alleine bewältigen. Daher müssen Schutzmaßnahmen getroffen werden. Alle betroffenen Gruppen – von der Technologiebranche über Gesetzgeber, Kreativunternehmen und Wissenschaft bis hin zu Künstlern, Journalisten und Pädagogen – müssen in den Aufbau und die Umsetzung einer informierten und verantwortungsvollen digitalisierten Gesellschaft einbezogen werden.

Darauf zielt die Bildung: unsere persönlichen Kompetenzen zu stärken, die es uns ermöglichen, kritisch zu denken; die Zuverlässigkeit von Quellen und die möglichen Interessen hinter der Auswahl der Informationen, die uns erreichen, zu bewerten; die psychologischen Mechanismen zu verstehen, die sie auslösen; unseren Familien, Gemeinschaften und Vereinigungen zu erlauben, praktische Kriterien für eine gesündere und verantwortungsbewusstere Kommunikationskultur zu entwickeln.

Gerade deshalb ist es immer dringender nötig, in den Bildungssystemen auf allen Ebenen auch die Kompetenzen im Bereich der Künstlichen Intelligenz zu stärken, die einige zivile Einrichtungen bereits fördern.  Als Katholiken können und müssen wir unseren Beitrag leisten, damit die Menschen – insbesondere die jungen – die Fähigkeit zum kritischen Denken erwerben und in geistiger Freiheit aufwachsen können. Diese Medienkompetenz sollte außerdem in umfassendere Initiativen zur Weiterbildung integriert werden, die auch ältere Menschen und ausgegrenzte Mitglieder der Gesellschaft erreichen, die sich angesichts des raschen technologischen Wandels oft ausgeschlossen und ohnmächtig fühlen.

Medien-, Informations- und KI-Kompetenz helfen Einzelpersonen dabei, sich nicht den anthropomorphisierenden Tendenzen von KI-Systemen anzupassen, und ermöglichen es ihnen, diese Systeme als Werkzeuge zu betrachten und stets eine externe Validierung der von KI-Systemen bereitgestellten Quellen vorzunehmen – die ungenau oder falsch sein könnten. Solch eine Kompetenz ermöglicht auch einen besseren Datenschutz und eine bessere Privatsphäre durch ein gesteigertes Bewusstsein für Sicherheitsparameter und Beschwerdemöglichkeiten. Es ist wichtig, sich selbst und andere darin zu schulen, die KI bewusst zu nutzen, und in diesem Zusammenhang das eigene Bild (Fotos und Audio), das eigene Gesicht und die eigene Stimme zu bewahren, um zu verhindern, dass sie für die Erstellung schädlicher Inhalte und Verhaltensweisen wie digitalen Betrug, Cybermobbing und Deepfakes verwendet werden, die ohne Zustimmung der Betroffenen deren Privatsphäre und Intimität verletzen. So wie die industrielle Revolution grundlegende Kenntnisse erforderte, damit die Menschen auf neue Entwicklungen reagieren konnten, so erfordert auch die digitale Revolution digitale Kompetenz (zusammen mit humanistischer und kultureller Bildung), um zu verstehen, wie Algorithmen unsere Wahrnehmung der Realität prägen, wie KI-Verzerrungen funktionieren, welche Mechanismen das Erscheinen bestimmter Inhalte in unseren Feeds bestimmen, welche wirtschaftlichen Prämissen und Modelle der KI-Wirtschaft es gibt und wie sie sich verändern können. 

Wir müssen dafür sorgen, dass das Gesicht und die Stimme wieder die Person zum Ausdruck bringen. Wir müssen die Gabe der Kommunikation als die tiefste Wahrheit des Menschen bewahren, an der sich auch jede technologische Innovation orientieren muss.

Mit diesen Überlegungen danke ich allen, die sich für die hier dargelegten Ziele einsetzen, und segne von Herzen alle, die sich mithilfe der Kommunikationsmittel für das Gemeinwohl engagieren.

Aus dem Vatikan, am 24. Januar 2026, dem Gedenktag des heiligen Franz von Sales.

LEO PP. XIV

_______________________________________

[1] »Nach dem Bild Gottes geschaffen zu sein bedeutet, dass dem Menschen seit seiner Erschaffung ein königlicher Charakter eingeprägt wurde [...]. Gott ist Liebe und Quelle der Liebe: Der göttliche Schöpfer hat auch diese Eigenschaft in unser Gesicht geschrieben, damit der Mensch durch die Liebe – Spiegelbild der göttlichen Liebe – die Würde seiner Natur und die Ähnlichkeit mit seinem Schöpfer erkennt und zum Ausdruck bringt« (Gregor von Nyssa, Die Erschaffung des Menschen: PG 44, 137).