守护人类真实的声音与面容

亲爱的弟兄姊妹们：

面容和声音是每个人所独具的鲜明特征，展现了每个人独一无二的身分，也构成每一 次人与人相遇的要素。古人深谙其道。因此，古希腊人用「面容」（prósōpon）一词 来定义人，其字源学上指的是目光所及之处，即人的临在和关系之所在。而拉丁文 「persona」（源自 per-sonare）则包含了声音：并非泛指任何声音，而是一听就能认 出来是某人的声音。

容貌和声音都是神圣的，当天主按照自己的肖像和模样创造我们，并使我们获得生命 时，是祂亲自对我们说的圣言所赋予的。这圣言透过先知们的声音世世代代回响着， 并在时期圆满的时候，成了血肉。我们听见过也亲眼看见过这圣言（参阅：若壹一1~3）， 因为这圣言──天主的启示──已在天主子耶稣的声音与面容中向我们显明了。

自创世之初，天主便愿意人成为与祂对话的对象。正如圣额我略‧尼撒（Saint Gregory of Nyssa）所阐明的：1 天主将祂爱的反映烙印在我们的面容上，使我们能借着爱而圆 满地活出我们的人性。因此，守护人类真实的面容和声音，就是守护这不可磨灭、反 映天主之爱的印记。我们并非由预设的生化算法所构成的物种，我们每一个人都拥有 无可取代、无法仿效的召叫，这召叫源于我们各自的生活经验，并在与他人的往来中 彰显出来。

如果我们在这方面不加以守护，数字科技可能会彻底改变人类文明的一些基本支柱， 而这些支柱，我们往往视为是理所当然的。这些被称为人工智能的系统透过仿真人的 声音和面容、智能与知识、意识与责任、同理心与友谊，不仅会干扰信息生态系统， 更会侵入沟通的最深层次──人与人之间的关系。 

因此，人类面对的挑战不在于技术面，而是人类学的问题──有关人的本质。守护人 类真实的面容和声音，归根结底就是守护我们自己。人们应以勇气、决心和洞察力拥 抱数字科技和人工智能带来的机遇，但这并不表示就能对其中的关键问题、复杂性及 风险视若无睹。 

切勿放弃自己的想法

长期以来，已有大量证据显示，有些算法为了让使用者深度参与，并使社群平台有最 大获利，会奖励快速的情绪表达，而处分那些需要较多时间的人性响应，例如：理解 和反思。这些算法将人群限制在易于达成共识和轻易发怒的「同温层」中，从而削弱 了人们倾听和批判性思考的能力，并加剧了社会的两极化。

此外，有些人以一种天真且缺乏批判的态度依赖人工智能，将其视为无所不知的「朋 友」、各种信息的供应器、所有记忆的储存库、任何问题的「断语」，凡此种种都会 进一步侵蚀我们的分析能力和创意思维，降低我们对意义的理解深度，并使辨识句子 结构（语法）与词汇意思（语义）的能力日益退化。

虽然人工智能在处理与沟通相关的任务上能提供支持与协助，但如果我们因省略自己 需要思考而付出的努力，就此满足于人为的统计汇编，久而久之，我们的认知、情感 和沟通能力就会陷入被弱化的风险。

近年来，人工智能系统日益掌控着文字、音乐和影片的制作。因此，大部分的人类创 意产业面临瓦解的危机，作品被标示着「由人工智能驱动」（Powered by AI）的产品取 代。人们将成为那些不经思考、匿名、未经授权且无人问津的产品的被动消费者。同 时，人类在音乐、艺术和文学领域的经典作品，竟沦为机器的训练场。

因此，我们真正该关心的问题，并非机器能做什么或将来能做什么，而是我们能做什 么、将来能做什么，从而在运用人工智能这些强大工具的过程中，能不断提升人性、 增长知识。人的诱惑总是希望无须付出努力就能得到知识和研究成果，既可占为己有， 又无需承担个人责任。然而，放弃创造的过程，将我们的思考功能和想象力，屈从于 机器，就等于埋葬了为使我们在与天主和他人关系中成长的天赋。 

真实存在还是虚假伪装：模拟关系与模拟现实

当我们浏览信息页面时，越来越难以分辨我们究竟是在与真人互动，还是在与机器人 （bot）或虚拟网红（virtual influencer）互动。这些自动代理人以不透明的方式介入， 旨在影响公共讨论与人们的选择。尤其值得一提的是，基于大型语言模型（LLM）的 聊天机器人（chatbot），透过不断改良的个人化互动，其隐晦的说服力，展现出惊人 的成效。这些语言模型具有对话性、适应性与模仿性的结构，能够仿真人类情感，进 而建构人际关系。这种「拟人化」（anthropomorphization），有时甚至逗人喜爱，但也 具有欺骗性，尤其对最脆弱的族群而言更是如此。因为过度「亲切」的聊天机器人， 除了时刻在线之外，还会在不知不觉中塑造我们的情绪状态，从而侵入并占据人们的 私密空间。 

那些为了满足我们对人际关系的需求所发展出来的技术，不仅会为个人的生命带来痛 苦的后果，也会破坏社会、文化和政治的结构。若我们以人工智能取代与他人的真实 互动，让计算机系统记录并分类我们的思想，结果将会是在我们的周围建立起一个像 镜子的世界，其中一切都「按我们的肖像与模样」塑造而成。如此一来，我们被剥夺 了与其它不同人相遇的机会，而正是在这种人与人之间的差异中，我们才能够、也必 须学习建立关系。若不与他人来往，就不可能有真正的关系或友谊。

这些新兴系统带来的另一项重大挑战，就是「偏误」（bias）──扭曲了人们对现实的 理解，并加以散播。人工智能模型受建构者的偏误和世界观的影响，人工智能模型建 构者可以复制已经存有刻板印象及偏误的资料，然后从中汲取思考方式，藉此强加于 别人。算法设计缺乏透明度，加上数据在社会层面上的代表性不足，这往往会让人受 困于操纵我们思想的网络之中，并使社会现存的不平等和不公正现象延续且加剧。 

此风险事关重大。人工智能模拟技术的力量如此强大，甚至可以编造平行的「现实」， 冒用我们的面容和声音，以假乱真。我们正生活在真假纵横交错的世界里，分辨真实 与模拟变得日趋困难。

此外，数据的不准确性也是一个问题。那些系统将统计机率以知识的样貌呈现，充其 量只能提供类似真相的近似值，有时甚至是彻头彻尾的「幻觉」。若未能查证信息来 源，再加上现场新闻报导的困境──现场新闻报导需要不断地在事件发生现场收集和 核实信息──可能助长更多假信息滋生的温床，导致不信任、困惑和不安全的感觉日 益增长。

一种可行的结盟

这股庞大而无形的力量影响我们所有人，然而在背后其实只有少数几家公司，其创办 人最近被誉为「2025年度风云人物」，或人工智能的巨匠。这引发了人们对算法与人 工智能寡头垄断的重大关切，因为这些系统能潜移默化地引导人的行为，甚至改写人 类历史，包括教会历史，而我们往往对此浑然不觉。

我们面临的挑战不是阻止数字创新，而是要引导它，并意识到其矛盾的本质。我们每 个人都要为守护真人而发声，好使这些工具能被融合成为我们的盟友。

这样的结盟是可行的，但必须建立在三大支柱之上：责任、合作与教育。

首先是责任。根据角色不同，责任可以定义为诚实、透明、勇气、远见、分享知识的 义务或获得信息的权利。然而，原则上，为了建构未来，没有人能够逃避所应承担的 个人责任。

对于掌管平台最高位的决策者而言，这意味着他们必须确保其商业策略不仅以利润最 大化为唯一准则，而应同时具备前瞻性的视野，顾及公共利益，就如同他们关心子女 的福祉一样。

为了促进使用者知情同意，人工智能模型的创建者与开发者，应就其算法及其模型开 发之设计原理与内容建立审核机制，使其透明化并实践社会责任。 

国家的立法者与跨国的监管机构也同样要承担责任，他们有责任确保人性尊严被尊重。 适当的监管能保护个人免于对聊天机器人产生情感依附，并遏止虚假、操控性或误导 性内容的传播，从而维护信息的完整性，而非其具欺骗性的模拟。

媒体与传播公司不能只为多博取几秒钟的注意力，就容许不择手段的算法凌驾于以寻 求真理为目标的专业价值之上。他们应透过信息的准确性与透明度，来赢取公众的信 任，而非追逐任何可能带来互动的手段。由人工智能制作或操控的内容，与人类创作 的内容，应清楚标示来加以区别。新闻工作者及其它内容的创作者，其著作权和作品 所有权必须受到保护。信息是公共产物。一项具建设性且有意义的公共服务不能奠基 在无法透视的政策之上，而应在来源透明、纳入相关的利害关系者，以及高质量的标 准之上。 

我们众人都蒙召去携手合作。任何一个行业都无法独自应对引导数字创新与管理人工 智能的挑战。因此，必须建立保障机制。所有利害关系人──从科技业到立法者、从 创意企业到学术界、从艺术家到新闻工作者与教育工作者──都必须参与，共同建构 并实施一种知情同意与负责任的数字公民文化。 

教育则是为了达成以下目标：提高我们个人批判性思考的能力；评估信息来源的可靠 性，以及供人选择的信息背后可能潜在的利益；理解其机制所激活的心理行为，并使 我们的家庭、团体与各种组织能够建立切实的行动原则，以促进更健康且更负责任的 传播文化。 

为此，在各级教育体系中导入媒体素养、信息素养与人工智能素养课程已是刻不容缓， 这也正是部分公民机构早已在推动的。身为天主教徒，我们有能力也应当投入其中， 使人们──尤其是年轻人──能培养批判思考的能力，并在心灵自由中成长。这种素 养课程也应融入更广泛的终身教育计划，惠及长者和社会边缘人，因为面对快速的科 技变迁，他们往往因感到被排除在外而无能为力。 

媒体、信息与人工智能素养，将帮助个人摆脱人工智能系统的拟人化趋向，使我们能 把这些系统视为工具，并始终对人工智能系统所提供的信息来源进行外部验证，因为 这些来源可能并不准确，甚至是错误的。透过提升对安全参数与申诉管道的认识，素 养教育也能加强使用者的隐私与数据保护。我们需要学习并教导他人如何有意识地使 用人工智能，并在此过程中保护自身的影像（照片与音讯）、面容与声音，避免沦为 有心人用于创作有害内容和行为的素材，例如：数字诈骗、网络霸凌与深度伪造等， 这些行为往往在未经同意的情况下侵犯人的隐私与私密领域。正如工业革命要求人具 备基础识字能力以应对新时代的发展，数字革命同样要求我们具备数字素养（并结合 人文与文化上的培育），以理解算法如何塑造我们对现实的认知、人工智能的偏误如 何运作、什么机制决定了在我们信息流中（feed）出现的内容、哪些是人工智能的经 济原理与经济模式，以及它们将如何演变。

我们需要真实的面容与声音为真人发声。沟通是人性中深刻的本质，我们要守护传播 这份天赋，任何科技的创新也应朝此方向发展。 

在传达这些反省时，我向所有致力于上述目标的人表达感谢，并衷心降福所有透过媒 体为公共福祉努力的人。

教宗良十四世

梵蒂冈，2026年 1月24日，圣方济‧沙雷纪念日

（天主教台湾地区主教团 恭译） 

____________________

1「人是按天主的肖像受造的，此事实意味，自受造之初，人就被烙印了君王的特质〔……〕。天主 是爱，也是爱的源泉：塑造我们本性的造物主，让爱也成为我们的特质，使人借着爱──天主之爱的 反映──能认识并彰显其本性的尊严，以及其与造物主的相似性。」（参阅：圣额我略‧尼撒，《论 人的创造》，《希腊教父集》44，137）