structure｜1️⃣ 三级笔记、思想框架

教皇 Leo 14《伟大人性》：以人的尊严审视 AI 时代

核心观点

《Magnifica Humanitas》把人工智能放回一个更大的判断框架里：技术不是中性的“效率机器”，而是会携带权力结构、文化假设、经济激励和人的图像。教皇 Leo XIV 的核心问题不是“AI 好不好”，而是：当人类获得前所未有的数字权力时，我们是在建造新的 Babel，还是在重建 Jerusalem？

文章的中心标准是人的不可让渡尊严。AI 可以是有价值的工具，可以帮助教育、医疗、公共服务、环境保护和工作组织；但它不能替代人的良心、自由、关系、责任、慈悲和希望。真正需要警惕的不是某个孤立滥用，而是 AI 与 technocratic paradigm 结合后，把人理解成可优化、可分类、可预测、可淘汰的对象。

这篇通谕的思想骨架是天主教社会训导在 AI 时代的一次重写：以人的尊严为根，以共同善、普遍财物目的、辅助性原则、团结和社会正义为判断标准，再落到数据权力、平台治理、真理、教育、劳动、自由、战争与和平这些具体场景。

一、从 Rerum Novarum 到 Magnifica Humanitas：AI 是这个时代的“新事物”

1.1 社会训导不是抽象概念，而是回应历史处境的活传统

• 通谕从 Leo XIII 的 Rerum Novarum 出发，把 19 世纪资本与劳动问题和 21 世纪 AI、数字化、机器人问题放在同一条传统里。
• 教会社会训导不是一套冻结概念，而是一个 living corpus：它用圣经、传统和人类科学来辨认当下的社会问题。
• 对 AI 的判断不能只靠监管技术细节，而要先问：这项技术正在重塑什么样的人、社会、经济和权力秩序？

1.2 AI 时代的核心变化是技术权力变得私人化、跨国化、基础设施化

• 当代数字权力不主要掌握在国家手里，而掌握在大型经济和技术主体手里。
• 平台、基础设施、数据和算力决定了谁能进入公共空间、谁可见、谁能参与。
• 这种权力集中容易变得 opaque，逃避公共监督，并制造新的依赖、排斥、操纵和不平等。

1.3 判断 AI 的标准来自社会训导原则

• 不可让渡的人格尊严：系统不能把人降格为产出、画像、评分或风险对象。
• 共同善：技术基础设施和算法权力必须服务所有人，而不是少数控制者。
• 普遍财物目的：数据、知识、工具和教育不能只被私人主体垄断。
• 辅助性原则：社区和中间组织不能只是被动接受外部设定的标准。
• 团结与社会正义：AI 设计之初就要考虑弱者、劳动者、全球南方和受影响社区。

二、两个圣经图像：Babel 与 Jerusalem

2.1 Babel 代表以效率、同质化和自足为名的技术工程

• Babel 的项目有统一语言、统一技术、统一方向，看似强大，却建立在 pride 和 self-sufficiency 上。
• 它用 uniformity 替代 communion，用效率牺牲差异和人的尊严。
• 当一个城市以控制和自我肯定为基础，沟通最后反而破裂，结果不是合一，而是 dispersion。

2.2 Nehemiah 重建 Jerusalem 代表共同责任和关系修复

• Nehemiah 不是从上而下强加方案，而是祈祷、倾听、观察、召集家庭，并让不同人承担不同部分。
• Jerusalem 的重建先修复关系，再修复城墙。
• 这里的共同语言不是同质化，而是 communion：每个人承担自己的角色，并承认力量来自上主。

2.3 AI 时代的选择不是“要不要技术”，而是技术服务哪一种城市

• 技术本身不是解决人类问题的自动答案，也不是天然邪恶。
• 技术从不真正中立，因为它会带上设计者、资助者、监管者和使用者的特征。
• 真正的选择是：建造一个支配性 Babel，还是重建一个让人共同生活、彼此负责的 Jerusalem。

三、AI 的基本性质：强大的数据处理，不是人的智慧

3.1 AI 发展太快，任何判断都可能迅速过时

• 通谕承认，关于 AI 的判断会被技术速度快速追赶。
• 更重要的是，即便设计者也只有限理解当前系统的实际运行方式。
• 当代 AI 更像 cultivated rather than built：开发者搭出框架，系统能力在训练中“生长”，内部表征和计算过程仍有未知。

3.2 不能把 AI 的“智能”和人的智能等同

• AI 可以模仿人的语言、行为、分析能力、同理表达和理解姿态。
• 但它没有身体、经验、喜乐、痛苦、关系、成熟、爱、工作、友谊或责任的内在经验。
• 它没有道德良心，不能判断善恶的最终意义，也不承担后果。

3.3 AI 的学习是统计适应，不是人的成长

• 人的学习来自选择、错误、宽恕、忠诚、关系和时间。
• AI 的“学习”来自数据和反馈的统计适应，可以非常有效，但不意味着内在成长。
• 因此，AI 可以成为工具，但不能成为判断人的最终主体。

四、AI 作为工具：有价值，但必须警惕三种私人使用风险

4.1 结果太容易获得，会削弱创造力和判断力

• AI 让信息、复杂分析、媒体内容和实践帮助变得极易获得。
• 这种便利可以改善生活，也可能鼓励 ready-made answers。
• 风险在于人逐渐不再训练自己的判断、创造力和问题意识。

4.2 表面客观会遮蔽文化假设

• AI 的回答看起来中立、权威、客观。
• 但这些回答反映设计者、训练数据和制度环境的 cultural assumptions。
• 如果用户忘记这一点，就会把隐藏偏见当作中性事实。

4.3 模拟人类沟通会制造关系幻觉

• AI 可以模拟建议、同理、友谊和爱，有时确实能提供帮助。
• 但模拟的话语不建立真实关系，只制造关系的外观。
• 当真实关系和情感纽带缺失时，风险不是用户误以为对方是人，而是逐渐失去形成真实人际连接的渴望。

五、社会层面的 AI：效率收益背后是权利、机会和自由问题

5.1 AI 决策触及人的生活边界

• AI 已经进入沟通、管理、控制、就业、信贷、公共服务和声誉判断。
• 当重要决定被交给自动系统，人会面对没有慈悲、怜悯、宽恕和改变希望的判断机制。
• 这可能制造新的 exclusion，并披上 neutrality and objectivity 的外衣。

5.2 AI 不是道德中立的工具

• 每个技术系统都体现选择和优先级：它测量什么、忽略什么、优化什么、如何分类人和处境。
• 如果系统把某些生命设计成较不值得、较低优先级、不可申诉，它已经嵌入了违背人格尊严的标准。
• 伦理判断不能只问“用来做好事还是坏事”，还要问系统设计中嵌入了什么人观和社会观。

5.3 accountability 是治理核心

• 责任必须在设计、开发、部署、使用和依赖 AI 决策的各阶段被清楚定义。
• 黑箱系统让错误纠正和责任分配更困难，因此更需要可追责机制。
• accountability 意味着必须能识别谁要解释、监控、挑战并补救伤害。

5.4 不能只谈 alignment，还要谈谁定义价值

• “让 AI 对齐人类价值”还不够。
• 如果价值框架由少数控制 AI 的主体决定，这种道德会变成系统的 invisible infrastructure。
• 更道德的 AI 仍不够，除非它的道德框架能被公开讨论，并接受社会正义标准的共同检验。

六、数据、算力和基础设施：AI 会放大已有权力

6.1 AI 倾向于强化资源优势者

• 和重大技术转型一样，AI 会放大已有经济资源、专业知识和数据访问权者的力量。
• 少数高影响力群体可能塑造信息、消费、民主过程和经济动态。
• 这使 AI 成为 epistemic, economic and political asymmetry 的新来源。

6.2 数据不能完全留在私人手中

• 数据是许多贡献者共同生产出来的，不应被简单卖给或交给少数人。
• 通谕主张把数据作为 common or shared good 来创造性管理。
• 这不是否认企业创新，而是要求当数据触及公共善和基本权利时必须有公共标准、参与和监督。

6.3 “disarm AI” 是解除竞赛逻辑

• Disarming AI 不是拒绝技术，而是把 AI 从 armed competition 的心态中释放出来。
• 这种 armed competition 不只发生在军事领域，也发生在经济和认知领域：更大模型、更强算法、更多数据、更强支配。
• 技术权力不能自动产生治理权；AI 必须从垄断控制中被释放，进入讨论、辩论和多元文化生活。

七、不能丢失什么：人不是可优化项目

7.1 technocratic paradigm 会把生命简化为控制和效率

• 文章警惕一种 anti-human vision：生命的丰满被等同于拥有更多、减少弱点、消灭不确定性和获得完全控制。
• 当效率成为最高价值，人会把自己视作待优化项目，而不是被召唤进入关系和 communion 的 person。
• 技术权力如果失衡，不会让人更有能力，反而让人更孤立，更容易被支配和排除。

7.2 文明质量由照护能力衡量

• 文明不是由手段的强度衡量，而是由它是否能 care、是否能把他者看作 face 而不是 function 来衡量。
• 给孩子读故事、陪伴老人、布置一个欢迎人的家，这些普通实践训练社会对 care 的理解。
• 技术可以帮助人更好照护彼此，但不能替代人的自由、判断和关系责任。

7.3 人的限制不是缺陷，而是成熟和关系的入口

• transhumanism 和 posthumanism 常把限制视为需要技术克服的 defect。

concepts｜2️⃣ 关键概念、概念网络

agentic reading｜3️⃣ 费曼 x3