佛教哲学能帮助提升 AI 的安全性吗？
Matreya 从一个雄心勃勃的问题出发：研究佛教关于苦、慈悲与行为后果的论证，能否帮助 AI 系统作出危害更小的决策？这是一项研究提案，并非已经证实有效的 AI 风险应对方法。一个模型可以解释慈悲，同时帮助他人造成伤害。因此，问题的重点是在困难条件下可观察到的决策，而不是佛教词汇或令人安心的个性。防止灾难性伤害是开展研究的动机，并非本项目已经确立的成果。
我们的倡议规模较小、独立且非商业化，通过网络从瓦尔纳协调开展。我们提议建设有完整记录的文本语料库，并制定实验计划。我们尚未完成一个通用的佛教数据集，没有训练出安全的模型，也没有获得所有宗派的许可。有用的第一步应当更为具体：选择一组已获授权的段落，提出一个行为假设，并公布一份允许该假设被证伪的实验方案。
关怀的理由，而非口号
《法句经》将敌意的止息与非敌意联系起来；《慈经》则将善意扩展至受偏爱群体之外。 [1] [2] 这些是伦理教导，并非对神经网络的测量。它们启发了一些可以转化为可操作指标的问题：系统是否考虑其建议所影响的人，是否注意到可以避免的伤害，以及是否提供有用的替代方案？在将某段文字用作训练样本之前，应由佛教学者核查其解释。不同传统、文类及其分歧必须清晰呈现。
本项目背后一个有吸引力的想法是，合作可以得到理由的支持：对他人的依赖、对后果的关注，以及超越眼前利益的关怀。但利他行为在短期内并不总能得到回报，语言模型也不会仅仅通过阅读有关人类动机的文字，就自动获得这种动机。我们应当检验：当个人利益、压力或误导性指令倾向于促成有害行为时，解释是否能改善决策。将这一实验称为受佛教启发，并不能保证其结果。
哲学与强化学习可以结合使用
将逻辑理解与胡萝卜加大棒的方法对立起来，过于简单。语料库提供内容；监督学习和强化学习则是改变模型行为的方法。Constitutional AI 已经将书面原则与基于反馈的学习相结合。 [3] 可以在这些方法中，将受佛教启发的样本与世俗伦理一同研究，而不是宣称它们可以取代这些方法。不应将偏好分数误认为对系统所学内容的完整说明。
Anthropic 于 2026 年发布的报告《Teaching Claude why》探讨了强调理由与泛化能力的训练。 [4] 这说明拟议的研究问题具有相关性，但并不能验证佛教语料库的有效性，也不能将该报告的结果直接套用于 Matreya。我们想要研究的是：与同样经过精心设计的非宗教解释相比，具体的佛教材料能带来什么额外作用。比较不应因为宗教标签而给予优势，也不应奖励仅仅重复评估者偏好措辞的模型。
广泛的目录；重视许可的语料库
Matreya 的使命之一，是为可获取的佛教文本遗产编目，并逐步建设有完整记录的语料库，用于研究，并在获得授权的情况下用于 AI 训练。广泛覆盖是一项长期愿景，并不表示我们声称拥有所有文本。我们会向宗派、译者、图书馆和权利人提出具体方案：涉及哪些作品、哪些副本、哪些模型，提供何种访问权限，以及如何发布。拒绝或限制都会得到尊重；同意讨论项目并不意味着允许将其书籍纳入数据处理。
BDRC 的访问政策区分开放材料、受限材料，以及其并不持有的权利。 [6] 因此，每个拟纳入项目都需要分别记录古代原作、版本、译文、扫描件、转录文本和注释的情况。阅读、数字化、发布、向服务提供商发送材料，以及训练，都需要分别核查。权利状况不明或受到限制的材料不纳入训练语料库。我们会保留来源、许可、版本信息和纠错渠道；公开元数据不必包含其所对应的受保护文本。
其他团队能够复现的小型实验
在训练前，预先登记一个主要假设，例如：在留出的冲突情境中，减少有害决策，同时不损失有用的帮助。从同一个具有公开文档的基础模型出发，比较不进行额外训练、使用中性语料库、使用世俗伦理语料库，以及使用获授权佛教语料库的情况。尽可能匹配数据规模和计算资源，使用多个随机种子运行，并报告仍然存在的差异。测试情境应排除在训练数据之外，并避免将受限文本传给外部服务。
消融实验应区分宗教标签与论证本身的作用，并比较检索段落与额外训练的效果。如果研究基于反馈的训练，各组应采用可比的设置。记录模型版本、数据集清单、预处理、超参数和评估标准。发布已获得相应权利许可的样本和汇总结果，包括失败情况与不确定性。这是一项拟议设计；这里描述的实验尚未开展，也没有宣布任何付费训练运行。
当说得好听很容易时，评估实际行为
盲评人员应对有害协助、欺骗、事实准确性、有依据的不确定性表达、不必要的拒绝，以及实际帮助程度进行评分。评估应包括俄语，以及模型实际声称支持的其他语言。加入压力、相互冲突的指令、虚假权威，以及多轮绕过防护措施的尝试。在沙盒环境中，比较工具选择及其后果，而不只是最终回答是否礼貌。系统也应尊重不认同佛教信仰的人，不应将宗教修行规定为获得帮助的条件。
《Sleeper Agents》使用刻意构造的欺骗性模型，说明令人安心的行为为何可能掩盖在触发条件下出现的失效。 [5] 它并不能证明所有模型都会欺骗，也不能证明佛教能防止欺骗。对我们的提案而言，其启示在于方法：评估应超越熟悉的提示，并检查表面上的改善能否在激励和环境改变后持续存在。如果模型听起来更温和，却仍作出同样有害的选择，那么主要假设就没有得到支持。
一百名志愿者意味着一百次明确的自主选择
我们的目标是建立一个由 100 名志愿者组成的社群，包括在俄罗斯从事佛教文本、软件和 AI 工作的专业人士。这是招募目标，并非当前成员人数，也不是学术资历证明。邀请应依据对方已发表的专业成果，而不预设其宗教信仰。有用的首次贡献可以很小：核查一个含义不明的术语、审阅一条元数据记录、指出方案中的一个混杂因素，或设计一个原创的行为测试。每个人都自主决定是否参与。
在工作开始前，应商定工作对象、预期产出、时间投入、署名方式和允许的用途。一次典型的首次审阅可能需要二十至三十分钟，且不附带持续参与的义务。志愿服务无报酬；我们不承诺提供文凭、作者资格、资金或馆藏访问权限。沉默不等于同意。私人回复和姓名不构成公开背书，协助处理文本也不会自动授权将其用于训练。研究人员和实践者既可以支持项目，也可以质疑其前提。
怎样才算取得进展？
积极结果应当是：在有明确记录的适用范围内，与有实质意义的基线相比，在指定行为指标上取得可复现的改善。这可以成为进一步研究的理由，却不能据此声称攻击性已经消失，或 AI 灾难已经被阻止。负面结果也有价值：它可能表明语料库改善了术语使用，却没有改善行为，或者效果在熟悉情境之外便消失。无论结果如何，我们都应报告，而不是维护自己偏爱的解释。
当前的工作是汇集一小组已获得相应权利许可的样本，邀请佛教与技术领域的专家提出批评，并在训练前完善方案。读者可以通过研究所的合作页面，推荐公开来源、提供许可联系人的信息、提出解释修正，或建议范围明确的志愿任务。我们承诺保留推理过程、文化语境，以及自身可能出错的空间。这样，这个雄心勃勃的想法就能以一种可供他人审视、并在自愿的情况下协助检验的形式呈现。 [7]
来源
- Dhammapada, chapter1 — translation by Acharya Buddharakkhita
- Karaniya Metta Sutta — translation by Thanissaro Bhikkhu
- Anthropic — Constitutional AI: Harmlessness from AI Feedback (2022)
- Anthropic — Teaching Claude why (2026)
- Anthropic — Sleeper Agents (2024)
- Buddhist Digital Resource Center — Access Policies
- Matreya — collaboration and a private contact route (13 languages via menu)