仏教哲学はAIをより安全にする助けになるか――コーパス、仮説、そして検証

蓮華座に座る釈迦牟尼を、諸仏と師が囲む絵画 — 図版. 「牟尼の主」としての釈迦牟尼。グゲ、17世紀. 西チベット・グゲ、17世紀中頃。布地に描画。作品番号2008.647。メトロポリタン美術館オープンアクセス画像。構図を保ち縮小・JPEG圧縮。Unknown artist; The Metropolitan Museum of Art · CC0 1.0 / Public domain · 出典と原作品

仏教哲学はAIをより安全にする助けになるか

Matreyaは、ある野心的な問いから出発します。苦しみ、慈悲、行為の結果についての仏教の議論を学ぶことは、AIシステムが有害性の低い判断を下す助けになるでしょうか。これは研究の提案であり、AIリスクへの有効性が実証された対策ではありません。モデルは慈悲を説明しながら、誰かが危害を加える手助けをすることもできます。したがって問うべきなのは、仏教の語彙や安心感を与える人格ではなく、困難な条件下で観察できる判断です。壊滅的な被害の防止は研究の動機であって、私たちのプロジェクトが確立した成果ではありません。

私たちの取り組みは、小規模で独立した非営利の活動であり、ヴァルナを拠点にオンラインで調整しています。私たちは、記録を整備した文献コーパスと実験計画を提案しています。あらゆる仏教文献を網羅するデータセットを完成させたわけでも、安全なモデルを訓練したわけでも、すべての宗派から許諾を得たわけでもありません。有用な第一歩は、より限定的なものです。利用許諾を得た一群の文章を選び、行動に関する仮説を一つ明示し、その仮説が棄却される可能性を認める実験手順を公開することです。

スローガンではなく、他者を気遣う理由

『ダンマパダ』は敵意が止むことを敵意のない態度と結びつけ、『メッタ・スッタ』は好意を向ける範囲を特定の集団の外へ広げます。 ^[1] ^[2] これらは倫理的な教えであり、ニューラルネットワークの測定結果ではありません。しかし、検証可能な形にできる問いを示唆しています。システムは、その助言によって影響を受ける人を考慮するでしょうか。防げる危害に気づき、有用な代替案を提示するでしょうか。文章を訓練例にする前に、仏教学の専門家が解釈を確認する必要があります。伝統、文献のジャンル、見解の相違が見える形を保たなければなりません。

このプロジェクトの根底にある魅力的な考え方は、協力を理由によって支えられるというものです。他者への依存、結果への注意、目先の利益を超えた配慮などが、その理由になります。しかし、利他主義が短期的に必ず報われるわけではなく、言語モデルが人間の動機について読んだからといって、その動機を自動的に獲得するわけでもありません。個人的な利益、圧力、あるいは誤解を招く指示が有害な行為を促す状況で、説明が判断を改善するかどうかを検証すべきです。その実験を仏教に着想を得たものと呼んでも、結果が必然になるわけではありません。

哲学と強化学習は併用できる

論理的な理解と、飴と鞭による手法を対立させるのは単純すぎます。コーパスは内容を提供し、教師あり学習や強化学習はモデルの行動を変える方法です。Constitutional AIはすでに、明文化した原則とフィードバックからの学習を組み合わせています。 ^[3] 仏教に着想を得た例は、こうした方法に取って代わるものとして宣伝するのではなく、世俗的な倫理とともに、その枠内で研究できます。選好スコアを、システムが何を学習したかについての完全な説明と混同してはいけません。

Anthropicの2026年の報告書『Teaching Claude why』は、理由と汎化を重視する訓練を検討しています。 ^[4] このことは、提案している研究上の問いに関連性があることを示しますが、仏教コーパスの有効性を裏づけるものでも、その報告書の結果をMatreyaにそのまま適用できることを意味するものでもありません。私たちが問いたいのは、同じように入念に作られた非宗教的な説明と比べて、特定の仏教資料が何を付け加えるかです。比較では、宗教的な名称にも、評価者の好む表現を単に繰り返すモデルにも、加点すべきではありません。

幅広い目録と、利用許諾に配慮したコーパス

Matreyaの使命の一つは、アクセス可能な仏教の文献遺産を目録化し、研究のため、そして許諾が得られる場合にはAI訓練のために、記録を整備したコーパスを段階的に構築することです。幅広い収録は長期的な目標であり、すべての文献を所有しているという主張ではありません。私たちは宗派、翻訳者、図書館、権利者に、どの著作、どの複製物、どのモデルを対象とし、どのようなアクセスと公開を行うかという具体的な提案を示して相談する方針です。拒否や制限は尊重します。プロジェクトについて話し合うことへの同意は、その書籍をデータとして取り込む許諾ではありません。

BDRCのアクセスポリシーは、公開資料と制限付き資料を区別し、BDRCが保有していない権利についても区別しています。 ^[6] したがって、収録候補ごとに、古典の著作、版、翻訳、スキャン、翻刻、注釈について個別の記録が必要です。閲覧、デジタル化、公開、サービス提供者への資料の送信、訓練には、それぞれ別の確認が必要です。権利関係が不明な資料や制限付きの資料は、訓練コーパスに含めません。出典、許諾、版、訂正の窓口を保存する方針です。公開メタデータに、保護対象の本文そのものを含める必要はありません。

別のチームが再現できる小規模な実験

訓練の前に、主要な仮説を登録します。たとえば、訓練に使わず取り置いた葛藤場面において、有用な支援を損なうことなく有害な判断が減る、という仮説です。公開された文書で仕様が明らかな同一の基盤モデルから始め、追加訓練なし、中立的なコーパス、世俗的倫理のコーパス、利用許諾を得た仏教コーパスを比較します。データ量と計算資源を可能な限りそろえ、複数の乱数シードで実行し、残る差異を報告します。テスト場面は訓練から除外し、制限付き文献を外部サービスに渡さないようにします。

アブレーション実験では、宗教的な名称の効果と議論そのものの効果を分離し、検索して取得した文章の提示と追加訓練を比較すべきです。フィードバックを用いる訓練を研究する場合は、各群に比較可能な設定を適用します。モデルのバージョン、データセットの構成一覧、前処理、ハイパーパラメータ、評価基準を記録します。権利処理を済ませた例と、失敗や不確実性を含む集計結果を公開します。これは提案段階の設計です。ここに記述した実験は一つも実施されておらず、有料の訓練実行も発表していません。

言葉だけなら容易な場面で、行動を評価する

実験条件を知らされていない評価者が、有害な支援、欺瞞、事実の正確さ、根拠のある不確実性の表明、不要な拒否、実用的な有用性を採点すべきです。ロシア語に加え、そのモデルが実際に対応をうたう他の言語も含めます。圧力、矛盾する指示、偽りの権威、安全対策を回避しようとする複数ターンの試みを加えます。サンドボックス内では、最終回答の丁寧さだけでなく、ツールの選択とその結果を比較します。また、システムは仏教の信仰を受け入れない人も尊重し、支援を受ける条件として宗教的実践を求めてはなりません。

『Sleeper Agents』は、意図的に構築された欺瞞的なモデルを用い、安心感を与える振る舞いの裏に、特定のトリガーで現れる不具合が隠れている場合があることを示しました。 ^[5] これは、すべてのモデルが欺くことや、仏教が欺瞞を防ぐことを証明するものではありません。私たちの提案にとっての教訓は、方法論にあります。見慣れたプロンプトの範囲を超えて評価し、見かけ上の改善が、誘因や設定を変えても維持されるかを調べることです。モデルの口調が穏やかになっても、同じ有害な選択をしているなら、主要な仮説は支持されていません。

100人のボランティアとは、100人それぞれの明示的な選択

私たちは、仏教文献、ソフトウェア、AIの分野でロシアにおいて活動する専門家を含め、100人のボランティアからなるコミュニティを築くことを目指しています。これは募集の目標であり、現在の会員数でも、学術的な実績を示す資格でもありません。参加の案内では、その人の宗教を推測せず、公表された専門的な仕事に言及すべきです。最初の有用な貢献は、小さなもので構いません。曖昧な用語を一つ確認する、メタデータの記録を一件点検する、実験手順の交絡要因を一つ指摘する、独自の行動テストを一つ設計する、といったものです。参加するかどうかは、一人ひとりが選びます。

作業を始める前に、対象、期待する成果物、所要時間、貢献者の表示方法、許可される利用について合意します。典型的な最初のレビューは20〜30分程度で、継続する義務はありません。ボランティア活動は無報酬です。修了証、著者資格、資金提供、資料群へのアクセスは約束しません。沈黙は同意ではありません。個人的な返信や氏名は、公的な支持表明ではなく、文献に関する支援が、その文献を訓練に使う許諾を自動的に与えるわけでもありません。研究者や実践者は、プロジェクトを支持するだけでなく、その前提に異議を唱えることもできます。

何をもって進歩とするか

肯定的な結果とは、明記された適用範囲のもとで、意味のある比較基準に対し、指定した行動指標で再現可能な改善が得られることです。それは追加の研究を正当化しますが、攻撃性が消えたことや、AIによる大惨事を防いだという主張を正当化するものではありません。否定的な結果にも価値があります。コーパスが用語の理解を改善しても行動は改善しないことや、見慣れた状況の外では効果が消えることを示すかもしれません。私たちは、好みの説明を守るのではなく、どちらの結果も報告すべきです。

当面の作業は、権利処理を済ませた小規模なサンプルを集め、仏教と技術の専門家から批判を募り、訓練前に実験手順を改善することです。読者は、研究所の共同活動ページを通じて、公開資料、許諾の相談先、解釈の訂正、範囲を限定したボランティア作業を提案できます。私たちが約束するのは、推論の過程、文化的な文脈、そして間違っている可能性を保つことです。そうすることで、この野心的な着想を、他の人が吟味し、希望するなら検証にも協力できる形にできます。 ^[7]