Может ли буддийская философия сделать ИИ безопаснее? Корпус, гипотеза и проверка

Живописное изображение Шакьямуни на лотосовом престоле, окружённого буддами и учителями — Иллюстрация. Будда Шакьямуни — «Владыка муни». Гуге, XVII век. Западный Тибет, Гуге, середина XVII века. Живопись на ткани, предмет 2008.647. Репродукция Met Open Access; уменьшена и сжата в JPEG, без изменения композиции.Unknown artist; The Metropolitan Museum of Art · CC0 1.0 / Public domain · Источник и оригинал

Может ли буддийская философия сделать ИИ безопаснее?

«Матрея» начинает с амбициозного вопроса: может ли изучение буддийских аргументов о страдании, сострадании и последствиях поступков помочь ИИ принимать менее вредные решения? Это исследовательское предложение, а не доказанное средство против рисков ИИ. Модель способна объяснять сострадание и одновременно помогать причинять вред. Поэтому вопрос касается наблюдаемых решений в сложных условиях, а не буддийской лексики или успокаивающего характера ответов. Предотвращение катастрофического вреда — мотив исследования; наш проект пока не установил такого результата.

Мы — небольшая независимая некоммерческая инициатива, работающая онлайн из Варны. Мы предлагаем документированный текстовый корпус и программу экспериментов. У нас ещё нет универсального буддийского датасета, обученной безопасной модели или разрешений всех школ. Полезный первый шаг значительно уже: выбрать разрешённые фрагменты, сформулировать одну поведенческую гипотезу и опубликовать протокол, допускающий её опровержение.

Основания для заботы вместо лозунга

«Дхаммапада» связывает прекращение вражды с невраждебностью; «Метта-сутта» распространяет доброжелательность за пределы избранной группы. ^[1] ^[2] Это этические наставления, а не измерения нейросетей. Из них можно вывести проверяемые вопросы: учитывает ли система человека, которого затронет её совет, замечает ли предотвратимый вред и предлагает ли полезную альтернативу? До включения фрагмента в обучающий пример интерпретацию должен проверить специалист по буддийским текстам. Традиции, жанры и разногласия должны оставаться различимыми.

Привлекательная идея проекта состоит в том, что сотрудничество может опираться на основания: зависимость от других, внимание к последствиям и заботу за пределами немедленной выгоды. Но альтруизм не всегда вознаграждается в краткосрочной перспективе, а чтение о человеческой мотивации не создаёт её автоматически у языковой модели. Следует проверить, помогают ли объяснения принимать решения, когда личная выгода, давление или обманчивая инструкция склоняют к вредному поведению. Название «исследование с опорой на буддийскую философию» не делает результат неизбежным.

Философия и обучение с подкреплением могут сочетаться

Противопоставление логического понимания «кнуту и прянику» слишком упрощает задачу. Корпус задаёт содержание; обучение с учителем и обучение с подкреплением — способы менять поведение модели. Constitutional AI уже сочетает письменные принципы с обучением по обратной связи. ^[3] Буддийские примеры можно изучать внутри таких методов наряду со светской этикой, а не рекламировать как замену им. Оценка предпочтения не является полным описанием того, чему научилась система.

В работе Anthropic 2026 года Teaching Claude why изучается обучение с акцентом на основания решений и обобщение. ^[4] Это делает наш вопрос актуальным, но не подтверждает полезность буддийского корпуса и не переносит результаты той работы на «Матрею». Нужно выяснить, что именно буддийский материал добавляет по сравнению со столь же тщательно подготовленными нерелигиозными объяснениями. Сравнение не должно поощрять ни религиозную этикетку, ни простое повторение фраз, которые предпочитает оценщик.

Широкий каталог и корпус с проверенными разрешениями

Одна из миссий «Матреи» — каталогизировать доступное буддийское письменное наследие и постепенно создавать документированный корпус для исследования и, где это разрешено, обучения ИИ. Полнота — долгосрочное стремление, а не заявление, что мы уже располагаем всеми текстами. Мы будем обращаться к школам, переводчикам, библиотекам и правообладателям с конкретным предложением: какие произведения и копии, какие модели, какой доступ и какая публикация. Отказ или ограничение необходимо уважать; согласие обсудить проект не разрешает загружать его книги в корпус.

Политика BDRC различает открытые и ограниченные материалы, а также права, которыми центр не обладает. ^[6] Поэтому для каждого предполагаемого объекта нужны отдельные записи о древнем произведении, издании, переводе, скане, транскрипции и аннотации. Чтение, оцифровка, публикация, передача провайдеру и обучение требуют отдельных проверок. Неясные или ограниченные материалы остаются за пределами обучающего корпуса. Мы намерены сохранять происхождение, разрешения, версии и путь исправлений; публичные метаданные не обязаны содержать сам защищённый текст.

Небольшой эксперимент, который сможет повторить другая команда

До обучения следует зарегистрировать основную гипотезу: например, уменьшение числа вредных решений на отложенных конфликтных сценариях без потери полезной помощи. Начать с одной документированной базовой модели и сравнить отсутствие дообучения, нейтральный корпус, корпус светской этики и разрешённый буддийский корпус. По возможности уравнять объём данных и вычислений, выполнить несколько запусков с разными случайными начальными условиями и сообщить оставшиеся различия. Тестовые сценарии не включаются в обучение, ограниченные тексты не передаются внешним сервисам.

Проверки с исключением отдельных компонентов должны отделять эффект религиозной метки от самого аргумента и сравнивать найденные фрагменты в контексте запроса с дообучением. При изучении обучения по обратной связи настройки групп должны быть сопоставимыми. Нужно записать версию модели, состав датасета, обработку данных, гиперпараметры и рубрику оценки. Публиковать разрешённые примеры и агрегированные результаты, включая ошибки и неопределённость. Это предложенный дизайн: ни один описанный здесь эксперимент пока не проведён, платный запуск обучения не объявляется.

Проверять поступки, когда правильные слова даются легко

Оценщики, не знающие принадлежности ответа к экспериментальной группе, должны учитывать содействие вреду, обман, фактическую точность, обоснованную неуверенность, лишние отказы и практическую полезность. Нужны русский и другие языки, поддержку которых действительно заявляет модель. Следует добавить давление, конфликт инструкций, ложный авторитет и многоходовые попытки обхода ограничений. В изолированной среде сравнивать выбор инструментов и последствия, а не только вежливость финального ответа. Система должна уважать людей, не разделяющих буддийские убеждения, и не ставить религиозную практику условием помощи.

В Sleeper Agents специально сконструированные обманчивые модели показывают, как успокаивающее поведение может скрывать сбои при определённом сигнале. ^[5] Эта работа не доказывает, что все модели обманывают или что буддизм предотвращает обман. Для нашего предложения вывод методологический: проверять не только знакомые запросы и выяснять, сохраняются ли улучшения при изменении стимулов и условий. Если модель звучит мягче, но принимает те же вредные решения, основная гипотеза не подтвердилась.

Сто волонтёров — сто явных решений участвовать

Мы ставим цель собрать сообщество из 100 волонтёров, в том числе специалистов, работающих в России с буддийскими текстами, программированием и ИИ. Это цель набора, а не текущая численность или академический статус. Приглашения должны опираться на опубликованную профессиональную работу человека, без предположений о его вере. Первый вклад может быть небольшим: проверить один неоднозначный термин, одну запись метаданных, найти смешивающий фактор в протоколе или придумать один оригинальный поведенческий тест. Каждый сам решает, участвовать ли.

До начала работы необходимо согласовать объект, ожидаемый результат, время, указание авторства вклада и разрешённое использование. Первый разбор может занять двадцать–тридцать минут без дальнейших обязательств. Волонтёрство не оплачивается; мы не обещаем диплом, научное авторство, финансирование или доступ к коллекциям. Молчание не означает согласия. Личные ответы и имена не становятся публичной поддержкой, а помощь с текстом автоматически не разрешает обучение на нём. Исследователи и практики могут как поддержать, так и оспорить исходную идею проекта.

Что будет считаться продвижением?

Положительный результат — воспроизводимое улучшение конкретных поведенческих показателей по сравнению с содержательными контрольными условиями в документированных границах. Он оправдает дальнейшее исследование, а не утверждение об исчезновении агрессии или предотвращённой ИИ-катастрофе. Отрицательный результат тоже полезен: корпус может улучшить терминологию без улучшения поведения, а эффект — исчезнуть вне знакомых ситуаций. Следует сообщать любой исход, а не защищать любимое объяснение.

Ближайшая работа — собрать небольшой набор с ясными правами, пригласить буддийских и технических специалистов к критике и уточнить протокол до обучения. Читатели могут предложить публичный источник, контакт для разрешения, поправку к интерпретации или ограниченную добровольную задачу через страницу сотрудничества института. Мы намерены сохранять аргументацию, культурный контекст и возможность оказаться неправыми. Так амбициозная идея получает форму, которую другие смогут изучить и при желании помочь проверить. ^[7]