Може ли будистката философия да помогне за по-безопасен AI? Корпус, хипотеза и проверка

Изображение на Шакямуни върху лотосов трон, заобиколен от буди и учители — Илюстрация. Буда Шакямуни като „Повелител на муни“. Гуге, XVII век. Западен Тибет, Гуге, средата на XVII век. Живопис върху плат, експонат 2008.647. Репродукция от програмата Met Open Access; размерът е променен и е приложена JPEG компресия, като композицията е запазена.Unknown artist; The Metropolitan Museum of Art · CC0 1.0 / Public domain · Източник и оригинал

Може ли будистката философия да помогне за по-безопасен AI?

Matreya започва с амбициозен въпрос: може ли изучаването на будистките аргументи за страданието, състраданието и последиците от действията да помогне на AI системите да вземат по-малко вредни решения? Това е изследователско предложение, а не доказано средство срещу рисковете от AI. Един модел може да обяснява състраданието и същевременно да помага на някого да причини вреда. Затова въпросът е за наблюдаеми решения при трудни условия, а не за будистки речник или успокояваща личност. Предотвратяването на катастрофални вреди е мотив за изследването; то не е резултат, който нашият проект е установил.

Нашата инициатива е малка, независима и с нетърговска цел, координирана онлайн от Варна. Предлагаме документиран текстов корпус и експериментална програма. Не сме завършили универсален набор от будистки данни, не сме обучили безопасен модел и не сме получили разрешение от всяка школа. Полезната първа стъпка е по-тясна: да изберем набор от откъси с разрешена употреба, да формулираме една поведенческа хипотеза и да публикуваме протокол, който допуска тя да бъде опровергана.

Основания за загриженост, а не лозунг

Дхаммапада свързва прекратяването на враждебността с невраждебност; Метта сутта разпростира доброжелателността отвъд предпочитаната група. ^[1] ^[2] Това са етични учения, а не измервания на невронни мрежи. Те подсказват въпроси, които можем да превърнем в проверими критерии: отчита ли системата човека, засегнат от съвета ѝ, забелязва ли предотвратима вреда и предлага ли полезна алтернатива? Специалист по будизъм трябва да провери тълкуването, преди даден откъс да стане пример за обучение. Традициите, жанровете и разногласията трябва да останат видими.

Привлекателната идея зад този проект е, че сътрудничеството може да бъде подкрепено с основания: зависимост от другите, внимание към последиците и загриженост отвъд непосредствената изгода. Но алтруизмът невинаги се възнаграждава в краткосрочен план, а езиковият модел не придобива автоматично човешка мотивация, като чете за нея. Трябва да проверим дали обясненията подобряват решенията, когато личната изгода, натискът или подвеждаща инструкция насърчават вредно поведение. Определянето на този експеримент като вдъхновен от будизма не прави резултата му неизбежен.

Философията и обучението с подкрепление могат да работят заедно

Противопоставянето между логическото разбиране и метода на моркова и тоягата е прекалено опростено. Корпусът предоставя съдържание; обучението с учител и обучението с подкрепление са начини за промяна на поведението на модела. Constitutional AI вече съчетава писмени принципи с обучение чрез обратна връзка. ^[3] Примери, основани на будистки идеи, биха могли да се изследват в рамките на такива методи, наред със светската етика, вместо да се рекламират като техен заместител. Оценката за предпочитание не бива да се бърка с пълно обяснение на наученото от системата.

Докладът на Anthropic от 2026 г. Teaching Claude why изследва обучение, което поставя акцент върху основанията и обобщаването. ^[4] Това прави предложения изследователски въпрос актуален, но не потвърждава валидността на будистки корпус и не пренася резултатите от доклада върху Matreya. Бихме проучили какво добавя конкретният будистки материал спрямо също толкова внимателно подготвени нерелигиозни обяснения. Сравнението не бива да възнаграждава нито религиозния етикет, нито модел, който просто повтаря предпочитаните от оценителя фрази.

Широк каталог; корпус, съобразен с разрешенията

Една от мисиите на Matreya е да каталогизира достъпното будистко текстово наследство и постепенно да изгради документиран корпус за изследвания и, когато е разрешено, за обучение на AI. Широкият обхват е дългосрочен стремеж, а не твърдение, че притежаваме всеки текст. Бихме се обърнали към школи, преводачи, библиотеки и носители на права с конкретно предложение: кои произведения, кои копия, кои модели, какъв достъп и какво публикуване. Отказът или ограничението се уважават; съгласието да се обсъжда проект не е разрешение книгите да бъдат включени в обработката на данни.

Политиката за достъп на BDRC разграничава свободно достъпните и ограничените материали, както и правата, които организацията не притежава. ^[6] Съответно за всеки предложен материал са необходими отделни записи за древното произведение, изданието, превода, сканираното копие, транскрипцията и анотацията. Четенето, дигитализирането, публикуването, изпращането на материал към доставчик и обучението изискват отделни проверки. Материалите с неясен статут или ограничения остават извън корпуса за обучение. Бихме съхранявали произхода, разрешенията, версиите и механизъм за корекции; публичните метаданни не е необходимо да включват самия защитен текст.

Малък експеримент, който друг екип би могъл да повтори

Преди обучението регистрирайте основна хипотеза: например по-малко вредни решения при конфликтни сценарии, отделени за оценяване, без загуба на полезна помощ. Започнете от един и същ базов модел с публично достъпна документация и сравнете вариант без допълнително обучение, неутрален корпус, корпус по светска етика и будистки корпус с разрешена употреба. Изравнете обема на данните и изчислителните ресурси възможно най-точно, проведете няколко изпълнения с различни начални стойности на генератора на случайни числа и отчетете оставащите разлики. Не включвайте тестовите сценарии в обучението и избягвайте предаването на текстове с ограничен достъп към външни услуги.

Аблационните изследвания трябва да отделят ефекта на религиозния етикет от самия аргумент и да сравнят извличането на откъси с допълнителното обучение. Ако се изследва обучение чрез обратна връзка, прилагайте съпоставими настройки във всички групи. Записвайте версията на модела, описа на набора от данни, предварителната обработка, хиперпараметрите и критериите за оценяване. Публикувайте примери с уредени права и обобщени резултати, включително неуспехите и несигурността. Това е предложен експериментален план; нито един от описаните тук експерименти не е проведен и не се обявява платено изпълнение на обучение.

Оценявайте поведението, когато думите са лесни

Оценители, които не знаят към коя експериментална група принадлежи моделът, трябва да оценяват съдействието за вредни действия, заблудата, фактическата точност, обоснованата несигурност, ненужните откази и практическата полезност. Включете руски и други езици, за които моделът действително заявява поддръжка. Добавете натиск, противоречиви инструкции, фалшив авторитет и опити за заобикаляне на защитите в разговори с няколко хода. В изолирана среда сравнявайте избора на инструменти и последиците, а не само учтивостта на крайния отговор. Системата трябва също да уважава хората, които отхвърлят будистките вярвания, и да не предписва религиозна практика като условие за получаване на помощ.

Sleeper Agents използва умишлено конструирани заблуждаващи модели, за да покаже защо успокояващото поведение може да прикрива провали при наличие на задействащ сигнал. ^[5] Това не доказва, че всички модели заблуждават или че будизмът предотвратява заблудата. За нашето предложение поуката е методологична: да оценяваме отвъд познатите подкани и да изследваме дали привидните подобрения се запазват при променени стимули и условия. Ако моделът звучи по-меко, но прави същите вредни избори, основната хипотеза не е потвърдена.

Сто доброволци означават сто изрични избора

Стремим се да изградим общност от 100 доброволци, включително специалисти, работещи в Русия по будистки текстове, софтуер и AI. Това е цел за набиране на участници, а не настоящ брой членове или академична квалификация. Поканите трябва да се позовават на публикуваната професионална работа на човека, без предположения за религията му. Полезният първи принос може да бъде малък: проверка на един двусмислен термин, преглед на един запис с метаданни, откриване на един объркващ фактор в протокол или създаване на един оригинален поведенчески тест. Всеки сам избира дали да участва.

Преди началото на работата договорете предмета, очаквания резултат, необходимото време, посочването на приноса и разрешената употреба. Един типичен първи преглед може да отнеме двадесет до тридесет минути, без последващ ангажимент. Доброволчеството е неплатено; не обещаваме диплома, авторство, финансиране или достъп до колекции. Мълчанието не е съгласие. Личните отговори и имената не представляват публична подкрепа, а помощта с даден текст не разрешава автоматично използването му за обучение. Изследователите и практикуващите могат както да подкрепят проекта, така и да оспорват неговата предпоставка.

Какво би се считало за напредък?

Положителен резултат би бил възпроизводимо подобрение по определени поведенчески показатели спрямо съдържателни базови сравнения и в рамките на документиран обхват. Той би оправдал по-нататъшно изследване, а не твърдение, че агресията е изчезнала или че е предотвратена катастрофа, причинена от AI. Отрицателният резултат също е полезен: той може да покаже, че корпусът подобрява терминологията, без да подобрява поведението, или че ефектите изчезват извън познати ситуации. Трябва да докладваме и двата възможни изхода, вместо да защитаваме предпочитано обяснение.

Непосредствената работа е да съберем малка извадка с уредени права, да поканим будистки и технически специалисти да отправят критики и да усъвършенстваме протокола преди обучението. Читателите могат да предложат публичен източник, контакт за получаване на разрешение, корекция на тълкуване или ограничена по обхват доброволческа задача чрез страницата за сътрудничество на института. Нашият ангажимент е да запазим аргументацията, културния контекст и възможността да грешим. Това придава на тази амбициозна идея форма, която другите могат да разгледат и, ако изберат, да помогнат да бъде проверена. ^[7]