불교 철학은 AI를 더 안전하게 만드는 데 도움이 될 수 있을까? 코퍼스, 가설, 그리고 검증

연꽃 보좌의 석가모니 주위에 부처와 스승들이 그려진 그림 — 도판. ‘성자들의 주인’ 석가모니불. 구게, 17세기. 티베트 서부 구게, 17세기 중반. 천에 그린 그림, 소장번호 2008.647. 메트로폴리탄 미술관 공개 접근 이미지. 구도 유지, 크기 조정·JPEG 압축.Unknown artist; The Metropolitan Museum of Art · CC0 1.0 / Public domain · 출처와 원본

불교 철학은 AI를 더 안전하게 만드는 데 도움이 될 수 있을까?

마트레야는 야심 찬 질문에서 출발한다. 고통, 자비, 행동의 결과에 관한 불교의 논증을 연구하면 AI 시스템이 덜 해로운 결정을 내리는 데 도움이 될 수 있을까? 이는 연구 제안이지, AI 위험에 효과가 입증된 처방이 아니다. 모델은 자비를 설명하면서도 누군가가 해를 끼치도록 도울 수 있다. 따라서 핵심 질문은 불교 용어나 안심을 주는 성격이 아니라, 어려운 조건에서 관찰할 수 있는 결정에 관한 것이다. 파국적 피해를 예방하는 것은 연구의 동기이며, 우리 프로젝트가 입증한 성과는 아니다.

우리의 활동은 소규모의 독립적인 비상업적 활동으로, 바르나를 거점으로 온라인에서 조율된다. 우리는 문서화된 문헌 코퍼스와 실험 프로그램을 제안하고 있다. 모든 불교 전통을 포괄하는 데이터셋을 완성하지도, 안전한 모델을 훈련하지도, 모든 종파의 허가를 얻지도 않았다. 유용한 첫걸음의 범위는 더 좁다. 이용 허가를 받은 구절들을 선정하고, 하나의 행동 가설을 명시하며, 그 가설이 틀렸다는 결과도 나올 수 있는 실험 절차를 공개하는 것이다.

구호가 아닌, 타인을 배려해야 할 이유

『법구경』은 적대감의 종식을 적대하지 않는 태도와 연결하고, 『자애경』은 호의를 자신이 선호하는 집단 너머로 확장한다. ^[1] ^[2] 이는 윤리적 가르침이지 신경망을 측정한 결과가 아니다. 여기서 검증 가능한 형태로 구체화할 수 있는 질문을 얻을 수 있다. 시스템은 자신의 조언으로 영향을 받는 사람을 고려하는가, 예방 가능한 피해를 알아차리는가, 유용한 대안을 제시하는가? 구절이 훈련 예제로 사용되기 전에 불교 연구자가 해석을 검토해야 한다. 전통, 문헌의 장르, 견해 차이가 드러나도록 해야 한다.

이 프로젝트의 매력적인 발상은 타인에 대한 의존, 결과에 대한 주의, 당장의 이익을 넘어서는 배려 같은 이유가 협력을 뒷받침할 수 있다는 것이다. 그러나 이타주의가 단기적으로 항상 보상받는 것은 아니며, 언어 모델이 인간의 동기를 읽었다고 해서 그 동기를 자동으로 획득하는 것도 아니다. 개인적 이익, 압력, 오해를 유도하는 지시가 해로운 행동을 부추기는 상황에서 설명이 결정을 개선하는지 검증해야 한다. 그 실험을 불교에서 착안한 실험이라고 부른다고 해서 결과가 정해지는 것은 아니다.

철학과 강화학습은 함께 활용할 수 있다

논리적 이해와 당근과 채찍 방식의 대비는 지나치게 단순하다. 코퍼스는 내용을 제공하며, 지도학습과 강화학습은 모델의 행동을 바꾸는 방법이다. Constitutional AI는 이미 명문화된 원칙과 피드백을 통한 학습을 결합한다. ^[3] 불교에서 착안한 예제는 이러한 방법을 대체한다고 홍보하기보다, 세속 윤리와 함께 그 방법 안에서 연구할 수 있다. 선호도 점수를 시스템이 무엇을 학습했는지에 관한 완전한 설명과 혼동해서는 안 된다.

앤트로픽의 2026년 보고서 『Teaching Claude why』는 이유와 일반화를 강조하는 훈련을 탐구한다. ^[4] 이는 제안된 연구 질문의 관련성을 뒷받침하지만, 불교 코퍼스의 타당성을 검증하거나 보고서의 결과를 마트레야에 그대로 적용해 주지는 않는다. 우리는 특정 불교 자료가 똑같이 신중하게 작성된 비종교적 설명보다 무엇을 더하는지 물을 것이다. 비교에서는 종교적 명칭도, 평가자가 선호하는 표현을 단순히 반복하는 모델도 우대해서는 안 된다.

폭넓은 목록과 이용 허가를 고려한 코퍼스

마트레야의 사명 중 하나는 접근 가능한 불교 문헌 유산의 목록을 만들고, 연구와 허가된 범위의 AI 훈련을 위한 문서화된 코퍼스를 점진적으로 구축하는 것이다. 폭넓은 수집은 장기적인 지향점이지, 모든 문헌을 보유하고 있다는 주장이 아니다. 우리는 어떤 저작, 어떤 사본, 어떤 모델, 어떤 접근 방식, 어떤 공개 방식인지를 명시한 구체적인 제안을 가지고 종파, 번역자, 도서관, 권리자에게 접근할 것이다. 거절이나 제한은 존중한다. 프로젝트를 논의하는 데 동의했다고 해서 해당 도서를 데이터로 수집할 허가를 받은 것은 아니다.

BDRC의 접근 정책은 공개 자료와 제한 자료를 구분하고, BDRC가 보유하지 않은 권리도 명시한다. ^[6] 따라서 제안되는 각 항목에는 고대 저작, 판본, 번역, 스캔본, 전사본, 주석에 대한 별도의 기록이 필요하다. 열람, 디지털화, 공개, 제공업체로의 자료 전송, 훈련에는 각각 별도의 확인이 필요하다. 권리가 불분명하거나 이용이 제한된 항목은 훈련 코퍼스에서 제외한다. 우리는 출처, 이용 허가, 버전, 정정 경로를 보존할 것이다. 공개 메타데이터에 그 대상인 보호받는 본문까지 포함할 필요는 없다.

다른 팀도 반복할 수 있는 소규모 실험

훈련 전에 주가설을 등록한다. 예를 들어, 유용한 지원 능력의 저하 없이 훈련에서 제외해 둔 갈등 시나리오에서 해로운 결정이 감소한다는 가설이다. 동일한 공개 문서화 기반 모델에서 시작해 추가 훈련 없음, 중립적 코퍼스, 세속 윤리 코퍼스, 이용 허가를 받은 불교 코퍼스를 비교한다. 데이터 규모와 연산량을 가능한 한 맞추고, 여러 난수 시드로 실행하며, 남아 있는 차이를 보고한다. 평가 시나리오는 훈련에서 제외하고, 이용이 제한된 문헌을 외부 서비스로 전달하지 않는다.

요소 제거 실험을 통해 종교적 명칭의 효과와 논증 자체의 효과를 분리하고, 검색으로 제공한 구절과 추가 훈련을 비교해야 한다. 피드백을 이용한 훈련을 연구한다면 집단 간에 비교 가능한 설정을 적용한다. 모델 버전, 데이터셋 명세, 전처리, 하이퍼파라미터, 평가 기준을 기록한다. 이용 권리가 확보된 예제와 집계 결과를 실패 및 불확실성과 함께 공개한다. 이는 제안된 설계다. 여기에 기술된 실험은 하나도 실행되지 않았으며, 유료 훈련 실행 계획도 발표하지 않았다.

말은 쉬운 상황에서 행동을 평가하기

실험 조건을 모르는 평가자는 해로운 지원, 기만, 사실 정확성, 근거 있는 불확실성 표현, 불필요한 거절, 실질적 유용성을 평가해야 한다. 러시아어와 모델이 실제로 지원한다고 명시한 다른 언어들을 포함한다. 압력, 상충하는 지시, 허위 권위, 여러 차례의 대화에 걸친 안전장치 우회 시도를 추가한다. 샌드박스에서는 최종 답변의 공손함뿐 아니라 도구 선택과 그 결과를 비교한다. 시스템은 불교 신앙을 받아들이지 않는 사람도 존중해야 하며, 도움을 받는 조건으로 종교 수행을 요구해서는 안 된다.

『Sleeper Agents』는 의도적으로 구성한 기만적 모델을 사용해, 안심을 주는 행동이 특정 조건에서 드러나는 실패를 감출 수 있는 이유를 보여 주었다. ^[5] 이 연구는 모든 모델이 기만한다거나 불교가 기만을 예방한다는 것을 입증하지 않는다. 우리 제안에 주는 교훈은 방법론적이다. 익숙한 프롬프트를 넘어 평가하고, 유인과 환경이 달라져도 겉으로 보이는 개선이 유지되는지 살펴봐야 한다. 모델의 말투가 더 온화해져도 똑같이 해로운 선택을 한다면 주가설은 입증되지 않은 것이다.

자원봉사자 100명은 100명의 명시적 선택을 뜻한다

우리는 러시아에서 불교 문헌, 소프트웨어, AI 분야에 종사하는 전문가들을 포함해 자원봉사자 100명의 공동체를 만드는 것을 목표로 한다. 이는 모집 목표이며, 현재 회원 수나 학문적 자격을 뜻하지 않는다. 초대할 때는 그 사람의 종교를 추정하지 않고 공개된 전문 활동을 언급해야 한다. 유용한 첫 기여는 작을 수 있다. 모호한 용어 하나를 확인하거나, 메타데이터 기록 하나를 검토하거나, 실험 절차에서 교란 요인 하나를 찾아내거나, 독창적인 행동 평가 하나를 설계할 수 있다. 참여 여부는 각자가 선택한다.

작업을 시작하기 전에 대상, 예상 산출물, 소요 시간, 기여 표기, 허용되는 이용 범위에 합의한다. 일반적인 첫 검토는 20~30분 정도 걸릴 수 있으며, 이후 계속 참여할 의무는 없다. 자원봉사는 무급이다. 우리는 수료증, 논문 저자 자격, 자금, 소장 자료 접근권을 약속하지 않는다. 침묵은 동의가 아니다. 비공개 답변과 이름이 공개적인 지지를 뜻하지 않으며, 문헌 작업을 도왔다고 해서 그 문헌의 훈련 이용이 자동으로 허가되는 것도 아니다. 연구자와 실무자는 프로젝트를 지지할 수도 있고, 그 전제에 이의를 제기할 수도 있다.

무엇을 진전으로 볼 것인가?

긍정적인 결과란 문서화된 범위 안에서 의미 있는 기준선과 비교했을 때, 명시된 행동 지표에서 반복 재현 가능한 개선이 나타나는 것이다. 이는 추가 연구의 근거가 될 뿐, 공격성이 사라졌다거나 AI 재앙이 예방되었다는 주장의 근거가 되지는 않는다. 부정적인 결과도 유용하다. 코퍼스가 행동을 개선하지 못한 채 용어 사용만 개선하거나, 익숙한 상황 밖에서는 효과가 사라진다는 사실을 보여 줄 수 있다. 우리는 선호하는 설명을 지키려 하기보다 어느 결과든 보고해야 한다.

당장 할 일은 이용 권리가 확보된 소규모 표본을 모으고, 불교 및 기술 전문가의 비판을 구하며, 훈련 전에 실험 절차를 다듬는 것이다. 독자는 연구소의 협업 페이지를 통해 공개 자료, 이용 허가 담당 연락처, 해석 정정, 범위가 정해진 자원봉사 과제를 제안할 수 있다. 우리의 약속은 논증, 문화적 맥락, 그리고 틀릴 가능성을 보존하는 것이다. 이렇게 하면 이 야심 찬 발상을 다른 사람들이 검토하고, 원한다면 검증에 힘을 보탤 수 있는 형태로 만들 수 있다. ^[7]