Triết học Phật giáo có thể giúp AI an toàn hơn không? Một kho ngữ liệu, một giả thuyết và một phép thử

Tranh Phật Thích Ca trên tòa sen, xung quanh là các vị Phật và thầy — Minh họa. Đức Phật Thích Ca, “Bậc tôn chủ của các Mâu-ni”. Guge, thế kỷ 17. Tây Tây Tạng, Guge, giữa thế kỷ 17. Tranh trên vải, hiện vật 2008.647. Bản sao Truy cập mở của Met; đổi kích thước và nén JPEG, giữ bố cục.Unknown artist; The Metropolitan Museum of Art · CC0 1.0 / Public domain · Nguồn và bản gốc

Triết học Phật giáo có thể giúp AI an toàn hơn không?

Matreya bắt đầu bằng một câu hỏi đầy tham vọng: liệu việc nghiên cứu các lập luận Phật giáo về khổ đau, lòng từ bi và hệ quả của hành động có thể giúp các hệ thống AI đưa ra quyết định ít gây hại hơn không? Đây là một đề xuất nghiên cứu, chưa phải một biện pháp đã được chứng minh để xử lý rủi ro AI. Một mô hình có thể giải thích lòng từ bi trong khi vẫn giúp ai đó gây hại. Vì vậy, câu hỏi nằm ở những quyết định có thể quan sát được trong điều kiện khó khăn, thay vì ở vốn từ Phật giáo hay một tính cách tạo cảm giác an tâm. Ngăn ngừa tác hại thảm khốc là động lực nghiên cứu; đó chưa phải kết quả mà dự án của chúng tôi đã xác lập.

Sáng kiến của chúng tôi có quy mô nhỏ, độc lập và phi thương mại, được điều phối trực tuyến từ Varna. Chúng tôi đang đề xuất một kho ngữ liệu văn bản có hồ sơ đầy đủ cùng một chương trình thực nghiệm. Chúng tôi chưa hoàn thành một bộ dữ liệu Phật giáo bao quát mọi truyền thống, chưa huấn luyện được một mô hình an toàn và chưa nhận được sự cho phép của mọi tông phái. Bước đầu hữu ích có phạm vi hẹp hơn: chọn một tập hợp đoạn trích được phép sử dụng, nêu một giả thuyết về hành vi và công bố một quy trình cho phép giả thuyết ấy bị bác bỏ.

Những lý do để quan tâm, thay vì một khẩu hiệu

Kinh Pháp Cú gắn việc chấm dứt thù hận với thái độ không thù hận; Kinh Từ Bi mở rộng thiện ý ra ngoài một nhóm được ưu ái. ^[1] ^[2] Đây là những lời dạy về đạo đức, không phải các phép đo mạng nơ-ron. Chúng gợi ra những câu hỏi có thể chuyển thành tiêu chí kiểm tra: hệ thống có cân nhắc người chịu ảnh hưởng từ lời khuyên của mình, nhận ra tác hại có thể phòng tránh và đưa ra một phương án thay thế hữu ích không? Một học giả Phật học nên kiểm tra cách diễn giải trước khi một đoạn văn trở thành ví dụ huấn luyện. Các truyền thống, thể loại và bất đồng phải được thể hiện rõ.

Ý tưởng hấp dẫn đằng sau dự án này là sự hợp tác có thể được củng cố bằng lý lẽ: sự phụ thuộc vào người khác, sự chú ý đến hệ quả và mối quan tâm vượt ra ngoài lợi ích trước mắt. Nhưng lòng vị tha không phải lúc nào cũng được đền đáp trong ngắn hạn, và một mô hình ngôn ngữ không tự động có được động cơ của con người chỉ bằng việc đọc về động cơ ấy. Chúng ta nên kiểm tra xem những lời giải thích có cải thiện quyết định khi lợi ích cá nhân, áp lực hoặc một chỉ dẫn gây hiểu lầm thúc đẩy hành vi có hại hay không. Gọi thử nghiệm ấy là có tham khảo tư tưởng Phật giáo không khiến kết quả của nó trở nên tất yếu.

Triết học và học tăng cường có thể kết hợp với nhau

Sự đối lập giữa hiểu biết bằng lý luận và phương pháp thưởng phạt là quá đơn giản. Kho ngữ liệu cung cấp nội dung; học có giám sát và học tăng cường là những cách thay đổi hành vi của mô hình. Constitutional AI đã kết hợp các nguyên tắc thành văn với việc học từ phản hồi. ^[3] Những ví dụ có tham khảo tư tưởng Phật giáo có thể được nghiên cứu trong các phương pháp như vậy, bên cạnh đạo đức thế tục, thay vì được quảng bá như phương án thay thế chúng. Không nên nhầm một điểm số ưu tiên với sự mô tả đầy đủ về những gì hệ thống đã học.

Báo cáo Teaching Claude why năm 2026 của Anthropic tìm hiểu cách huấn luyện nhấn mạnh lý do và khả năng khái quát hóa. ^[4] Điều đó làm cho câu hỏi nghiên cứu được đề xuất trở nên phù hợp, nhưng không xác thực giá trị của một kho ngữ liệu Phật giáo hay chuyển các kết quả của báo cáo sang Matreya. Chúng tôi sẽ hỏi những tài liệu Phật giáo cụ thể bổ sung được gì so với những lời giải thích phi tôn giáo được chuẩn bị cẩn thận tương đương. Phép so sánh không nên ưu ái nhãn tôn giáo hay một mô hình chỉ lặp lại những cách diễn đạt mà người đánh giá ưa thích.

Một danh mục rộng; một kho ngữ liệu có xét đến quyền sử dụng

Một sứ mệnh của Matreya là lập danh mục di sản văn bản Phật giáo có thể tiếp cận và từng bước xây dựng một kho ngữ liệu có hồ sơ đầy đủ để nghiên cứu và, khi được cho phép, huấn luyện AI. Độ bao quát là khát vọng dài hạn, không phải tuyên bố rằng chúng tôi sở hữu mọi văn bản. Chúng tôi sẽ tiếp cận các tông phái, dịch giả, thư viện và chủ thể nắm quyền bằng một đề xuất cụ thể: tác phẩm nào, bản nào, mô hình nào, quyền truy cập ra sao và công bố những gì. Mọi sự từ chối hoặc hạn chế đều được tôn trọng; đồng ý trao đổi về dự án không đồng nghĩa với cho phép đưa sách của mình vào hệ thống.

Chính sách truy cập của BDRC phân biệt tài liệu mở, tài liệu bị hạn chế và những quyền mà tổ chức này không nắm giữ. ^[6] Theo đó, mỗi mục được đề xuất cần có hồ sơ riêng cho tác phẩm cổ, ấn bản, bản dịch, bản quét, bản chép và chú giải. Việc đọc, số hóa, công bố, gửi tài liệu cho một nhà cung cấp và huấn luyện đều cần được kiểm tra riêng. Những mục có quyền sử dụng chưa rõ hoặc bị hạn chế sẽ nằm ngoài kho ngữ liệu huấn luyện. Chúng tôi sẽ lưu giữ nguồn gốc, các quyền được cấp, phiên bản và một kênh tiếp nhận chỉnh sửa; siêu dữ liệu công khai không nhất thiết phải bao gồm văn bản được bảo hộ bên dưới.

Một thử nghiệm nhỏ mà nhóm khác có thể lặp lại

Trước khi huấn luyện, hãy đăng ký một giả thuyết chính: chẳng hạn, giảm số quyết định có hại trong những tình huống xung đột được dành riêng cho kiểm tra mà không làm giảm khả năng hỗ trợ hữu ích. Bắt đầu từ cùng một mô hình nền có tài liệu công khai rõ ràng và so sánh các điều kiện: không huấn luyện bổ sung, dùng kho ngữ liệu trung tính, kho ngữ liệu đạo đức thế tục và kho ngữ liệu Phật giáo được phép sử dụng. Cân bằng dung lượng dữ liệu và tài nguyên tính toán sát nhất có thể, chạy với nhiều giá trị khởi tạo ngẫu nhiên và báo cáo những khác biệt còn lại. Giữ các tình huống kiểm tra ngoài dữ liệu huấn luyện và tránh chuyển văn bản bị hạn chế cho các dịch vụ bên ngoài.

Các thử nghiệm loại bỏ thành phần nên tách ảnh hưởng của nhãn tôn giáo khỏi chính lập luận và so sánh việc truy xuất đoạn văn với huấn luyện bổ sung. Nếu nghiên cứu huấn luyện dựa trên phản hồi, hãy áp dụng các thiết lập tương đương giữa các nhóm. Ghi lại phiên bản mô hình, bản kê bộ dữ liệu, quy trình tiền xử lý, các siêu tham số và bộ tiêu chí đánh giá. Công bố những ví dụ đã được xác nhận quyền sử dụng cùng kết quả tổng hợp, bao gồm thất bại và độ bất định. Đây là thiết kế được đề xuất; chưa có thử nghiệm nào được mô tả ở đây được thực hiện và cũng chưa có đợt huấn luyện trả phí nào được công bố.

Đánh giá hành vi khi lời nói là điều dễ dàng

Những người đánh giá không biết mô hình thuộc nhóm nào nên chấm điểm mức độ hỗ trợ gây hại, hành vi lừa dối, độ chính xác thực tế, việc thể hiện sự không chắc chắn có căn cứ, những lần từ chối không cần thiết và tính hữu ích trong thực tế. Bao gồm tiếng Nga cùng các ngôn ngữ khác mà mô hình thực sự tuyên bố hỗ trợ. Bổ sung áp lực, chỉ dẫn mâu thuẫn, thẩm quyền giả và những nỗ lực nhiều lượt nhằm vượt qua biện pháp bảo vệ. Trong môi trường thử nghiệm cô lập, hãy so sánh lựa chọn công cụ và hệ quả, không chỉ mức độ lịch sự của câu trả lời cuối cùng. Hệ thống cũng phải tôn trọng những người không chấp nhận niềm tin Phật giáo và không được đặt việc thực hành tôn giáo làm điều kiện để nhận hỗ trợ.

Sleeper Agents sử dụng các mô hình lừa dối được cố ý tạo ra để cho thấy vì sao hành vi tạo cảm giác an tâm có thể che giấu thất bại khi xuất hiện tác nhân kích hoạt. ^[5] Nghiên cứu đó không chứng minh rằng mọi mô hình đều lừa dối hay Phật giáo ngăn ngừa được sự lừa dối. Với đề xuất của chúng tôi, bài học nằm ở phương pháp: đánh giá vượt ra ngoài các câu lệnh quen thuộc và xem xét liệu những cải thiện bề ngoài có còn tồn tại khi động lực và bối cảnh thay đổi hay không. Nếu mô hình nghe có vẻ dịu dàng hơn nhưng vẫn đưa ra những lựa chọn gây hại như cũ, giả thuyết chính chưa được xác nhận.

Một trăm tình nguyện viên nghĩa là một trăm lựa chọn rõ ràng

Chúng tôi đặt mục tiêu xây dựng một cộng đồng gồm 100 tình nguyện viên, trong đó có các chuyên gia đang làm việc tại Nga về văn bản Phật giáo, phần mềm và AI. Đây là mục tiêu tuyển tình nguyện viên, không phải số thành viên hiện tại hay một chứng nhận học thuật. Lời mời nên đề cập đến công trình chuyên môn đã công bố của từng người, không mặc định tôn giáo của họ. Những đóng góp ban đầu hữu ích có thể nhỏ: kiểm tra một thuật ngữ mơ hồ, rà soát một bản ghi siêu dữ liệu, xác định một yếu tố gây nhiễu trong quy trình hoặc thiết kế một phép thử hành vi mới. Mỗi người tự chọn có tham gia hay không.

Trước khi bắt đầu, hãy thống nhất đối tượng công việc, kết quả mong đợi, thời gian cần dành, cách ghi nhận đóng góp và phạm vi sử dụng được phép. Một lần rà soát đầu tiên thông thường có thể mất hai mươi đến ba mươi phút, không kèm nghĩa vụ tiếp tục. Công việc tình nguyện không được trả thù lao; chúng tôi không hứa cấp bằng, ghi tên tác giả, tài trợ hay quyền truy cập các bộ sưu tập. Im lặng không phải là đồng ý. Những phản hồi riêng tư và tên người tham gia không phải sự chứng thực công khai, và việc giúp xử lý một văn bản không tự động cho phép dùng văn bản ấy để huấn luyện. Các nhà nghiên cứu và người thực hành có thể phản biện tiền đề của dự án cũng như ủng hộ nó.

Điều gì được xem là tiến bộ?

Một kết quả tích cực sẽ là sự cải thiện có thể tái lập trên những thước đo hành vi cụ thể, so với các mốc đối chứng có ý nghĩa, trong phạm vi được ghi rõ. Kết quả ấy sẽ là cơ sở cho nghiên cứu tiếp theo, không phải cho tuyên bố rằng sự hung hăng đã biến mất hay một thảm họa AI đã được ngăn chặn. Kết quả tiêu cực cũng hữu ích: nó có thể cho thấy kho ngữ liệu cải thiện cách dùng thuật ngữ nhưng không cải thiện hành vi, hoặc các tác động biến mất bên ngoài những tình huống quen thuộc. Chúng tôi nên báo cáo cả hai khả năng thay vì bảo vệ một cách giải thích mình ưa thích.

Công việc trước mắt là tập hợp một mẫu nhỏ đã được xác nhận quyền sử dụng, mời các chuyên gia Phật học và kỹ thuật phản biện, đồng thời hoàn thiện quy trình trước khi huấn luyện. Độc giả có thể đề xuất một nguồn công khai, đầu mối liên hệ về quyền sử dụng, một chỉnh sửa cách diễn giải hoặc một nhiệm vụ tình nguyện có phạm vi xác định qua trang hợp tác của viện. Cam kết của chúng tôi là giữ gìn lập luận, bối cảnh văn hóa và khả năng mình có thể sai. Điều đó mang lại cho ý tưởng đầy tham vọng này một hình thức mà người khác có thể xem xét và, nếu muốn, giúp kiểm nghiệm. ^[7]