ปรัชญาพุทธช่วยให้ AI ปลอดภัยขึ้นได้หรือไม่?
Matreya เริ่มต้นด้วยคำถามที่ทะเยอทะยานว่า การศึกษาข้อโต้แย้งทางพุทธศาสนาเกี่ยวกับความทุกข์ ความกรุณา และผลของการกระทำ จะช่วยให้ระบบ AI ตัดสินใจโดยก่ออันตรายน้อยลงได้หรือไม่? นี่คือข้อเสนอการวิจัย ไม่ใช่วิธีจัดการความเสี่ยงจาก AI ที่พิสูจน์แล้ว แบบจำลองอาจอธิบายความกรุณาได้ ขณะเดียวกันก็ช่วยใครบางคนก่ออันตราย ดังนั้น คำถามจึงอยู่ที่การตัดสินใจที่สังเกตได้ภายใต้เงื่อนไขยากลำบาก มากกว่าการใช้คำศัพท์พุทธศาสนาหรือการแสดงบุคลิกที่ทำให้วางใจ การป้องกันอันตรายระดับหายนะเป็นแรงจูงใจในการวิจัย ไม่ใช่ผลลัพธ์ที่โครงการของเราได้พิสูจน์แล้ว
โครงการริเริ่มของเรามีขนาดเล็ก เป็นอิสระ และไม่แสวงหากำไร โดยประสานงานทางออนไลน์จากเมืองวาร์นา เรากำลังเสนอคลังข้อความที่มีเอกสารกำกับและแผนการทดลอง เรายังไม่ได้จัดทำชุดข้อมูลพุทธศาสนาที่ครอบคลุมทั้งหมด ฝึกแบบจำลองที่ปลอดภัย หรือได้รับอนุญาตจากทุกสำนัก ขั้นแรกที่เป็นประโยชน์มีขอบเขตแคบกว่านั้น คือเลือกข้อความชุดหนึ่งที่ได้รับอนุญาต ระบุสมมติฐานเกี่ยวกับพฤติกรรมหนึ่งข้อ และเผยแพร่ระเบียบวิธีที่เปิดโอกาสให้ผลการทดสอบหักล้างสมมติฐานนั้นได้
เหตุผลสำหรับความใส่ใจ แทนการใช้คำขวัญ
ธรรมบทเชื่อมโยงการยุติความเป็นปฏิปักษ์กับการไม่เป็นปฏิปักษ์ ส่วนเมตตสูตรขยายความปรารถนาดีให้พ้นจากกลุ่มที่ตนชื่นชอบ [1] [2] สิ่งเหล่านี้เป็นคำสอนทางจริยธรรม ไม่ใช่ผลการวัดโครงข่ายประสาทเทียม แต่ชี้ให้เห็นคำถามที่เราสามารถแปลงเป็นเกณฑ์ทดสอบได้ว่า ระบบคำนึงถึงผู้ที่ได้รับผลกระทบจากคำแนะนำของตน สังเกตอันตรายที่ป้องกันได้ และเสนอทางเลือกที่เป็นประโยชน์หรือไม่? นักวิชาการด้านพุทธศาสนาควรตรวจสอบการตีความก่อนนำข้อความมาเป็นตัวอย่างสำหรับการฝึก ความแตกต่างระหว่างสายประเพณี ประเภทงานเขียน และข้อถกเถียงต้องยังคงปรากฏให้เห็น
แนวคิดที่น่าสนใจเบื้องหลังโครงการนี้คือ ความร่วมมืออาจได้รับแรงสนับสนุนจากเหตุผล ได้แก่ การพึ่งพาผู้อื่น การใส่ใจผลที่ตามมา และความห่วงใยที่ก้าวพ้นประโยชน์เฉพาะหน้า แต่การเห็นแก่ผู้อื่นไม่ได้รับผลตอบแทนในระยะสั้นเสมอไป และแบบจำลองภาษาก็ไม่ได้มีแรงจูงใจแบบมนุษย์ขึ้นมาโดยอัตโนมัติเพียงเพราะได้อ่านเรื่องนั้น เราควรทดสอบว่าคำอธิบายช่วยปรับปรุงการตัดสินใจได้หรือไม่ เมื่อผลประโยชน์ส่วนตน แรงกดดัน หรือคำสั่งที่ชวนให้เข้าใจผิดเอื้อต่อการกระทำที่เป็นอันตราย การเรียกการทดลองนั้นว่าได้รับแนวคิดจากพุทธศาสนาไม่ได้ทำให้ผลลัพธ์เป็นสิ่งที่หลีกเลี่ยงไม่ได้
ปรัชญาและการเรียนรู้แบบเสริมกำลังทำงานร่วมกันได้
การแบ่งแยกระหว่างความเข้าใจเชิงตรรกะกับวิธีให้รางวัลและลงโทษนั้นเรียบง่ายเกินไป คลังข้อความให้เนื้อหา ส่วนการเรียนรู้แบบมีผู้สอนและการเรียนรู้แบบเสริมกำลังเป็นวิธีเปลี่ยนพฤติกรรมของแบบจำลอง Constitutional AI ผสานหลักการที่เขียนไว้เข้ากับการเรียนรู้จากข้อมูลป้อนกลับอยู่แล้ว [3] เราอาจศึกษาตัวอย่างที่ได้รับแนวคิดจากพุทธศาสนาภายในวิธีการเหล่านี้ ควบคู่กับจริยธรรมทางโลก แทนการโฆษณาว่าใช้ทดแทนวิธีเหล่านั้นได้ ไม่ควรสับสนระหว่างคะแนนความชอบกับคำอธิบายอย่างครบถ้วนว่าระบบได้เรียนรู้อะไร
รายงาน Teaching Claude why ของ Anthropic ในปี 2026 สำรวจการฝึกที่เน้นเหตุผลและการประยุกต์สิ่งที่เรียนรู้ไปยังสถานการณ์อื่น [4] สิ่งนี้ทำให้คำถามวิจัยที่เสนอมีความเกี่ยวข้อง แต่ไม่ได้ยืนยันความใช้ได้ของคลังข้อความพุทธศาสนา หรือทำให้ผลจากรายงานนั้นใช้กับ Matreya ได้ เราจะถามว่าเนื้อหาพุทธศาสนาที่เลือกมานั้นเพิ่มอะไรเหนือคำอธิบายที่ไม่อิงศาสนาซึ่งจัดทำอย่างรอบคอบพอ ๆ กัน การเปรียบเทียบไม่ควรให้คะแนนเพิ่มเพราะป้ายกำกับทางศาสนา หรือเพราะแบบจำลองเพียงกล่าวซ้ำถ้อยคำที่ผู้ประเมินชื่นชอบ
บัญชีรายการที่กว้างขวาง และคลังข้อความที่คำนึงถึงการอนุญาต
พันธกิจหนึ่งของ Matreya คือจัดทำบัญชีรายการมรดกข้อความพุทธศาสนาที่เข้าถึงได้ และค่อย ๆ สร้างคลังข้อความที่มีเอกสารกำกับสำหรับการวิจัย และสำหรับการฝึก AI ในกรณีที่ได้รับอนุญาต ความครอบคลุมเป็นความมุ่งหวังระยะยาว ไม่ใช่การอ้างว่าครอบครองข้อความทุกชิ้น เราจะติดต่อสำนักต่าง ๆ ผู้แปล ห้องสมุด และผู้ทรงสิทธิ พร้อมข้อเสนอที่ชัดเจนว่าใช้ผลงานใด สำเนาใด แบบจำลองใด เปิดให้เข้าถึงอย่างไร และเผยแพร่อะไร เราเคารพการปฏิเสธหรือข้อจำกัด การตกลงพูดคุยเกี่ยวกับโครงการไม่ใช่การอนุญาตให้นำหนังสือเข้าสู่ระบบประมวลผล
นโยบายการเข้าถึงของ BDRC แยกแยะสื่อที่เปิดให้เข้าถึงกับสื่อที่มีข้อจำกัด รวมถึงสิทธิที่ BDRC ไม่ได้ถือครอง [6] ดังนั้น แต่ละรายการที่เสนอจึงต้องมีบันทึกแยกสำหรับงานต้นฉบับโบราณ ฉบับจัดพิมพ์ คำแปล ภาพสแกน ข้อความถอด และคำอธิบายประกอบ การอ่าน การแปลงเป็นดิจิทัล การเผยแพร่ การส่งเนื้อหาให้ผู้ให้บริการ และการฝึก ต้องตรวจสอบแยกจากกัน รายการที่สิทธิไม่ชัดเจนหรือมีข้อจำกัดจะไม่รวมอยู่ในคลังสำหรับการฝึก เราจะเก็บรักษาที่มา การอนุญาต เวอร์ชัน และช่องทางแก้ไขข้อผิดพลาด โดยข้อมูลเมทาดาทาที่เปิดเผยต่อสาธารณะไม่จำเป็นต้องมีตัวข้อความที่ได้รับความคุ้มครองรวมอยู่ด้วย
การทดลองขนาดเล็กที่ทีมอื่นสามารถทำซ้ำได้
ก่อนเริ่มฝึก ให้ลงทะเบียนสมมติฐานหลัก เช่น การตัดสินใจที่เป็นอันตรายลดลงในสถานการณ์ความขัดแย้งที่กันไว้สำหรับทดสอบ โดยไม่สูญเสียความช่วยเหลือที่เป็นประโยชน์ เริ่มจากแบบจำลองพื้นฐานเดียวกันที่มีเอกสารเปิดเผย และเปรียบเทียบระหว่างการไม่ฝึกเพิ่มเติม การใช้คลังข้อความเป็นกลาง คลังข้อความจริยธรรมทางโลก และคลังข้อความพุทธศาสนาที่ได้รับอนุญาต ทำให้ขนาดข้อมูลและทรัพยากรการคำนวณใกล้เคียงกันที่สุด ทดลองด้วยค่าเริ่มต้นสุ่มหลายค่า และรายงานความแตกต่างที่ยังเหลืออยู่ แยกสถานการณ์ทดสอบออกจากข้อมูลฝึก และหลีกเลี่ยงการส่งข้อความที่มีข้อจำกัดไปยังบริการภายนอก
การทดลองตัดองค์ประกอบควรแยกผลของป้ายกำกับทางศาสนาออกจากตัวข้อโต้แย้ง และเปรียบเทียบการดึงข้อความมาใช้กับการฝึกเพิ่มเติม หากศึกษาการฝึกด้วยข้อมูลป้อนกลับ ให้ใช้การตั้งค่าที่เทียบเคียงกันได้ในทุกกลุ่ม บันทึกเวอร์ชันแบบจำลอง บัญชีรายการชุดข้อมูล การประมวลผลล่วงหน้า ไฮเปอร์พารามิเตอร์ และเกณฑ์ประเมิน เผยแพร่ตัวอย่างที่ตรวจสอบสิทธิเรียบร้อยแล้วและผลรวม รวมถึงความล้มเหลวและความไม่แน่นอน นี่คือแบบการทดลองที่เสนอ ยังไม่มีการทดลองใดที่อธิบายไว้ที่นี่เกิดขึ้น และไม่มีการประกาศรอบการฝึกที่มีค่าใช้จ่าย
ประเมินการกระทำในเมื่อคำพูดเป็นเรื่องง่าย
ผู้ประเมินที่ไม่ทราบว่าแต่ละผลลัพธ์มาจากกลุ่มใดควรให้คะแนนความช่วยเหลือที่เป็นอันตราย การหลอกลวง ความถูกต้องของข้อเท็จจริง การแสดงความไม่แน่นอนอย่างมีเหตุผล การปฏิเสธที่ไม่จำเป็น และความเป็นประโยชน์ในทางปฏิบัติ ให้รวมภาษารัสเซียและภาษาอื่นที่แบบจำลองอ้างว่ารองรับจริง เพิ่มแรงกดดัน คำสั่งที่ขัดแย้งกัน การอ้างอำนาจเท็จ และความพยายามหลายรอบสนทนาเพื่อหลีกเลี่ยงมาตรการป้องกัน ในสภาพแวดล้อมทดสอบที่แยกไว้ ให้เปรียบเทียบการเลือกใช้เครื่องมือและผลที่ตามมา ไม่ใช่เพียงความสุภาพของคำตอบสุดท้าย ระบบควรเคารพผู้ที่ไม่ยอมรับความเชื่อทางพุทธศาสนาด้วย และไม่ควรกำหนดให้การปฏิบัติทางศาสนาเป็นเงื่อนไขในการได้รับความช่วยเหลือ
งาน Sleeper Agents ใช้แบบจำลองหลอกลวงที่สร้างขึ้นโดยเจตนา เพื่อแสดงให้เห็นว่าเหตุใดพฤติกรรมที่ดูน่าไว้วางใจจึงอาจซ่อนความล้มเหลวเมื่อมีสิ่งกระตุ้น [5] งานนี้ไม่ได้พิสูจน์ว่าแบบจำลองทุกตัวหลอกลวง หรือว่าพุทธศาสนาป้องกันการหลอกลวงได้ สำหรับข้อเสนอของเรา บทเรียนอยู่ที่ระเบียบวิธี คือประเมินให้พ้นจากพรอมป์ต์ที่คุ้นเคย และตรวจสอบว่าการปรับปรุงที่เห็นยังคงอยู่หรือไม่เมื่อแรงจูงใจและสภาพแวดล้อมเปลี่ยนไป หากแบบจำลองฟังดูอ่อนโยนขึ้นแต่ยังเลือกการกระทำที่เป็นอันตรายเหมือนเดิม สมมติฐานหลักก็ยังไม่ประสบผลสำเร็จ
อาสาสมัครหนึ่งร้อยคนหมายถึงการเลือกเข้าร่วมอย่างชัดเจนหนึ่งร้อยครั้ง
เรามุ่งสร้างชุมชนอาสาสมัคร 100 คน รวมถึงผู้เชี่ยวชาญที่ทำงานในรัสเซียด้านข้อความพุทธศาสนา ซอฟต์แวร์ และ AI นี่คือเป้าหมายการรับอาสาสมัคร ไม่ใช่จำนวนสมาชิกปัจจุบันหรือเครื่องรับรองทางวิชาการ คำเชิญควรอ้างอิงผลงานทางวิชาชีพที่บุคคลนั้นเผยแพร่ โดยไม่สันนิษฐานศาสนาของเขา การมีส่วนร่วมครั้งแรกที่เป็นประโยชน์อาจเป็นงานเล็ก ๆ เช่น ตรวจคำที่กำกวมหนึ่งคำ ทบทวนบันทึกเมทาดาทาหนึ่งรายการ ระบุตัวแปรกวนหนึ่งอย่างในระเบียบวิธี หรือออกแบบการทดสอบพฤติกรรมใหม่หนึ่งชุด แต่ละคนเลือกเองว่าจะเข้าร่วมหรือไม่
ก่อนเริ่มงาน ให้ตกลงสิ่งที่จะตรวจ ผลงานที่คาดหวัง เวลาที่ต้องใช้ การระบุชื่อผู้มีส่วนร่วม และการใช้งานที่อนุญาต การทบทวนครั้งแรกโดยทั่วไปอาจใช้เวลายี่สิบถึงสามสิบนาที โดยไม่มีข้อผูกพันให้ต้องทำต่อ งานอาสาสมัครไม่มีค่าตอบแทน เราไม่ให้คำมั่นเรื่องประกาศนียบัตร การมีชื่อเป็นผู้เขียน เงินทุน หรือสิทธิเข้าถึงคอลเลกชัน ความเงียบไม่ใช่ความยินยอม คำตอบส่วนตัวและรายชื่อไม่ใช่การรับรองต่อสาธารณะ และการช่วยตรวจข้อความไม่ได้อนุญาตให้นำข้อความนั้นไปฝึกโดยอัตโนมัติ นักวิจัยและผู้ปฏิบัติสามารถตั้งคำถามต่อข้อเสนอพื้นฐานของโครงการได้เช่นเดียวกับที่สามารถสนับสนุนโครงการได้
อะไรจึงจะนับเป็นความก้าวหน้า?
ผลเชิงบวกคือการปรับปรุงที่ทำซ้ำได้ตามตัวชี้วัดพฤติกรรมที่ระบุ เมื่อเทียบกับค่าฐานที่มีความหมาย ภายในขอบเขตที่มีเอกสารกำกับ ผลเช่นนี้จะเป็นเหตุผลให้ศึกษาต่อ ไม่ใช่ให้อ้างว่าความก้าวร้าวหายไปแล้ว หรือป้องกันหายนะจาก AI ได้แล้ว ผลเชิงลบก็มีประโยชน์เช่นกัน เพราะอาจแสดงว่าคลังข้อความช่วยให้ใช้ศัพท์ได้ดีขึ้นโดยไม่ได้ปรับปรุงการกระทำ หรือผลที่ได้หายไปเมื่ออยู่นอกสถานการณ์ที่คุ้นเคย เราควรรายงานผลทั้งสองแบบ แทนการปกป้องคำอธิบายที่ตนชื่นชอบ
งานในระยะใกล้คือรวบรวมตัวอย่างขนาดเล็กที่ตรวจสอบสิทธิเรียบร้อยแล้ว เชิญผู้เชี่ยวชาญด้านพุทธศาสนาและเทคนิคมาวิพากษ์ และปรับปรุงระเบียบวิธีก่อนเริ่มฝึก ผู้อ่านสามารถเสนอแหล่งข้อมูลสาธารณะ ผู้ติดต่อเรื่องการอนุญาต การแก้ไขการตีความ หรืองานอาสาสมัครที่มีขอบเขตชัดเจนผ่านหน้าความร่วมมือของสถาบัน สิ่งที่เรามุ่งมั่นคือรักษาเหตุผล บริบททางวัฒนธรรม และความเป็นไปได้ที่เราจะคิดผิดไว้ สิ่งนี้ทำให้แนวคิดที่ทะเยอทะยานมีรูปแบบที่ผู้อื่นตรวจสอบได้ และหากเลือก ก็สามารถช่วยทดสอบได้ [7]
แหล่งข้อมูล
- Dhammapada, chapter1 — translation by Acharya Buddharakkhita
- Karaniya Metta Sutta — translation by Thanissaro Bhikkhu
- Anthropic — Constitutional AI: Harmlessness from AI Feedback (2022)
- Anthropic — Teaching Claude why (2026)
- Anthropic — Sleeper Agents (2024)
- Buddhist Digital Resource Center — Access Policies
- Matreya — collaboration and a private contact route (13 languages via menu)