ทำไมในชุมชนนักเหตุผลนิยมจึงมีลัทธิอยู่มากนัก?

• กลุ่มความเชื่อเล็กๆ ที่แปลกประหลาดภายในชุมชนนักเหตุผลนิยม เกิดขึ้นซ้ำแล้วซ้ำเล่า และบางส่วนก็เชื่อมโยงกับ เหตุรุนแรงที่เกิดขึ้นจริง
• ปรากฏการณ์นี้มีที่มาจากการที่ เนื้อหาที่เน้นวิธีคิดอย่างมีเหตุผล (Sequences) สัญญาว่าจะมอบทักษะในการ “คิดได้ดีกว่าเดิม” แต่ในความเป็นจริงกลับไม่อาจทำให้คำสัญญานั้นเป็นจริงได้
• ผู้คนที่อยู่ในสถานะเปราะบาง มีแนวโน้มสูงกว่าที่จะเข้าไปพัวพันกับกลุ่มอันตรายในชุมชน และมักถูกตัดขาดจากโลกภายนอกจนออกมาได้ยาก
• ความเชื่อและการกระทำที่เชื่อมโยงกันภายในกลุ่ม, ท่าทีที่จริงจังกับไอเดียมากเกินไป, ความโดดเดี่ยวทางสังคม ล้วนก่อให้เกิดความบกพร่องร้ายแรงได้
• การเกิดขึ้นของลัทธิในหมู่นักเหตุผลนิยมอาจป้องกันได้ยากโดยสิ้นเชิง แต่การรักษา ความเชื่อมโยงกับโลกภายนอก, ความหลากหลายทางสังคม, โครงสร้างองค์กรที่ดีต่อสุขภาพ จะช่วยลดผลกระทบเชิงลบได้

---

บทนำ

• ชุมชนนักเหตุผลนิยมเป็นกลุ่มที่มีจุดกำเนิดจากบล็อกซีรีส์ ‘Sequences’ ที่เขียนโดย Eliezer Yudkowsky นักวิจัย AI
• ซีรีส์นี้ว่าด้วยวิธีคิดอย่างมีเหตุผล ทำให้คาดหวังได้ว่าสมาชิกชุมชนจะเป็นแบบอย่างของการคิดเชิงวิพากษ์และความสงสัยอย่างมีหลักการ
• แต่ในความเป็นจริงกลับมีกลุ่มเล็กๆ ประหลาดที่ติดต่อกับปีศาจ เหตุรุนแรง และกลุ่มที่ก่อบาดแผลทางใจ เกิดเป็น กลุ่มประหลาดและเป็นอันตราย ภายในชุมชน
• ตัวอย่างเด่นได้แก่กลุ่ม Zizians ซึ่งเป็นกลุ่มวีแกน อนาธิปไตย ทรานส์ฮิวแมนนิสต์ รวมถึงกรณีของ Black Lotus และ Leverage Research
• ผู้เขียนเป็นทั้งคนในชุมชนและได้เข้าถึงข้อมูลอย่างที่ไม่เคยมีมาก่อนผ่านการสัมภาษณ์เชิงลึกที่ตรงไปตรงมา

ปัญหาของนักเหตุผลนิยมรุ่นเยาว์

• โดยรวมแล้วชุมชนนักเหตุผลนิยมยังทำงานได้ตามปกติ แต่บางกลุ่มกลับมีโครงสร้างที่ บกพร่องอย่างรุนแรง

• ‘Sequences’ สัญญาถึง “ศิลปะแห่งการคิดให้ดีขึ้น” และอนาคตอันไม่ธรรมดา แต่ในทางปฏิบัติ คำสัญญานั้นเป็นไปไม่ได้ที่จะทำให้เกิดขึ้นจริง

• ผู้ให้สัมภาษณ์หลายคนชี้ว่าเนื้อหาเหล่านี้สร้าง วัตถุดิบตั้งต้นของลัทธิ

• Eliezer Yudkowsky ไม่ได้กระตือรือร้นกับการสร้างความเป็นหมู่คณะมากนัก แต่ผู้คนจากภายนอกที่หลั่งไหลเข้ามามักโหยหาการเปลี่ยนแปลงโดยผู้มีอำนาจและภารกิจแบบวีรบุรุษ

• ความบกพร่องของบางกลุ่มอาจมาจากผู้นำ (เช่น Brent Dill แห่ง Black Lotus) หรืออาจเกิดจากพลวัตที่เป็นพิษซึ่งค่อยๆ ก่อตัวขึ้นจากฐานล่างเอง (เช่น Leverage Research)

• ผู้ที่เปราะบางมักตกเป็นเชลยของกลุ่มที่แยกตัวออกจากสังคมได้ง่าย และก็ยากที่จะหลุดพ้นเมื่อเกิดปัญหา

• ในช่วงแรก ชุมชนเคยช่วยเหลือสมาชิกที่ยังไม่พร้อม แต่ต่อมาคนที่ประสบความสำเร็จกลับมีแนวโน้มถอนการสนับสนุนของตนเอง

• สมาชิกใหม่ที่ไม่ได้รับการช่วยเหลือจึงตกเป็น เป้าหมายของกลุ่มอันตรายภายใน ได้ง่าย

ความจริงจังของความเชื่อ

• ภายในกลุ่มที่บกพร่อง ความเชื่อเอง คือสาเหตุหลัก มากกว่าทั้ง ความโดดเดี่ยวทางสังคม และ การชักใยโดยผู้นำ

• ตัวอย่างเช่น ทฤษฎีการตัดสินใจแบบสุดโต่งของ Zizians (ความเชื่อว่าต้องตอบโต้ต่อภัยคุกคามอย่างไม่มีเงื่อนไข) เชื่อมโยงโดยตรงกับการกระทำจริง

• Leverage Research พยายามใช้ ทฤษฎีบูรณาการทางจิตวิทยา ที่เรียกว่า ‘Connection Theory’ เพื่อทำความเข้าใจโครงสร้างภายในของสมาชิกและแก้ปัญหา

• การพยายามปรับพฤติกรรมของตนให้เข้ากับแบบจำลองทางจิตวิทยาที่เรียบง่ายเช่นนี้ กลับทำให้เกิด ปัญหาทางจิตใจ ได้

• Brent Dill ชักนำให้สมาชิกตีความโลกและผู้อื่นอย่างเหยียดเย้ยและมองในแง่ร้าย ซึ่งกลายเป็นความไม่ไว้วางใจกันในกลุ่มและเป็นอันตรายที่ลึกที่สุด

• เมื่อนักเหตุผลนิยมปฏิเสธความไว้วางใจต่อผู้เชี่ยวชาญและพยายามคิดด้วยตนเอง ก็กลับเสี่ยงในเชิงย้อนแย้งที่จะ มอบการคิดของตนให้ผู้นำที่มีเสน่ห์บารมี

• การ ‘จริงจังกับไอเดีย’ และ ‘ความเป็นเจ้าของการตัดสินใจของตน’ เดิมทีเป็นคุณธรรม แต่เมื่อใช้ผิดทางก็อาจนำไปสู่พฤติกรรมเสี่ยงที่หลุดออกจากบรรทัดฐานได้

ความระมัดระวังต่อจิตวิทยา

• ในกลุ่มที่มีปัญหา การถกเถียงอย่างยาวนานและเข้มข้นเกี่ยวกับ ปรัชญา จิตวิทยา และความสัมพันธ์ภายในกลุ่ม กลายเป็นเรื่องปกติในชีวิตประจำวัน

• ในทางกลับกัน กลุ่ม co-living ที่ดีต่อสุขภาพกลับมุ่งเน้น กิจกรรมภายนอกหรือความสำเร็จที่จับต้องได้ (เช่น การเขียนโปรแกรม การเล่นเกม ฯลฯ)

• สมาชิกของ Black Lotus เองก็มีกรณีที่ได้ความมั่นใจจากการรับบทบาทสำคัญที่มีความหมายจริง

• แม้แต่ใน Leverage Research กลุ่มย่อยที่ทำโครงการจริงจัง (เช่น การพัฒนาคริปโตเคอร์เรนซี) ก็มีความแข็งแรงทางสุขภาวะมากกว่า

• การถกเถียงเรื่อง อารมณ์ภายในกลุ่มและการวิเคราะห์ทางจิตวิทยา มากเกินไป จะยิ่งทำให้ความบกพร่อง ความวิตกกังวล ความโดดเดี่ยว และการตัดขาดจากความเป็นจริงรุนแรงขึ้น

• เมื่อกลุ่มไม่มีเป้าหมายภายนอกที่เป็นรูปธรรม การถกเถียงภายในที่ยืดเยื้อจะยิ่งขยายพลวัตที่เป็นอันตราย

• หากการสำรวจจิตวิทยากลุ่มและอารมณ์เป็นกิจวัตรยาวนานทุกวัน แม้จะยังไม่ถึงขั้นลัทธิ ก็เป็นสัญญาณว่ามีบางอย่างกำลังผิดปกติ

อันตรายของผลลัพธ์นิยม (Consequentialism)

• หากรับเอา โลกทัศน์แบบผลลัพธ์นิยม อย่างจริงจัง ก็อาจใช้เป็นเหตุผลให้เกิดการอุทิศตนและการเสียสละต่อผู้นำอย่างเกินขอบเขตได้
• แนวคิดเรื่อง หายนะการสูญพันธุ์จาก AGI (ปัญญาประดิษฐ์ทั่วไป) ที่ถูกพูดถึงบ่อยในชุมชนนักเหตุผลนิยม ทำให้เกิดความตึงเครียดและความหมกมุ่นภายในกลุ่ม
• ผู้ที่ไม่มีความสามารถมากพอจะมีส่วนร่วมกับ AI ได้ อาจยิ่งยึดติดกับ โครงการทดแทนหรือกลุ่มย่อยขนาดเล็ก จนตกสู่ความบกพร่องได้ง่าย
• อุดมการณ์ใหญ่โต (เช่น วิกฤตของมนุษยชาติ) ทำให้แม้แต่เรื่องในชีวิตประจำวันก็ถูก เติมความหมายเกินจริง
• ทั้งที่ในความเป็นจริง การรับมือวิกฤตคือความต่อเนื่องของงานที่เรียบง่ายและซ้ำๆ แต่กลับแสวงหาจินตนาการแบบวีรบุรุษที่ไม่สอดคล้องกับสิ่งนั้น

ความระมัดระวังต่อความโดดเดี่ยว

• ความโดดเดี่ยวทางสังคม การคล้อยตามกันภายในกลุ่ม และการตัดขาดจากภายนอก คือหัวใจสำคัญที่ทำให้ความบกพร่องรุนแรงขึ้น
• การที่สมาชิกไม่ออกไปไหนนอกบ้านหรือสำนักงาน เป็นหนึ่งในสัญญาณที่ชัดที่สุดว่ากลุ่มนั้นอาจเป็นลัทธิ
• ความจริงที่นิยามกันเองเฉพาะภายใน การ排除ผู้วิจารณ์ และการเฝ้าระวังกันเอง นำไปสู่ภาวะคิดแบบหมู่และการเชื่อเกินพอดี
• รูปแบบที่อาศัยอยู่บ้านเดียวกันและให้กลุ่มจัดหาทุกความจำเป็น ทำให้ ความเป็นอิสระและความสามารถในการใช้ชีวิตในโลกภายนอก อ่อนแอลง
• ความลับแม้แต่ระหว่างกลุ่มย่อยภายในเองก็เป็นปัญหา และการเปิดโปงกับการสื่อสารที่ไม่เพียงพอก็ยิ่งทำให้วงจรเลวร้ายดำเนินต่อไป

บทสรุปและข้อเสนอแนะ

• ความบกพร่องของชุมชนนักเหตุผลนิยมไม่ได้ร้ายแรงเป็นพิเศษกว่าที่อื่น เพียงแต่ปรากฏออกมาใน “รูปแบบที่น่าสนใจกว่า”
• แนวโน้มเฉพาะของชุมชนอย่างการ ‘ลงมือทำตามสิ่งที่เชื่อ’ และ ‘ใช้ชีวิตต่างจากสังคมเดิม’ เป็นหนึ่งในสาเหตุ แต่ก็ ไม่อาจกำจัดได้หมดสิ้น
• ในระดับปัจเจกและระดับชุมชน กลยุทธ์ต่อไปนี้จะช่วยลดความบกพร่องได้

คำแนะนำสำหรับปัจเจก

1. หากมีการพูดคุยยาวนานต่อเนื่องเกี่ยวกับความสัมพันธ์และอารมณ์ภายในกลุ่ม นั่นคือสัญญาณเตือน
2. ทำกิจกรรมที่มีเกณฑ์วัดความสำเร็จอย่างเป็นรูปธรรม และสร้างจุดเชื่อมต่อกับโลกภายนอก
3. รักษาความสัมพันธ์กับกลุ่มสังคมที่หลากหลาย
4. แยกเรื่องงาน ที่อยู่อาศัย และกระบวนการบำบัดออกจากกัน
5. ต่อให้เป็นความเชื่อที่ทุกคนในกลุ่มยอมรับ ก็ยังต้องให้คนนอกหรือการตรวจสอบอย่างอิสระช่วยทวนสอบ
6. หากตรรกะนามธรรมที่สลับซับซ้อนยาวเหยียดสุดท้ายลงเอยว่า “ทำร้ายผู้อื่นได้” หรือ “ทุกอย่างสำคัญน้อยกว่างานนี้” ก็ควรตั้งข้อสงสัย
7. หากไม่มีทางเลือกอื่นและกำลังจะเข้าร่วมกลุ่มที่มีข้อเรียกร้องสูง ควรพิจารณาอย่างรอบคอบ

คำแนะนำสำหรับชุมชน

• รักษาความผูกพันกับสมาชิกที่เข้าไปอยู่ในกลุ่มที่บกพร่อง และให้การสื่อสารแบบปกติมากกว่าการกล่าวโทษ
• สร้าง ความคาดหวังที่เป็นจริง ให้กับสมาชิกใหม่ และพิจารณาขยายการสนับสนุนที่เป็นรูปธรรม
• สื่อสารอย่างตรงไปตรงมาว่าการเข้าสู่พื้นที่อย่าง AI safety ไม่ใช่เรื่องง่าย และอย่าลดทอนคุณค่าของคนที่ไม่สามารถมีส่วนร่วมได้
• กระตุ้นการพูดคุยเรื่อง “เส้นห้ามทางจริยธรรม” (สิ่งที่ชัดเจนว่าไม่ควรทำ)