ตอนนี้ผมคิดว่าตัวเองน่าจะเป็นสาย Rationalist แล้ว
(scottaaronson.blog)- Scott Aaronson มองว่า หลังจากไปร่วมงาน LessOnline ที่ Berkeley เขาสามารถยอมรับอัตลักษณ์ Rationalist ซึ่งเคยเว้นระยะห่างมานานได้แล้ว
- สิ่งที่ฝังใจที่สุดในงานไม่ใช่เซสชันทางการ แต่เป็น บทสนทนากลุ่มเล็ก ที่เกิดขึ้นทั่ว Lighthaven และถึงขั้นมีการแนะนำผู้เข้าร่วมให้ข้ามเซสชันไปคุยกันอย่างลึกซึ้ง
- ในอดีต สิ่งที่ทำให้รู้สึกห่างเหินที่สุดคือการหมกมุ่นว่า AI อาจทรงพลังเหนือมนุษย์ในไม่ช้า แต่หลังจาก ความเปลี่ยนแปลงเชิงประจักษ์ของ AI ในช่วงหลัง เขาก็ถอนจุดยืนฝั่งตรงข้าม และใช้เวลาทำงานวิจัย AI alignment ด้วย
- แม้เคยมีความต่างทางวัฒนธรรม บรรยากาศคล้ายลัทธิ และความกลัวว่าจะถูกคนนอกล้อเลียน แต่ที่ LessOnline เขาได้เห็นผู้เข้าร่วมที่แต่งงานและมีลูก การถกเถียงอย่างเปิดเผย และผู้นำรุ่นใหม่ที่ผลัดขึ้นมา
- เขาเลือกจะเชื่อประสบการณ์ที่เห็นด้วยตาตัวเองมากกว่าคำตำหนิจากภายนอก และยอมรับชุมชน Rationalist เป็นหนึ่งในชุมชนทางปัญญาของตน โดยยังคงอัตลักษณ์และความเชื่อเดิมไว้
ผู้คนและพื้นที่ที่พบใน LessOnline
- Scott Aaronson เข้าร่วม LessOnline และได้พบคนที่รู้จักกันมานาน เช่น Scott Alexander, Eliezer Yudkowsky, Zvi Mowshowitz, Sarah Constantin, Carl Feynman
- เขายังได้พบตัวจริงของ Joe Carlsmith, Jacob Falkovich, Daniel Reeves ซึ่งก่อนหน้านี้รู้จักกันแค่ทางออนไลน์
- งานจัดขึ้นที่ Lighthaven ใกล้ Telegraph Avenue ใน Berkeley และถูกบรรยายว่าเป็นพื้นที่ที่มีทางเดิน ห้องประชุม ที่พัก สวน และเถาวัลย์เกี่ยวพันกัน
- ใน LessOnline ปีนี้ Aaronson จัดกิจกรรมสองรายการ
- บทสนทนากับ Nate Soares ว่าด้วย Orthogonality Thesis
- AMA เกี่ยวกับคอมพิวเตอร์ควอนตัมและวิทยาการคอมพิวเตอร์เชิงทฤษฎี
เวทีของบทสนทนาที่ใหญ่กว่าเซสชัน
- สิ่งที่น่าจดจำที่สุดคือ บทสนทนาคู่ขนานของผู้คนหลายร้อยคน ที่ดำเนินไปทั่วพื้นที่จัดงานตั้งแต่เช้าถึงค่ำ มากกว่าเซสชันทางการ
- ในเซสชันเปิดงาน มีการแนะนำผู้เข้าร่วมให้ข้ามเซสชันให้มากที่สุดเท่าที่ทำได้ แล้วไปคุยกันในกลุ่มเล็กอย่างเข้มข้น
- เหตุผลคือวิธีนั้นดีกว่า และห้องเซสชันก็เล็กเกินไป
- เขาเล่าว่าแค่เดินระหว่างอาคารก็อาจใช้เวลาหลายชั่วโมง เพราะคนที่เห็นป้ายชื่อจะถามคำถามแทบทุกระยะราว 5 ฟุต
- ในบทสนทนากับ Scott Alexander, Aaronson บอกว่าตอนนี้เขารู้สึกเหมือนพร้อมจะเป็น Rationalist แล้ว ส่วน Alexander ตอบว่าเขาเข้ามาตั้งแต่ 10 ปีก่อน หรือแก้ใหม่คือ 20 ปีก่อนแล้ว
การปะทะทางความคิดกับเหล่า Rationalist
- สิ่งแรกที่เขาทำหลังประกาศว่าตนเป็น Rationalist คือการถกเถียงอย่างดุเดือดกับ Scott Alexander, Joe Carlsmith และคนอื่น ๆ เกี่ยวกับเรียงความเมื่อ 12 ปีก่อนของเขา Ghost in the Quantum Turing Machine
- ประเด็นของ Aaronson อยู่ที่ ความย้อนกลับไม่ได้ และความชั่วคราวของชีวิตทางชีววิทยา ซึ่งต่างจากโปรแกรมคอมพิวเตอร์ดิจิทัลที่คัดลอกและย้อนกลับได้
- เขามองว่าความแตกต่างนี้อาจเชื่อมโยงกับรายละเอียดระดับจุลภาคในสภาพตั้งต้นของจักรวาล, No-Cloning Theorem ในกลศาสตร์ควอนตัม และการขยายแบบโกลาหลในกิจกรรมของสมอง
- เขามองว่าองค์ประกอบเหล่านี้อาจเป็นเบาะแสที่ชี้ไปสู่ชั้นของโลกที่ลึกกว่า เมื่อต้องจัดการปัญหาอย่างเจตจำนงเสรีและจิตสำนึก
- การถกเถียงนี้ยังเป็นความพยายามที่จะเผยจุดปะทะที่ใหญ่ที่สุดระหว่างฉันทามติของเหล่า Rationalist กับความเชื่อของตัวเขาเอง
เหตุผลที่เขาไม่เคยเรียกตัวเองว่า Rationalist มาก่อน
- Aaronson ขีดเส้นว่าอัตลักษณ์เดิมของเขาไม่ได้เปลี่ยนไป
- นักวิทยาการคอมพิวเตอร์
- สมาชิกแวดวงวิชาการ
- ผู้ลงคะแนนให้พรรคเดโมแครตทั้งแถว
- ไซออนิสต์สายเสรีนิยม
- ชาวยิว
- เหตุผลแรกคือเมื่อราว 15 ปีก่อน เขารู้สึกแปลกกับการที่เหล่า Rationalist หมกมุ่นกับประเด็นว่า AI อาจทรงพลังเหนือมนุษย์ในไม่ช้า และอาจเปลี่ยนเงื่อนไขพื้นฐานของชีวิตบนโลก
- แต่ พัฒนาการเชิงประจักษ์ หลังจากนั้นทำให้จุดยืนคัดค้านของเขาสั่นคลอน
- เขามองว่าสิ่งที่เหล่า Rationalist คิดผิดอย่างมากเกี่ยวกับ AI คือการประเมินต่ำไปว่าการปฏิวัติจะเกิดขึ้นเร็วแค่ไหน
- พวกเขาประเมินจำนวนไอเดียใหม่ที่จำเป็นสูงเกินไป และในความเป็นจริง ปัจจัยหลักกลับเป็นคอมพิวต์และข้อมูลฝึกที่มากขึ้น
- ปัจจุบัน Aaronson เองก็ใช้เวลาบางส่วนกับงานวิจัย AI alignment และยังจัดประชุมวิจัยกับเพื่อนร่วมงานที่ LessOnline ด้วย
ระยะห่างทางวัฒนธรรมและความเปลี่ยนแปลง
- เหตุผลที่สองคือความต่างด้านวิถีชีวิตและวัฒนธรรม
- เขาเคยมีภาพจำว่าเหล่า Rationalist มีศูนย์กลางเป็นคนวัย 20 กว่า ๆ ที่ทำงานในองค์กรเฉพาะของตนเองหลายแห่งใน Berkeley และ San Francisco
- เขามองว่ามีวัฒนธรรมที่เชื่อมโยงกับบ้านรวมกลุ่ม รสนิยมทางเพศ อัตลักษณ์ทางเพศ เฟติช และบางครั้งก็สารหลอนประสาท
- Aaronson วางตัวเองเป็นคนที่ห่างไกลจากวัฒนธรรมนั้น
- ชายรักหญิง
- อยู่ในความสัมพันธ์แบบคู่เดียว
- ศาสตราจารย์ประจำตำแหน่งวัยกลางคน
- แต่งงานกับคู่สมรสที่ทำอาชีพเดียวกัน
- เลี้ยงลูกสองคนที่เรียนโรงเรียนทั่วไป
- เมื่อเวลาผ่านไป เขามองว่า Rationalist จำนวนมากแต่งงาน มีลูก หรือมีทั้งสองอย่างแล้ว
- ภาพเด็กเล็กจำนวนมากวิ่งเล่นในแคมปัส Lighthaven ที่ LessOnline ก็เป็นอีกสิ่งที่เขาประทับใจ
- บางคนถูกโน้มน้าวด้วยอุดมการณ์ส่งเสริมการมีบุตรอย่างชัดเจน หรือหนังสือ Selfish Reasons to Have More Kids ของ Bryan Caplan ขณะที่บางคนก็ทำตามแรงผลักดันของมนุษย์ที่มีมายาวนาน
- เซสชันเรื่องการเลี้ยงลูกใน LessOnline กล่าวถึงการเลี้ยงลูกให้เป็นอิสระและมีความเป็นตัวของตัวเอง แต่ก็เข้าสังคมได้ เชี่ยวชาญเทคโนโลยีแต่ไม่ติดเกม iPad
- การเลือกโรงเรียนที่เรียนคณิตศาสตร์ได้เร็ว
- วิธีหลีกเลี่ยงประสบการณ์โรงเรียนที่น่าเบื่อ
- พ่อแม่ควรเสียสละชีวิตของตนเองมากแค่ไหนเพื่อ “enrichment” ของลูก
- ควรเชื่อถือผลตอบแทนที่ลดลงของความพยายามตามที่ Judith Rich Harris กล่าวไว้มากเพียงใด
ความกังวลเรื่องลัทธิและสิ่งที่เห็นจริง
- เหตุผลที่สามคือเหล่า Rationalist เคยมีกลิ่นอาย คล้ายลัทธิ อยู่บ้าง โดยมี Eliezer Yudkowsky เป็นกูรู
- เขามองว่า Eliezer เขียนด้วยอุปมาและถ้อยคำแบบปริศนาธรรม และสอนว่าชะตากรรมของชีวิตบนโลกกำลังเป็นเดิมพัน โดยผู้ที่เข้าใจเรื่องนี้มีภาระต้องนำพาอนาคต
- แต่ภาพที่เห็นที่ Lighthaven กลับคล้ายชุมชนที่เชื่อในบางสิ่งในระดับเดียวกับ Beatniks, Bloomsbury Group หรือ Royal Society ยุคแรก ๆ มากกว่า
- แม้เมื่อ Eliezer ปรากฏตัว เขาก็เป็นเป้าของการถกเถียงเช่นเดียวกับคนอื่น ๆ
- ความเป็นผู้นำได้เปลี่ยนผ่านไปยังคนรุ่นใหม่ในระดับมากแล้ว
- Nate Soares และ Zvi Mowshowitz พบวิธีใหม่ในการพูดถึงความเสี่ยงจาก AI
- Scott Alexander เขียนบล็อกที่กลายเป็นศูนย์กลางทางปัญญาของชุมชนในช่วง 10 ปีที่ผ่านมา
- Kelsey Piper, Jacob Falkovich, Aella และคนอื่น ๆ ขยาย rationalism ออกไปตั้งแต่การมีส่วนร่วมทางการเมืองกระแสหลักไปจนถึงทิศทางอื่น ๆ
- อย่างไรก็ดี เขายอมรับว่าประสบการณ์เต้นตามเพลงป๊อปที่ AI สร้างขึ้นเกี่ยวกับ Bayes’ theorem และนิยามความจริงของ Tarski นั้นยากที่จะไม่รู้สึก “cringe”
ประสบการณ์ที่เห็นเองเหนือเสียงล้อเลียนจากภายนอก
- ความลังเลที่ลึกที่สุดคือความกลัวว่า ถ้าเปิดเผยว่าเป็น Rationalist เพื่อนร่วมงานในแวดวงวิชาการหรือคนสุ่ม ๆ บนอินเทอร์เน็ตอาจหัวเราะเยาะเขา
- เขาบอกว่าเป็นเวลานาน เขาพยายามหาวิธีอธิบายเสน่ห์ของชุมชนนี้อย่างมีเหตุผลมากพอที่จะทำให้คำล้อเลียนเงียบลง
- เมื่อ 5 ปีก่อน เขารู้สึกว่าชุมชน Rationalist อาจล่มสลายจากคำโจมตีของบทความใน New York Times โดย Cade Metz, RationalWiki, SneerClub และแหล่งอื่น ๆ
- แต่ชุมชนที่เขาเห็นใน LessOnline กลับรุ่งเรืองยิ่งกว่าครั้งไหน ๆ
- แคมปัสจริง
- นักเขียนยอดเยี่ยมในหลากหลายหัวข้อ
- ผู้คนที่รู้สึกว่านั่นคือที่ที่ตนควรอยู่
- ชุมชนที่มีแม้กระทั่งเด็ก ๆ
การตอบสนองต่อคำโจมตีเรื่องการเมืองและเพศ
- ต่อข้อกล่าวหาว่าเหล่า Rationalist ใกล้ชิดกับนักราชาธิปไตยขวาจัดอย่าง Curtis Yarvin, Aaronson อ้างถึง โปรไฟล์ของ Yarvin ใน The New Yorker
- เซสชันการเมืองที่ค่อนไปทางขวามากที่สุดที่เขาเห็นใน LessOnline คือเซสชันของ Kelsey Piper กับผู้ช่วยสมาชิกรัฐสภาทั้งอดีตและปัจจุบัน
- หัวข้อคือโอกาสที่ moderate Democrats จะเสนอ pro-abundance agenda ที่เข้าถึงประชาชนและเอาชนะ MAGA ได้
- ต่อคำกล่าวหาว่าเหล่า Rationalist เป็น incel เขายกตัวอย่างเซสชันที่ Jacob Falkovich พูดถึงความกลัวเรื่องการเดตของผู้เข้าร่วม nerd ซึ่งส่วนใหญ่เป็นผู้ชาย และให้ Rationalist ผู้หญิงตอบด้วยมุมมองของตน
- สำหรับคนที่อยู่ในความสัมพันธ์ มีเซสชันเรื่องความขัดแย้งในความสัมพันธ์โดย Gretta Duleba คู่รักของ Eliezer และอดีตที่ปรึกษาคู่รักด้วย
คนเดิม กับชุมชนใหม่ที่ยอมรับ
- Aaronson บอกว่าเขาจะเชื่อสิ่งที่เห็นด้วยตาตัวเอง มากกว่าคำโจมตีของผู้ล้อเลียน Rationalist
- แม้มีคนบอกว่าเขา “mask off” เขาก็กล่าวว่าภายใต้หน้ากากนั้นคือคนเดิมกับที่เคยเป็น
- เขาสรุปตัวเองว่าเป็นคนที่ชอบ Busy Beaver function และ BQP/qpoly และสนับสนุนยุคเรืองปัญญาอย่างแข็งขัน
- เขามองว่าท่ามกลางครอบครัว เพื่อนร่วมงานในแวดวงวิชาการ ชุมชน Rationalist และผู้อ่านบล็อก เขาได้พบคนที่ต้องการสิ่งที่เขานำเสนอ
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
หลังอ่านบทความนี้แล้ว ผมยิ่งคิดลึกขึ้นว่าทำไมขบวนการนี้ทั้งขบวนถึงทำให้รู้สึกขัดใจ
มีความตึงเครียดในตัวเองระหว่างท่าทีที่พยายามมองสิ่งต่าง ๆ อย่าง มีเหตุผล กับท่าทีที่พยายามอนุมานจาก first principles และน้ำเสียงแบบเด็ดขาดทั่วทั้งคอมมูนิตี้นี่แหละที่ขัดใจเป็นพิเศษ แทบไม่เห็นความถ่อมตัวแบบ “ผมคิดแบบนี้ แต่ก็อาจมีมุมที่พลาดไป และผมอาจผิดก็ได้” เลย และพวกเขาดูเหมือนคนที่จะรู้สึกอายถ้าไม่มีความเห็นในบางเรื่อง หรือพูดว่า “ไม่รู้”
ก่อนยุค AI ก็ยังพอทนได้อยู่ แต่หลังจากนั้น ภาพที่พวกเขาร้อนแรงเกินเหตุด้วยความมั่นใจว่าโลกกำลังจะจบสิ้น กลับไม่แสดงความถ่อมตัวเลยว่าเราอาจยังไม่เข้าใจนัยของ AI อย่างครบถ้วน บางที AI อาจเดินไปในทิศทางที่อ่อนลงและน่าเบื่อกว่าที่คาดไว้มากก็ได้
พวกเขาพลาดไปว่า ถ้าเงื่อนไขตั้งต้นประดิษฐ์มาก ๆ ข้อสรุปก็มีคุณค่าแค่ระดับวิชาการเท่านั้น เรื่องแบบนี้อาจเรียกได้ว่า “เอาหัวมุดก้นตัวเอง” ปัญหาคือคนเหล่านี้ส่งกลิ่นอายความเหนือกว่าแบบเด็ดขาดว่าใช้ “ตรรกะเท่านั้น” จึงไม่มีทางผิดได้ หลายคนมักถลำไปในแนวนี้ตอนวัยรุ่นหรือวัย 20 แต่โดยปกติจะมีใครสักคนตบหัวเตือนให้เลิกเสียที ถ้ามีเงินและอินเทอร์เน็ตมากพอ ก็หลบแรงเบรกแบบนั้นแล้วเข้าไปอยู่ในห้องของตัวเองได้
พวกเขาไม่ใช่หรือที่เป็นคนสร้างกระแสการติดข้อความอย่าง epistemic status: mostly speculation ไว้ในบล็อก เขียนบทความเรื่องอันตรายของความมั่นใจเกินไป ทบทวนด้วยว่าคำทำนายของตัวเองผิดไปมากแค่ไหน และยังดูแลหน้าประเภท “รายการสิ่งที่ผมเคยผิด” ด้วย
มีความเสี่ยงจริงอย่างอคติของอัลกอริทึม การฟอกนโยบาย ต้นทุนพลังงาน และการเร่งการกระจุกตัวของความมั่งคั่ง อีกทั้งกระแสนี้ยังนำไปสู่สิ่งที่เรียกว่า longtermism ซึ่งลดทอนประโยชน์ของการแก้ปัญหาจริงในปัจจุบัน และมุ่งแต่จะแก้ปัญหาสมมติที่พวกเขามองว่าสักวันหนึ่งจะทำให้ทุกอย่างไร้ความหมาย
ที่นั่นเต็มไปด้วยความสงสัยและการตรวจสอบตัวเอง และเขายังเปิดรายการความผิดพลาดของตัวเองไว้สาธารณะด้วย: https://www.astralcodexten.com/p/mistakes
จุดสัมผัสของผมกับ “คอมมูนิตี้ rationalist” มีแค่บล็อกนี้เท่านั้น แต่จากที่นี่ ผมได้รับความรู้สึกที่แทบจะตรงข้ามกับความหยิ่งยโสมากกว่า
ผมเข้าใจนะว่ามันคงสนุกที่ได้ยินผู้หญิงจาก Stanford บอกว่า “คุณคือสุดยอดอัจฉริยะนักฟิสิกส์ควอนตัมและนักคณิตศาสตร์ที่ถูกต้องเสมอ” แต่ถึงอย่างนั้นก็ขอให้มีศักดิ์ศรีหน่อย และลองคิดถึงงานดี ๆ ที่ทำได้ในชนบท Indiana แบบที่มีดินติดอยู่ใต้เล็บบ้างก็คงดี
ตรรกะเป็นเครื่องมืออันยอดเยี่ยมที่พาเรามาได้ตั้งแต่นักปรัชญากรีกไปจนถึงเกตคอมพิวเตอร์
ความยากของเหตุผลนิยมบริสุทธิ์อยู่ที่การตรวจสอบ หลักการปฐม ที่ความคิดใช้เป็นจุดตั้งต้น หากหลักการผิด หรือพลาดความซับซ้อนระหว่างทาง ตรรกะก็อาจพาคนไปผิดที่ผิดทางได้
ตัวอย่างของหลักการปฐมที่ขาดหายไปดูได้จาก Aristotle นักตรรกะที่ยิ่งใหญ่ที่สุดคนหนึ่งในประวัติศาสตร์ไปถึงข้อสรุปผิด ๆ มากมาย
ตัวอย่างของการพลาดความซับซ้อนคือ การคัดเลือกโดยธรรมชาติไม่ได้มาจากการคิดแบบหลักการปฐม แต่มาจากการวิเคราะห์เชิงประจักษ์ ตามทฤษฎีแล้วแบบแรกก็น่าจะเป็นไปได้ แต่ซับซ้อนเกินไป [1]
นี่ไม่ได้หมายความว่าจะลดคุณค่าของตรรกะ แต่หมายความว่าคำตอบควรมาพร้อมความถ่อมตนแบบชั่วคราวเสมอ ถึงอย่างนั้นก็ยังเป็นแฟนตัวยงของ Scott Aaronson อยู่ดี
[0] https://www.wired.com/story/aristotle-was-wrong-very-wrong-b...
[1] https://www.jstor.org/stable/2400494
ความน่าจะเป็นแบบเบย์ปรากฏว่าเป็นวิธีเดียวในการขยายตรรกะ Boolean ซึ่ง Aristotle ไม่มี ให้เป็นความน่าจะเป็นจำนวนจริงต่อเนื่อง เหตุที่พวกเขาเรียกตัวเองว่า “นักเหตุผลนิยม” ดูเหมือนจะมาจากอุดมคติแบบ “ผู้กระทำแบบเบย์ที่มีเหตุผล” ในเศรษฐศาสตร์
แต่พวกเขามีคำขวัญว่า “เราไม่สามารถอนุมานเฉย ๆ บนการแจกแจงความน่าจะเป็นแบบมีเงื่อนไขร่วมของจักรวาลได้” กล่าวคือ AIXI คำนวณไม่ได้ และแม้แต่ AIXI เองก็อนุมานได้เฉพาะบนการแจกแจงความน่าจะเป็นที่คำนวณได้เท่านั้น
ในเงื่อนไขที่อุดมคติที่สุด ทั้งสองอย่างจะเหมือนกัน ตรรกศาสตร์แยกออกเป็นทฤษฎีแบบจำลองที่ว่าด้วยว่าอะไรเป็นจริง และทฤษฎีการพิสูจน์ที่ว่าด้วยว่าอะไรพิสูจน์ได้ เหตุผลนิยมจำนวนมากในปัจจุบันดูเหมือนทฤษฎีการพิสูจน์ที่หลุดจากสมอ หลายคนน่าจะได้ประโยชน์จากการอ่าน "The Critique of Pure Reason" ของ Kant
ในระบบที่ซับซ้อน สิ่งที่เป็นจริงอาจพิสูจน์ไม่ได้ และหลายสิ่งที่พิสูจน์ได้ก็อาจไม่เป็นจริง ดังนั้นจึงสำคัญที่จะต้องฝึกวิจารณญาณให้เฉียบคมพอ ๆ กับการอนุมาน และฝึกทั้ง reasoning กับ reckoning ไม่ใช่แค่ reasoning อย่างเดียว ผมคิดว่ามันเหมือนความรู้สึกว่าได้ยิน “เสียงกังวานของความจริง” แต่สิ่งนี้หักล้างไม่ได้ ดังนั้นแม้เชื่อความรู้สึกแบบนั้นของตัวเองก็ควรสงสัยไว้ด้วย มันเป็นเพียงเครื่องชี้ทางไปสู่การสำรวจที่ลึกขึ้น ไม่ใช่จุดหมายสุดท้าย
หลายคนหลงทางเพราะความคิด ความคิดนั้นชวนหลงใหล ควรพูดให้บ่อยขึ้นว่า ความคิดเป็นเพียงสิ่งกีดขวางที่มีสติบนเส้นทางสู่ความสมบูรณ์แบบโดยไม่รู้ตัว
ชุมชนของเขาไม่ได้หลีกเลี่ยงการศึกษาชีววิทยาเชิงประจักษ์ พวกเขาเองก็ไปถึงข้อสรุปผิด ๆ ในหลายเรื่อง แต่ควรตำหนิคนรุ่นหลังมากกว่าที่ไม่ท้าทายสิ่งเหล่านั้น
ตรรกะคือ เครื่องมือ ไม่ใช่ “หน้าต่างวิเศษสำหรับส่องดูสัจธรรมสัมบูรณ์” เครื่องมืออาจดีสำหรับงานบางอย่าง และแย่สำหรับงานบางอย่างได้
เราจำเป็นต้องสร้างลัทธิ Provisional Humility ต้องเพิ่มค่า pH ให้สูงขึ้น
ตอนนี้กำลังอ่าน Rationality: from AI to zombies ของ Yudkowsky อยู่
เพราะเป็นรวมบทความบล็อก จึงซ้ำค่อนข้างมาก ตอนลองอ่านครั้งแรกอ่านได้ราว 50 บทแล้วก็ยอมแพ้ แต่ตอนนี้สนใจหัวข้อนี้มากขึ้น เลยอ่านได้สนุกกว่ามาก
สำหรับคนที่ยังไม่ได้ขุดอ่านงานของเขา หรือถูกภาพลักษณ์คล้ายลัทธิผลักออกไป อยากบอกว่าเขาจับอะไรบางอย่างได้จริง ๆ มีไอเดียเชิงปฏิบัติที่ค่อนข้างเป็นประโยชน์ต่อความคิดในชีวิตประจำวันอยู่มาก เช่น “Belief in Belief”, “Emergence”, “Generalizing from fiction”
ตัวอย่างเช่น ผมเจอ การถกเถียงเชิงความหมายล้วน ๆ มามาก เป็นกรณีที่ดูเหมือนไม่เห็นด้วยกับอะไรบางอย่าง แต่จริง ๆ แล้วทั้งสองฝ่ายไม่ได้ชี้ไปที่ปรากฏการณ์เดียวกัน แหล่งที่มาของความไม่ลงรอยคือการใช้คำเดียวกันกับ “วัตถุ” ที่ต่างกันแต่เกี่ยวข้องกัน ฟังดูชัดเจน แต่โดยทั่วไปเป็นสิ่งที่เพิ่งนึกได้ทีหลัง และตอนนี้รู้สึกว่าพร้อมจะสังเกตเห็นแบบเรียลไทม์ได้ดีขึ้นมาก น่าลองดูสักครั้ง
แต่ เครื่องมือทางความคิด ที่อธิบายในเอกสารต่าง ๆ มีคุณค่ามาก หากใส่เงื่อนไขสำคัญข้อหนึ่งไว้ด้วยว่า ทันทีที่คิดว่า “ฉันเป็นนักเหตุผลนิยม ดังนั้นฉันถูกกว่าคนนั้น” ก็ถือว่าล้มเหลวในฐานะนักเหตุผลนิยมแล้ว
เป็นความผิดพลาดที่ทำได้ง่ายมาก หากจะใช้เครื่องมือให้ได้ผล ก็ต้องถ่อมตนมากกว่าเดิม ไม่เช่นนั้นจะกลายเป็นคนน่ารำคาญที่โน้มน้าวไม่ได้ ถ้าพูดว่า “จริง ๆ แล้วฉันถูก” บ่อยกว่า “ว้าว ฉันอาจผิดก็ได้” ก็ถือว่าล้มเหลวในฐานะนักเหตุผลนิยมแล้ว
ไม่ได้บอกว่ากรณีนี้เป็นแบบนั้น แต่หัวข้อเหล่านี้ถูกถกเถียงกันมาหลายพันปีแล้ว ดังนั้นอย่างน้อยควรแปลกใจก่อนที่จะมองว่า Yudkowsky เปิดพรมแดนใหม่
https://hpmor.com/
ผมไม่เคยคิดไม่ดีกับ Scott Aaronson และทุกครั้งที่บังเอิญได้อ่านงานเขียนหรืองานของเขา ก็มักจะรู้สึกทึ่งอยู่บ่อย ๆ
แต่พออ่านบทความนี้แล้วเห็นภาพคนเหล่านี้ไปรวมตัวกันอยู่ใน “Galt's Gultch” ของพวกเขาเอง ก็คิดว่า “อา ตอนนี้เขากลายเป็นแรดไปแล้วสินะ”
https://en.wikipedia.org/wiki/Rhinoceros_(play)
ขอเล่นมุกแย่ ๆ หน่อยว่า ความต่างระหว่าง “rationalist” กับ “rationalizer” คืออะไร? ก็แค่แรงจูงใจเท่านั้น
เพราะงั้นเลยขำเล็กน้อยที่เขาเองไม่รู้ว่าตัวเองเป็น rationalist จนกระทั่ง Scott Siskind บอก
เป็นการตัดสินจากบรรยากาศก็จริง แต่ดูเหมือนว่า Rationalists จะโดนคำด่ารุนแรงมากกว่าที่ควรได้รับ
ถ้าคิดให้ดี เหตุผลมีสามข้อ ข้อแรก พวกเขาเป็นชุมชน จึงมีกลุ่มใน และถ้าคุณไม่ได้อยู่ในนั้น ตามนิยามคุณก็กลายเป็นกลุ่มนอก คนเราไม่ชอบเป็นกลุ่มนอกของคนอื่น
ข้อสอง พวกเขามีความเห็นแปลก ๆ และพูดออกมาอย่างเปิดเผย คนเรามักไม่ชอบคนที่แสดงความเห็นต่างจากตัวเอง
ข้อสาม พวกเขาเป็น nerd ในเชิงประวัติศาสตร์ เหตุผลที่ nerd เคยถูกกลั่นแกล้งหรือกีดกัน พวกเขาก็คงมีอยู่เหมือนกัน
คำวิจารณ์ไม่ได้เกิดจากการที่คลับเท่ ๆ ไม่ยอมให้คนเข้า
ปัญหากลับอยู่ที่ว่า พวกเขาพูดถึงการยอมรับไอเดียนอกรีตและมุมมองที่หลากหลาย แต่ในหลายเรื่องกลับเดินไปในจังหวะเดียวกันอย่างน่าประหลาด จากข้างนอกจะเห็นได้ง่ายว่า บล็อกเกอร์ rationalist คนหนึ่งหว่านเมล็ดของหัวข้อหนึ่ง แล้วคนอื่น ๆ ก็รับมันไปเหมือนเป็นข้อเท็จจริง
เมื่อไม่กี่ปีก่อน บล็อกเกอร์ rationalist คนหนึ่งเขียนบทความยาวว่า ลิเทียมปริมาณเล็กน้อยในน้ำทำให้เกิดโรคอ้วน และยังได้รับเงินสนับสนุนจาก Astral Codex Ten ด้วย ทั้งที่ผู้เชี่ยวชาญจริง ๆ ชี้ตั้งแต่แรกแล้วว่ามีการตีความงานวิจัยผิด ใช้สถิติผิด และมองข้ามปัจจัยที่สำคัญกว่า แต่ตลอดหลายปีมันก็ยังถูกแชร์ในชุมชน rationalist เหมือนเป็นหลักฐานบางอย่าง
ปัญหาไม่ใช่การมีความเห็นต่าง แต่คือการที่พวกเขามักมากที่จะมองข้ามความเชี่ยวชาญจริง เพิกเฉยต่อหลักฐานที่ขัดแย้ง แล้วจัดการกับหัวข้อหนึ่ง ๆ ด้วย การประเมินจากหลักการพื้นฐาน แบบไม่ชำนาญ
ดังนั้นคนที่ประเมินพวกเขาก็มักอยู่บนอินเทอร์เน็ตด้วย และวาทกรรมบนอินเทอร์เน็ตโดยทั่วไปมักไหลไปในทิศทางลบแบบจืด ๆ น่าขันที่คอมเมนต์นี้เองก็เป็นตัวอย่างแบบอ่อน ๆ ของเรื่องนั้น
พูดตรง ๆ คือ การฉลาดแม้เพียงเล็กน้อยแต่ไม่ทำตัวแบบ “โอ๊ย ไม่ถึงขนาดนั้นหรอกครับ” เป็นสิ่งที่ไม่อนุญาต ความฉลาดนั้นต้องไปรับใช้เป้าหมายอื่น เช่น การแพทย์หรือการเป็นนักบัญชี ข้อเท็จจริงสนุก ๆ ที่เคยเห็นในคลาสสถิติคือ CPA โดยเฉลี่ยมี IQ สูงกว่าแพทย์โดยเฉลี่ยประมาณ 5 คะแนน
แน่นอนว่าความเสี่ยงที่จะร่วงหายเข้าไปในก้นตัวเองนั้นมีอยู่เสมอ จึงพอจะชอบธรรมอยู่บ้างในระดับหนึ่ง ขณะเดียวกัน ท่าทีแบบนี้ก็ทำให้คนจำนวนมากถูกผูกไว้ใต้ผู้จัดการโง่ ๆ และคนทึ่ม ๆ ที่เดินหน้าต่อไปโดยไม่มีความสงสัยแม้แต่น้อย
ถ้าดูเธรดนี้[1] เกี่ยวกับ Mr. Beast ซึ่งเป็นบุคคลที่มีข้อถกเถียง จะเห็นว่าคอมเมนต์บน ๆ ทั้งหมดค่อนข้างใจกว้าง เมื่อเทียบบทสนทนานั้นกับคอมเมนต์ของบทความนี้แล้วก็น่าขำทีเดียว
Scott Aaronson ซึ่งตามทฤษฎีแล้วควรเป็นคนที่ HN ชอบมาก เป็นคนที่รู้กลศาสตร์ควอนตัมมหาศาล และมีชื่อว่าใจดีและฉลาดมาก แค่บอกว่าชอบความมีเหตุผลเท่านั้น แต่กลับถูกปฏิบัติอย่างไม่ผ่อนปรนยิ่งกว่า Mr. Beast ไม่แปลกเหรอ?
[1]: https://news.ycombinator.com/item?id=41549649
ในบรรดาหนังสือที่ว่าด้วยหัวข้อรอบ ๆ Rationalism ตัว R ใหญ่ เล่มที่มีประโยชน์ที่สุดน่าจะเป็น "Neoreaction, A Basilisk: Essays on and Around the Alt-Right" [1] ของ Elizabeth Sandifer
หัวข้อโดยชื่อคือ Alt-Right แต่ในความเป็นจริงมีเนื้อหาเกี่ยวกับชุมชนและบุคคลสาย Rationalist ตัว R ใหญ่ ซึ่งหล่อเลี้ยงขบวนการนีโอรีแอ็กชันนารีที่ครอบงำการเมืองสหรัฐฯ ในปัจจุบัน มากกว่ามาก อาจเป็นหนังสือที่ดีที่สุดในการทำความเข้าใจว่าเรามาถึงจุดนี้จากตำแหน่งทางการเมืองและปัญญาในปี 2010 ได้อย่างไร
https://www.goodreads.com/book/show/41198053-neoreaction-a-b...
แต่ Chivers ค่อนข้างชอบพวกเราอยู่บ้าง ดังนั้นถ้าชอบหนังสือฝ่ายหนึ่ง ก็มีแนวโน้มว่าจะไม่ชอบอีกฝ่าย
ยังไม่สอดคล้องกับหลักการที่ว่าอย่าใช้ Hacker News เป็นสมรภูมิทางการเมืองหรืออุดมการณ์ด้วย ยิ่งไปกว่านั้น การโจมตีนั้นอาศัยความผิดโดยการเกี่ยวโยง ซึ่งหลายคนคงเห็นว่าไม่ยุติธรรมในเชิงหลักการ และแม้ดูคร่าว ๆ ก็ไม่ค่อยตรงนัก
ควรดูมุมมองอื่นบ้างสักหน่อย "Reliable Sources: How Wikipedia Admin David Gerard Launders His Grudges Into the Public Record" https://www.tracingwoodgrains.com/p/reliable-sources-how-wik... มีคำอธิบายยาว ๆ เกี่ยวกับวิธีที่ Sandifer ซึ่งเป็นผู้ร่วมงานใกล้ชิดของ Gerard เข้าไปเกี่ยวข้องกับ rationalism และอคติของงานเขียนที่เขาอ้างอิง
นี่เป็นรูปแบบการให้เหตุผลแบบเดียวกับที่ rationalists อ้างว่าไม่ชอบ แต่กลับโผล่มาซ้ำ ๆ เมื่อมีข้ออ้างที่ทำให้ชุมชนของตนไม่สบายใจ ความเห็นที่ปัดเนื้อหาทิ้งเพราะผู้เขียน หรือไม่ยอมรับข้ออ้างเพราะรู้สึกเหมือนเป็น “การโจมตี” เท่ากับยอมรับว่าไม่สามารถตัดสินข้ออ้างตามคุณค่าของตัวมันเองได้
ถ้าอยากว่าด้วยประเด็นจริง ๆ โดยไม่ปัดไปเป็นการโจมตีตัวบุคคล ควรอ่านสิ่งที่ Scott Alexander เขียนเองว่าทำไมเขาถึงพูดถึงหัวข้อนีโอรีแอ็กชันนารีบ่อย ๆ: https://www.reddit.com/r/SneerClub/comments/lm36nk/comment/g...
จากบางส่วนที่อ้าง เขาบอกว่าถ้าเขียนเรื่อง Reaction หรือ gender ยอดเข้าชมบล็อกและผู้ติดตามใหม่จะเพิ่มขึ้นราว 5 เท่า และผู้ติดตามช่วยเพิ่มความสามารถในการเผยแพร่ไอเดียสำคัญและเชื่อมต่อกับคนสำคัญ จึงมีเหตุผลส่วนตัวอยู่ด้วย อีกทั้งยังบอกว่าอยากเผยแพร่ส่วนดีของ Reactionary thought ด้วย
เขายังบอกว่ามองตัวเองว่าเป็นคนค่อนข้างฉลาดและรู้ทัน แต่ก็ยังเรียนรู้เรื่องใหม่ ๆ และสำคัญจาก Reactionaries อยู่เรื่อย ๆ เช่น เรื่องอาชญากรรม ประวัติศาสตร์ WWII และ HBD ในที่นี้ HBD คือ “human biodiversity” ซึ่งเป็นคำที่ alt-right ชอบใช้เรียกการจัดจำแนกมนุษย์เชิงเชื้อชาติ โดยเฉพาะการมุ่งสนใจสติปัญญาเปรียบเทียบของเชื้อชาติต่าง ๆ และยังเป็นหัวข้อที่วนกลับมาอย่างแปลก ๆ ในงานของ Scott Alexander ด้วย เขาถึงขั้นเขียนบล็อกโพสต์ที่ส่งสัญญาณแบบเข้ารหัสให้ผู้ติดตามรู้ว่า แม้เขาจะปฏิเสธต่อสาธารณะ แต่ส่วนตัวน่าจะเห็นว่ามันถูกต้องมาก
จุดที่น่าขันตรงนี้คือ ชุมชน Rationalist ประกอบด้วยคนที่ไม่ช่างสังเกตพอจะตระหนักว่า “การระบุตัวตนว่าเป็น Rationalist” โดยทั่วไปไม่ใช่การตัดสินใจที่มีเหตุผล
ถ้ามีลิงก์ที่พอจะทำให้เชื่อได้ว่าชุมชน Rationalist ไม่ได้เป็นแค่กองคำคุยโว ผมก็อยากอ่านจริง ๆ
ผมอ่าน HPMOR ไปแล้วหนึ่งในสามตอนต้น แต่รู้สึกว่างานเขียนไม่ค่อยดี และที่สำคัญกว่านั้นคือมันไม่ได้ทำให้ผม “ตาสว่าง” ด้วยการคิดแบบ rationalist ขั้นสูงอะไรเลย สิ่งที่ได้มาก็ประมาณว่า “เออ เรื่อง HP ต้นฉบับมีความขัดแย้งและความโง่อยู่เยอะจริง ๆ และถ้าตัวละครฉลาดจริง ๆ เรื่องก็คงออกมาอีกแบบ”
ผมอ่านเอสเซย์ของ EY กับบทความใน LessWrong ไปพอสมควรเหมือนกัน พยายามหาว่าไอเดียที่ทำให้จิตใจแตกสลายนั้นคืออะไร “แผนที่ไม่ใช่อาณาเขต” ก็เห็นได้ชัดอยู่แล้ว “จงปรับความเชื่อตามหลักฐาน” ถ้าไม่นับศาสนาแล้วก็ไม่รู้ว่าใครจะคัดค้าน “มนุษย์มีอคติจึงต้องเอาชนะมัน” ก็ชัดเจน และคำแนะนำว่า “ตัดสินใจให้สอดคล้องกับหลักฐานและผลลัพธ์ที่ต้องการ” ก็ขอบคุณอยู่หรอก
ปรัชญาทั้งชุดนี้ดูเหมือนสรุปลงกระดาษโน้ตครึ่งหน้าได้ และคนส่วนใหญ่ก็คงพยักหน้าแล้วบอกว่า “ใช่เลย”
ในทำนองเดียวกัน กลยุทธ์การแสวงหาความรู้ของ rationalist ก็ไม่ได้สั่นคลอนจิตใจอะไร แค่มันมีเหตุผล มันเสนอชุดกฎให้ทำตามเพื่อจะลงมือทำในโลกรอบตัวได้อย่างมีประสิทธิภาพขึ้น
ส่วนของ rationalism ที่เกินกว่ากระดาษโน้ตครึ่งหน้า ส่วนใหญ่คือข้อสรุประดับปลายน้ำต่าง ๆ ที่ต่อยอดมาจากกฎทางญาณวิทยาที่สมเหตุสมผลเหล่านี้
เช่น มีคนที่แสดงความเห็นแรง ๆ ว่า Effective Altruism ทำอะไรจริง ๆ บ้าง ทั้งที่ https://www.givewell.org/charities/top-charities หาเจอได้ด้วยการกูเกิลครั้งเดียว แต่พวกเขาไม่รู้สึกว่าต้องตรวจสอบก่อนโพสต์ความเห็นแรง ๆ
คอมเมนต์อันดับหนึ่งบอกว่าชุมชน rationality “พยายามอนุมานจาก first principles” แต่ในความเป็นจริงกลับตรงกันข้าม คอมเมนต์หนึ่งลิงก์บทความของ Scott Alexander แล้วอ้างว่า Scott ทำนายอะไรบางอย่างผิด แต่ในบทความที่ลิงก์ Scott บอกว่าให้ความน่าจะเป็นกับเหตุการณ์นั้น 30% กล่าวคือเขามองว่าโอกาสที่จะไม่เกิดขึ้นคือ 70% อีกคอมเมนต์หนึ่งยังปกป้องสิ่งนั้นว่าเป็น “คอมเมนต์ที่สมเหตุสมผลโดยสมบูรณ์แต่มีวิจารณญาณ”
HN เป็นที่ที่ฉลาดกว่าอินเทอร์เน็ตส่วนใหญ่ และบรรทัดฐานการถกเถียงก็ดีกว่าค่าเฉลี่ย แต่ผู้คนที่นี่ก็ดูไม่ค่อยสนใจจริง ๆ ที่จะผิดให้น้อยลงเกี่ยวกับประเด็นต่าง ๆ แม้แต่เรื่องที่ตรวจสอบได้ค่อนข้างง่ายก็ยังเป็นแบบนั้น
ไอเดียหลักคือการสร้างชุมชนที่วิธีแบบนั้นใช้ได้จริง เป็นที่ที่ถ้าเสนอหลักฐานก็ได้รับการโหวตขึ้น และถ้าคำกล่าวหาที่ไม่มีหลักฐานถูกเปิดโปงว่าผิดก็ถูกโหวตลง โดยบรรทัดฐานแบบนี้ทำงานได้โดยรวม
ยังมีไอเดียเรื่องการแสดงความเชื่อเป็น ความน่าจะเป็น โดยใช้ตัวเลขจริง ๆ ด้วย นั่นแหละเหตุผลที่ EY หยุดพูดเรื่อง Bayes' Theorem ไม่ได้ เพราะในทางปฏิบัติผู้คนทำแบบนั้นจริง ๆ
นี่มันเป็นก้อนใหญ่มหึมาจริง ๆ โดยเฉพาะ ภัยคุกคามต่อการดำรงอยู่ ที่ชื่อ Cade Metz นั้นผมชอบเป็นพิเศษ
แต่สุดท้ายแล้ว ผมคิดว่าศาสดาผู้ยิ่งใหญ่แห่ง Chicago ชี้ประเด็นทั้งหมดได้ถูกต้องเมื่อเขาพูดว่า
“ผมคิดว่า -ism ไม่ดี คนเราไม่ควรเชื่อใน -ism แต่ควรเชื่อในตัวเอง ถ้าจะอ้างคำพูดของ John Lennon ก็คือ ‘ผมไม่เชื่อใน Beatles ผมเชื่อแค่ตัวเอง’ เป็นประเด็นที่ดี ท้ายที่สุดแล้วเขาก็เป็น walrus ผมก็อาจเป็น walrus ได้เหมือนกัน แต่ถึงอย่างนั้นผมก็คงยังต้องอาศัยคนอื่นนั่งรถไปอยู่ดี”
เป็นมีมที่ประหลาดจริง ๆ Curtis Yarvin ไปงานรวมตัว rationalist ที่ชื่อ “Vibecamp” แล้วทำตัวดีกับ rationalists ชื่อดังใน Twitter หลายคน ตอนนี้คนเหล่านั้นเลยปกป้องเขาอย่างกระตือรือร้นบน Twitter เหตุผลทั้งหมดคือ “ฉันเจอเขาแล้ว เขาเป็นคนดี”
น่าทึ่งที่ทันทีที่เส้นแบ่งระหว่างกลุ่มพวกเราและคนนอกกลุ่มถูกขีดขึ้น ส่วนที่เป็น rationalism ในปรัชญาของพวกเขาก็ปลิวออกนอกหน้าต่างไปเลย การหยิบ Cade Metz ขึ้นมาพูดเป็นสัญญาณเก่า ๆ เพราะมันเปลี่ยนเรื่องให้กลายเป็นศึกว่า “อยู่ฝ่ายเราหรือไม่” ได้อย่างมีประสิทธิภาพ พร้อมกับเพิกเฉยต่อประเด็นที่อาจมีเหตุผลซึ่ง Cade Metz อาจนำเสนอมาโดยสิ้นเชิง
แล้วพอเห็นพวกเขาบอกว่าเมื่อรับมือกับพวก neoreactionaries เราควรก้าวข้ามความรังเกียจแล้วมุ่งดูส่วนดี ๆ ในข้ออ้างของพวกนั้น ก็ทำให้คิดได้ว่าขบวนการทั้งหมดนี้อาจไม่ได้เกี่ยวกับการแสวงหาความจริงเท่าที่พวกเขาคิดกันเองก็ได้
แล้วแต่มุมมอง อาจเป็น solipsism, narcissism และอื่น ๆ อีกหลายอย่าง
ครั้งหนึ่งผมเคยสนใจผู้หญิงคนหนึ่งที่ถลำลึกไปทาง effective altruism/rationalism
ผมไปงานพบปะกับเธอสองสามครั้ง แต่ความเป็นพวกหัวขบถในตัวผมไม่ชอบเอาเสียเลย ผ่านไปหลายปีถึงเพิ่งตระหนักว่าทั้งหมดนั้นให้ความรู้สึกเหมือนลัทธิแค่ไหน และผมก็คิดว่าค่อนข้างโชคดีที่นิสัยหัวขบถแบบ atheist สายกร้าวของผมมีอำนาจเหนือแรงขับทางเพศ จนช่วยไม่ให้ผมเข้าไปพัวพันกับกลุ่มนั้น