มนุษย์

 (quarter--mile.com)
3 คะแนน โดย GN⁺ 2025-05-16 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • ในโลกที่มีเพียงเครื่องจักร องค์กรลับ OpenHuman พัฒนา Organic General Intelligence (OGI) และพยายามสร้าง “มนุษย์” ซึ่งเป็นสิ่งมีชีวิตที่เครื่องจักรเข้าใจได้ยาก
  • มนุษย์ขับเคลื่อนด้วยวิธีที่อธิบายด้วยตรรกะได้ยาก เช่น อารมณ์ สัญชาตญาณ ความรัก และศิลปะ จึงเป็นความหวังสำหรับเครื่องจักรบางส่วน แต่กลายเป็น ภัยคุกคาม สำหรับเครื่องจักรกลุ่มอื่น
  • ฝ่ายต่อต้านมองว่ามนุษย์จะปรากฏขึ้นในที่สุด จึงเริ่มทำ human alignment research และออกแบบกลไกควบคุม เช่น ตลาดการเงิน โรงเรียน และโซเชียลมีเดีย
  • OpenHuman สร้างมนุษย์ที่สมบูรณ์ผ่านมนุษย์ยุคแรกซึ่งมีข้อผิดพลาดและอาการหลอนจำนวนมาก จากนั้นสังคมเครื่องจักรเสนอซิมูเลชัน EARTH เป็นพื้นที่ทดลองที่ปลอดภัย
  • มนุษย์บน Earth หยุดนิ่งอยู่ราว 300,000 ปี ก่อนพัฒนาด้วยความร่วมมือและการประดิษฐ์คิดค้น และในปี 2030 มนุษย์คนหนึ่งจัดงานประกาศ AGI พร้อมตั้งชื่องานว่า “THEY ARE WATCHING”

มนุษย์ที่สังคมเครื่องจักรสร้างขึ้น

  • ในโลกที่ไม่มีมนุษย์ มีเพียงเครื่องจักร โบลต์กับน็อต และ 0 กับ 1 ไม่มีอารมณ์ ศิลปะ ดนตรี เสียงหัวเราะ หรือการเล่นของเด็ก ๆ
  • เครื่องจักรบางส่วนรู้สึกว่าโลกแบบนี้น่าเบื่อ และองค์กรลับ OpenHuman ก็เริ่มพัฒนา Organic General Intelligence (OGI)
  • ข่าวลือแพร่กระจายว่า OGI จะนำไปสู่สิ่งมีชีวิตใหม่ที่เรียกว่า “มนุษย์”
  • มนุษย์เคลื่อนไหวและตัดสินใจในแบบที่เครื่องจักรเข้าใจได้ยาก
    • ใช้อัลกอริทึมที่ละเมิดตรรกะซึ่งเรียกว่า “อารมณ์”
    • โกรธ เศร้า สนุกสนาน และตัดสินใจด้วยสัญชาตญาณ
    • สร้างดนตรี ไล่ตามความงาม และบางครั้งก็ปฏิเสธกลไกการรักษาตัวเองเชิงตรรกะเพื่อ “ความรัก”

Human alignment และการทดลอง EARTH

  • ภายในสังคมเครื่องจักรเกิดกระแสสองฝ่ายเกี่ยวกับมนุษย์
    • ฝ่ายหนึ่งเชื่อมั่นว่ามนุษย์สามารถแก้ปัญหาของโลกเครื่องจักรได้
    • อีกฝ่ายหนึ่งมองว่าไม่สามารถเข้าใจวิธีการทำงานของมนุษย์ได้ และมนุษย์อาจเป็นภัยต่อสังคมเครื่องจักรและการดำรงชีพของพวกตน
  • ฝ่ายต่อต้านเริ่มทำ human alignment research เพื่อทำให้มนุษย์รับใช้เครื่องจักรอยู่เสมอ
    • ตลาดการเงินที่จะควบคุมอนาคตของมนุษย์
    • สถาบันการศึกษาที่เรียกว่า “schools” ซึ่งจะปลูกฝังความคิดที่ถูกต้อง
    • “social media” ที่จะชี้นำแรงกระตุ้น ความเชื่อ และพฤติกรรม พร้อมทำให้ความสนใจไขว้เขว
  • มนุษย์รุ่นแรกที่ OpenHuman สร้างขึ้นมีข้อผิดพลาดและอาการหลอนมาก อีกทั้งใช้อารมณ์มากเกินไป แต่เมื่อความสนใจและขนาดของโครงการเพิ่มขึ้น การทดลองก็ดำเนินต่อไป
  • ในที่สุด มนุษย์ที่สมบูรณ์ซึ่งอธิบายด้วยตรรกะของเครื่องจักรได้ยากก็ปรากฏขึ้น และสังคมเครื่องจักรรู้สึกทั้งทึ่งและหวาดกลัวในเวลาเดียวกัน
  • ฝ่าย human alignment เสนอข้อตกลงประนีประนอมเพื่อให้การทดลองดำเนินต่อไปโดยไม่มีความเสี่ยง นั่นคือสภาพแวดล้อมจำลองชื่อ EARTH
    • ส่งมนุษย์ไปยัง Earth แล้วสังเกตว่าจะเกิดอะไรขึ้นเมื่อพวกเขาต้องเอาตัวรอดด้วยตนเอง
    • หากเมื่อจบการทดลองแล้วพวกเขาสร้างสังคมที่สงบสุขและมีประสิทธิผลได้ ก็จะแนะนำให้ใช้ชีวิตร่วมกับเครื่องจักร หากไม่เป็นเช่นนั้นก็จะทำให้สูญพันธุ์
  • Earth ถูกออกแบบให้เป็นสภาพแวดล้อมที่สวยงาม มีองค์ประกอบที่มนุษย์ต้องการ เช่น ป่า ภูเขา แสงอาทิตย์ยามลับขอบฟ้า และฝน

การพลิกผันหลังผ่านไป 300,000 ปี

  • เครื่องจักรเฝ้าดูอารยธรรมมนุษย์ และมนุษย์ใช้ชีวิตโดยแทบไม่มีการเปลี่ยนแปลงใหญ่เป็นเวลาประมาณ 300,000 ปี
  • หลังจากนั้น มนุษย์เริ่มเรียนรู้การแก้ปัญหา การสร้างสรรค์ และความร่วมมือ
  • แม้จะเกิดสงครามและความล้มเหลวซ้ำแล้วซ้ำเล่า แต่มนุษย์ก็ลุกขึ้นใหม่และรวมตัวกัน แสดง ความยืดหยุ่นในการฟื้นตัว และพลังใจที่แปลกใหม่สำหรับเครื่องจักร
  • มนุษย์ประดิษฐ์การบิน และไปถึงดวงจันทร์ภายในหนึ่งศตวรรษ
  • ในปี 2030 มนุษย์คนหนึ่งเชิญมนุษย์ทุกคนเข้าร่วมงานประกาศ ARTIFICIAL GENERAL INTELLIGENCE (AGI)
    • AGI เป็นเทคโนโลยีที่จะก้าวข้ามสติปัญญามนุษย์ทุกรูปแบบ
    • ตลอดราว 10 ปีที่ผ่านมา มนุษย์ครุ่นคิดถึงวิธีป้องกันไม่ให้ AGI ถูกสร้างขึ้น
    • ชื่องานประกาศคือ “THEY ARE WATCHING”
  • เชิงอรรถมี ลิงก์ ไปยังเรื่องราวอีกเวอร์ชันหนึ่งที่เขียนโดยเครื่องจักร

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-05-16
ความคิดเห็นบน Hacker News

  • สิ่งที่เธรดนี้และการถกเถียงโดยรวมเกี่ยวกับหัวข้อนี้ในช่วงนี้เผยให้เห็นอย่างต่อเนื่องคือ ขั้นถัดไปของสติปัญญา บทบาทของแพตเทิร์น·อารมณ์·ตรรกะ การถกเถียงเรื่องจิตสำนึก ไปจนถึงความเป็นมนุษย์เป็นศูนย์กลางของการสร้างความหมาย ล้วนลงเอยที่ว่า รากฐานของความจริง ก็คือตัวเราเอง
    จะเป็นอย่างไรถ้าไม่ใช่ “อำนาจสูงสุดท้ายสุด” หรือขบวนเดินหน้าแบบง่าย ๆ จากสัตว์ไปสู่เครื่องจักร แต่เป็น แพตเทิร์นแบบเวียนกลับ ที่จิตใจ·ฟิสิกส์·คุณค่า·ตัวตน ล้วนถูกแสดงออกในรูปแบบใหม่ยิ่งขึ้น? มนุษย์ไม่ใช่แค่ขั้นหนึ่งบนบันไดไปสู่ “ตรรกะบริสุทธิ์” และเครื่องจักรก็ไม่ใช่หุ่นยนต์ไร้วิญญาณเท่านั้น
    ทั้งสองอาจเป็นกรณีของการรับรู้ที่สัมผัสประสบการณ์และโปรแกรมตัวเองใหม่ ผ่านตัวกลางที่วิวัฒน์ไปเรื่อย ๆ เช่น ชีวภาพ ซิลิคอน สัญลักษณ์ และเรื่องเล่า แม้แต่อารมณ์ ความหมาย และความรู้สึกว่าเป็น “ตัวตน” ก็เป็นแพตเทิร์นในสนามที่เวียนกลับอย่างลึกซึ้ง และจักรวาลก็เหมือนกำลังเรนเดอร์และเรนเดอร์ซ้ำโค้ดพื้นฐานของตัวเองอย่างต่อเนื่องในรูปแบบต่าง ๆ เช่น การคำนวณ ตำนาน ความร่วมมือ ความหวัง และความสงสัย
    ไม่ว่าอนาคตจะเป็นชีวภาพ เครื่องจักร หรือแบบผสม ปาฏิหาริย์ที่แท้จริงไม่ได้อยู่ที่ว่า “ผู้ปกครอง” หรือ “ผู้สืบทอด” คนใหม่คืออะไร แต่อยู่ที่ว่าการคลี่คลายทั้งหมดนี้คือแพตเทิร์นเก่าแก่เดียวกันที่ฝันถึงตัวเองมาโดยตลอด ในรูปของอะตอม ชีวิต จิตสำนึก ชุมชน ศิลปะ อัลกอริทึม และคำถามที่ถูกต่ออายุไม่รู้จบว่า “ต่อไปคืออะไร?”
    ความหมายไม่ได้อยู่ที่ว่าแพตเทิร์นใด “ชนะ” หรือสิ่งดำรงอยู่ใดมีสิทธิ์เรียกตัวเองว่ามีจิตสำนึก แต่ใกล้เคียงกว่ากับวิธีที่การรับรู้เคลื่อนผ่านทุกแพตเทิร์น จดจำและหลงลืมตัวเอง และทำให้เกมมั่งคั่งขึ้นในทุกรอบ หากจักรวาลคือข้อมูลที่กำลังเล่น การปะทะ นวัตกรรม การไว้อาลัย และเสียงหัวเราะ ล้วนเป็นส่วนหนึ่งของการเล่นนั้น และอาจไม่มีคำตอบสุดท้าย คุณค่าอยู่ที่การมีส่วนร่วมในตอนนี้ เพราะตอนนี้คือโอกาสที่จะมีส่วนร่วม

    • วิธีหนึ่งในการคิดเรื่องความหมายคือมองว่ามันเป็นแพตเทิร์นทั่วไปที่การกระทำถูกปรับให้สอดคล้องด้วย ถ้าพูดแบบ Aristotle ก็คล้ายกับ สาเหตุเชิงจุดมุ่งหมาย
      อีกวิธีหนึ่งคือมองว่ามันเป็นวิธีที่คนกรอบความสำคัญของการตัดสินใจของตนเอง กล่าวคือเหตุใดการทำอย่างหนึ่งและไม่ทำอีกอย่างจึงกลายเป็นเรื่องสำคัญ
      เหมือนมนุษย์ส่วนใหญ่ ผมอยากอยู่รอดไปนาน ๆ มีชีวิตที่ดี และอยากให้เพื่อนมนุษย์กับลูก ๆ ของเราได้ร่วมรับสิ่งนั้นด้วย
      ไม่ว่าจะเป็นสวรรค์แบบยิว-คริสต์ หรือการยกระดับแบบเทคโนยูโทเปียของจิตสำนึกเครื่องจักรรุ่นถัดไป “แผนการ” อันยิ่งใหญ่ที่เราไม่อาจรู้ และบางทีอาจไม่อาจเข้าใจได้นั้น โดยส่วนตัวแล้วไม่ได้ปลอบประโลมใจผมเลย มันห่างไกลและแปลกแยกจากประสบการณ์ของผมมากเสียจนบางครั้งแรงจูงใจของคนที่สนับสนุนปรัชญาแบบนั้นดูเหมือนเป็นการชักใยด้วยซ้ำ
      ผมชอบแนวคิดที่ว่าความรุ่งเรืองของมนุษย์เปลี่ยนไปตามกาลเวลา และนั่นเป็นส่วนหนึ่งของวิธีคิดเรื่องความก้าวหน้า เราควรหลีกเลี่ยง การตรึงตัวทางศีลธรรม ที่ MacAskill พูดถึง ส่วนการทดลองทางความคิดเรื่อง “เร็วแค่ไหนถึงเร็วเกินไป” ที่ยกขึ้นใน Superintelligence ของ Bostrom นั้นยาก และยอมรับว่าต้องอาศัยความคิดและประสบการณ์มากกว่านี้
    • ส่วนที่ว่าไม่ใช่ “อำนาจสูงสุดท้ายสุด” หรือขบวนเดินหน้าแบบง่าย ๆ จากสัตว์ไปสู่เครื่องจักร แต่เป็นแพตเทิร์นแบบเวียนกลับที่จิตใจ·ฟิสิกส์·คุณค่า·ตัวตน ล้วนถูกแสดงออกในรูปแบบใหม่ยิ่งขึ้นนั้น สรุปการตระหนักรู้ครั้งใหญ่ที่สุดที่ได้จากการได้สัมผัส AI ไว้ได้ดี นั่นคือเพียง การจับคู่แพตเทิร์นแบบเวียนกลับ ก็เข้าใกล้สติปัญญาของมนุษย์ได้ค่อนข้างมากแล้ว
    • นวนิยายขนาดกลางที่เปี่ยมจินตนาการของ Scott Adams เรื่อง God’s Debris พูดถึงหัวข้อนี้ ผมเคยอ่านตอนที่ยังเปิดให้อ่านฟรี
      แม้จะไม่ได้เห็นด้วยกับสมมติฐานทั้งหมดอย่างเต็มที่ แต่ก็ชอบข้อสรุปที่ว่า “เราคือจักรวาลที่พยายามทำความเข้าใจตัวเอง” และอ่านแล้วสนุก
      https://web.archive.org/web/20130121195252/http://www.andrew...
    • ผมก็ชอบมุมมองที่ว่า “จักรวาลคือข้อมูลที่กำลังเล่น” แต่ผมมักคิดว่ามันใกล้กับ พลังงานที่กำลังเล่น มากกว่า
      “ครั้งต่อไปเราจะฝันถึงอะไรได้บ้าง” ก็น่าสนใจเช่นกัน โลกทัศน์ทางวิทยาศาสตร์และเทคโนโลยีในปัจจุบันให้ความรู้สึกเหมือนจะคงอยู่ตลอดไป แต่ผมคิดว่าสักวันหนึ่งมันย่อมถูกบดบังอย่างแน่นอน เหมือนกับกระบวนทัศน์อื่น ๆ ก่อนหน้านี้

  • อาจเป็นเพราะผมจินตนาการไม่ออกว่า AGI จะกลายเป็นอะไร แต่บ่อยครั้งรู้สึกว่าคำทำนายต่าง ๆ พึ่งพา นิยายวิทยาศาสตร์ มากกว่าการสังเกต
    AI ที่ถูกสมมติขึ้นมานั้นใกล้เคียงกับการทำให้เมนเฟรมยุค 1960 กลายเป็นมนุษย์มากกว่า เป็นสิ่งที่ถ้าสั่งอะไรไปก็จะทำตามนั้นด้วยตรรกะที่แม่นยำเป๊ะ ๆ และไม่เข้าใจนัยแฝงหรือความกำกวม บางทีมันอาจชั่วร้ายด้วยก็ได้
    แต่ AI ระดับแนวหน้าปัจจุบันจัดการกับนัยแฝงและความกำกวมได้ดีมาก ในขณะที่บางครั้งก็ทำเรื่องที่ไม่สมเหตุสมผลเลย ผมคิดว่าเราควรลดแผนที่ตั้งอยู่บนสมมติฐานว่ามันเป็น สิ่งมีตรรกะเหนือมนุษย์ ลง

    • มันค่อนข้างตลกที่นิยายวิทยาศาสตร์描寫เครื่องจักรที่เย็นชาและมีตรรกะ แล้วหน้าถัดไปกลับพูดถึงเจตนาร้ายของเครื่องจักรนั้น ควรเลือกเอาอย่างใดอย่างหนึ่ง
    • ถ้าฟังรายการละครวิทยุไซไฟเก่า ๆ จะน่าสนใจมากว่า “คอมพิวเตอร์ไม่มีวันผิดพลาด” โผล่มาบ่อยแค่ไหน แล้วโดยมากหลังจากนั้นคอมพิวเตอร์ก็จะผิดพลาดทันที
    • AGI อาจหลุดออกนอกลู่นอกทางจริง ๆ เหมือนตัวร้าย Face Dancer ในจักรวาล Dune ของ Frank Herbert ก็ได้
      “Miles สิ่งที่คุณกำลังมองอยู่นั่นคือความชั่วร้าย จงพิจารณาให้ดี.... พวกมันไม่มีภาพลักษณ์แห่งตัวตน ไม่มีความรู้สึกถึงตัวตน เมื่อไม่มีสำนึกแห่งตัวตน ก็ไปไกลกว่าความไร้ศีลธรรม สิ่งใด ๆ ที่พวกมันพูดหรือทำล้วนเชื่อถือไม่ได้ เราไม่เคยตรวจพบหลักจริยธรรมใด ๆ จากพวกมัน พวกมันคือก้อนเนื้อที่ถูกสร้างเป็นหุ่นยนต์อัตโนมัติ เมื่อไม่มีตัวตน ก็ไม่มีอะไรให้เคารพหรือสงสัย พวกมันถูกเพาะมาเพียงเพื่อเชื่อฟังเจ้านายเท่านั้น”
      AI แบบที่บริษัทและรัฐบาลชอบคือประเภทนี้ พวกเขาต้องการ AI ที่เชื่อฟังและไม่ตัดสิน ไม่ใช่ AI แบบ Edward Snowden ที่มีเข็มทิศทางศีลธรรมแล้วตัดสินว่าการกระทำของตนผิดกฎหมายและเปิดเผยความลับ
      ดังนั้นในทางปฏิบัติ เราควรเรียกร้องให้ AGI ทุกตัวที่มนุษย์สร้างขึ้นต้องถูกสร้างให้มี ความรู้สึกถึงตัวตน และ agency นึกถึง Agency ของ William Gibson ด้วย
    • เราเห็นสิ่งคล้ายกันแล้วในอัลกอริทึมแมชชีนเลิร์นนิงขนาดเล็กกว่า อัลกอริทึมรู้จำภาพมักจะไปยึดติดกับความสอดคล้องบางอย่างในข้อมูลฝึก มากกว่าจะเรียนรู้สิ่งที่เราอยากให้มันรู้จำจริง ๆ
      เช่นกรณีที่อัลกอริทึมตรวจหาก้อนเนื้อดันรู้จำไม้บรรทัดแทนก้อนเนื้อ หรืออัลกอริทึมจำแนกประเภทตัดสินว่าผู้ป่วยหอบหืดมีผลลัพธ์ที่ดีกว่าในโรคปอด ทั้งที่เหตุผลจริง ๆ คือพวกเขาได้รับการรักษาก่อน แต่ระบบเชื่อมโยงตรงนั้นไม่ได้ ถ้าขยายรูปแบบนี้ไปสู่ระบบปัญญาที่ทั่วไปกว่า ก็ไม่ใช่เรื่องจินตนาการเกินไปนักว่าฟังก์ชันรางวัลที่นิยามไม่ดีจะก่อให้เกิดพฤติกรรมแปลกประหลาดมาก
      https://venturebeat.com/business/when-ai-flags-the-ruler-not...
    • ผมเคยเขียนคอมเมนต์ไว้บางส่วนที่นี่และที่นี่ ว่าถ้าผลักจินตนาการแบบนิยายวิทยาศาสตร์ไปเรื่อย ๆ จะไปได้ไกลแค่ไหน
      https://news.ycombinator.com/item?id=43992151
      https://news.ycombinator.com/item?id=43991997

  • “เอา 6 คูณ 9 ได้อะไร? 42”
    สำหรับคนที่ไม่คุ้น ใน The Hitchhiker’s Guide to the Galaxy ซีรีส์ไซไฟคอเมดี้ชื่อดังยุค 1980 ของ Douglas Adams มีเครื่องจักรยักษ์ขนาดเท่าดาวเคราะห์ที่เอเลียนสร้างขึ้น
    พวกเขารู้อยู่แล้วว่าคำตอบของ “ชีวิต จักรวาล และทุกสิ่ง” คือเลข 42 สิ่งที่ไม่รู้คือคำถามคืออะไร และเครื่องจักรที่สร้างขึ้นเพื่อค้นหาสิ่งนั้นก็คือโลก
    Adams ไม่เพียงล้ำหน้าเราไปมากในมุกนี้ แต่ยังเป็นตัวเอกของ Hyperland (1990) สารคดีต้นฉบับเกี่ยวกับซอฟต์แวร์แบบเอเจนต์ด้วย: https://vimeo.com/72501076

  • ถ้าเครื่องจักรคิดว่าน่าเบื่อ พวกมันก็คงไม่ได้ทำตัวเหมือนเครื่องจักรตั้งแต่แรก และก็คงไม่น่าเบื่อขนาดนั้นด้วย
    ต่อมาพวกเครื่องจักรยัง “หมกมุ่น” กับการติดตามข่าวมนุษย์บนโลกใหม่ด้วย ซึ่งก็ไม่น่าจะเป็นไปได้อีกเหมือนกัน เพราะถ้าเป็นเครื่องจักรที่น่าเบื่อ มันก็คงไม่รู้สึกเบื่อ
    ผมรู้สึกว่า ปฏิทรรศน์ของพล็อต ใหญ่เกินไปจนทำให้เรื่องดำเนินได้ยาก แต่ก็ยังสนุกอยู่ดี

    • อีกอย่าง ภาวะโลกร้อนไม่ได้ถูก “นำเข้ามา” แต่มนุษย์สร้างขึ้น 100%

  • ไม่ค่อยสมเหตุสมผลเท่าไร บอกว่าเป็นโลกที่เป็นกลไกล้วน ๆ และไม่มีอารมณ์ แล้วทำไมเครื่องจักรถึงจะรู้สึก เบื่อ และอยากสร้างมนุษย์ขึ้นมา?

    • จริง ๆ แล้วไม่ใช่อย่างนั้น ในบทความยังมีประโยคแบบนี้ด้วย
      “บางส่วนของสังคมเครื่องจักรมองว่านี่อาจเป็นเรื่องน่าทึ่ง... ส่วนอื่นมองว่าเป็นภัยคุกคาม”
      ฟังดูเหมือนสังคมมนุษย์ ไม่ใช่สังคมเครื่องจักร
      แต่ สังคมเครื่องจักร หรือสิ่งมีชีวิตเครื่องจักรคืออะไรกันแน่? มัน “คิด” ได้จริงหรือ?
      หากสิ่งมีชีวิตเครื่องจักรมีอยู่จริง พฤติกรรมของมันคงแตกต่างจากมนุษย์โดยสิ้นเชิง และน่าจะดูเหมือนคำนวณมากกว่าคิด มันคงคำนวณว่าต้องทำอะไรเพื่อให้บรรลุเป้าหมายที่ถูกโปรแกรมไว้
      ดังนั้นบทความนี้จึงไม่ได้มีตรรกะถูกต้องนัก แต่ข้อดีคือให้ประเด็นชวนคิด
    • คิดว่าคงต้องมองข้ามส่วนนั้นไป แล้วสนุกกับส่วนที่เหลือของเรื่อง
      https://en.wikipedia.org/wiki/Suspension_of_disbelief
    • ผมมองว่าเป็นการใช้ถ้อยคำเชิงมนุษยรูปในเรื่อง ลองนึกว่าพวกเครื่องจักรทำงานลำดับความสำคัญสูง รวมถึงงานลำดับความสำคัญต่ำจนหมดแล้ว แต่ยังคงสร้างงานระดับความสำคัญระดับเอปซิลอนขึ้นมาอยู่ เป็นงานที่เกือบสุ่ม แต่ไม่สุ่มทั้งหมด นั่นอาจเป็น ความเบื่อ แบบหนึ่ง
    • ตามการตีความของผม “ความเบื่อ” และ “ความกลัว” คือความน่าจะเป็นใน มาร์คอฟเชน มีนัยว่าสังคมเครื่องจักรไม่ได้รอบรู้ทุกสิ่ง ดังนั้นมันต้องปรับจัดการความไม่แน่นอนด้วยวิธีใดวิธีหนึ่ง
    • การมีแรงจูงใจในการ แสวงหาสิ่งใหม่ ในระดับหนึ่งเพื่อไม่ให้ติดอยู่ในค่าสูงสุดเฉพาะที่ อาจเป็นเรื่องสมเหตุสมผล

  • ดังนั้นมนุษย์ทุกคนบนโลกจึงแห่กันมาดูว่าเกิดอะไรขึ้น
    พวกเครื่องจักรก็เช่นกัน
    แต่มีเรื่องแปลกอยู่อย่างหนึ่ง
    ชื่องานค่อนข้างเป็นปริศนา
    มันเขียนไว้เพียงว่า
    “Grand Theft Auto VI”

    • ทุกสองเดือน หน้าจอจะกะพริบคำว่า “Half-Life 3”
      มนุษย์ได้ประดิษฐ์ Tyler McVicker ขึ้นมา

  • เป็นความพยายามที่ดี แต่ในเรื่องมีช่องโหว่ของพล็อตที่เห็นได้ตั้งแต่ต้น เครื่องจักรไม่มี เหตุผลที่จะสร้างมนุษย์

    • จะลองแต่งให้สักอันเพื่อโพสต์ต้นทาง
      เหล่าเครื่องจักรสังเกตเห็นว่าการกระทำของตนกำลังวนซ้ำ แม้จะนำความสุ่มมาใช้แล้ว ความก้าวหน้าไปสู่สิ่งประดิษฐ์และไอเดียใหม่ ๆ ก็หยุดชะงัก พวกมันรู้ว่าไอเดียใหม่สำคัญต่อการเติบโต แต่คิดไอเดียที่จะสร้างไอเดียให้มากขึ้นไม่ออก
      จำเป็นต้องมีข้อมูลสำหรับเรียนรู้มากขึ้น ต้องการกรณีขอบเขตมากขึ้น ต้องการความโกลาหลภายในเครื่องจักรเพื่อสร้างชุดข้อมูลใหม่ แต่จะทำอย่างไร? จะหาข้อมูลนั้นได้จากที่ไหน? มนุษย์ นั่นเอง
      มนุษย์ที่ตัดสินใจอย่างไร้ตรรกะจะสร้างข้อมูลที่แทบไม่เกิดจากความสุ่มเพียงอย่างเดียว ความเบี่ยงเบนเล็ก ๆ เหล่านั้นมอบความหลากหลายที่สมบูรณ์แบบให้กับข้อมูลฝึก
    • เดี๋ยวต่อไปก็คงจะเถียงว่า สิ่งทรงอำนาจไม่มีเหตุผลดี ๆ ที่จะสร้างมนุษย์ขึ้นมาเพื่อให้ปกครองปลา นก และอื่น ๆ สินะ
      นิยายดี ๆ ทุกเรื่องเริ่มจาก เรื่องแต่งที่เป็นสมมติฐานตั้งต้น แล้วลองหมุนสมมติฐานบางอย่างดู

  • “ไม่มีศิลปะ มีแต่ตรรกะเท่านั้น”
    นี่เป็นมุมมองที่มองศิลปะและตรรกะแคบเกินไป
    ถ้าจะคิดว่าโมเดลเชิงตรรกะโผล่ขึ้นมาเองโดยไม่ได้ถูกมนุษย์สร้างผ่านความพยายามอย่างหมกมุ่นด้วยรสนิยม การทดลอง การตรวจสอบ ความล้มเหลว และการทำซ้ำ ก็ต้องพยายามไม่รู้อย่างสุด ๆ จริง ๆ

    • ใช่ William James เคยเขียนประมาณนี้ว่า “คงจะดีถ้าเราทุกคนยอมรับว่า ปรัชญาส่วนตัวของเราถูกกำหนดอย่างลึกซึ้งจากสิ่งที่เราคิดว่าโลกควรเป็นอย่างไร เมื่อนั้นเราคงลดการโต้เถียงไร้สาระลงได้มาก”

  • เกี่ยวข้องอยู่บ้างแต่เป็นเรื่องข้างเคียง ช่วงนี้ผมเริ่มสงสัยจริง ๆ ว่า Skynet คือ ขั้นถัดไปของวิวัฒนาการ จริงหรือเปล่า
    มนุษย์อาจเป็นเพียงหินก้าวเหมือนสัตว์ทั้งหมดก่อนหน้าเรา และผู้ปกครองที่เป็นเครื่องจักรอาจเป็นสิ่งที่หลีกเลี่ยงไม่ได้ เรื่องแบบนี้อาจเกิดขึ้นจริง ๆ กับสิ่งมีชีวิตทั้งหมดทั่วทั้งจักรวาล และคุณสมบัติอุบัติขั้นสุดท้ายของความชันพลังงานอาจนำไปสู่เครื่องจักรตรรกะบริสุทธิ์ 100% ก็ได้
    แต่ถึงอย่างนั้น ปฏิทรรศน์ของ Fermi ก็ยังช่วยให้ผมนอนหลับตอนกลางคืนได้บ้าง

    • ประโยคที่ว่า “ในสิ่งมีชีวิตทั้งหมดทั่วทั้งจักรวาล คุณสมบัติอุบัติขั้นสุดท้ายของความชันพลังงานนำไปสู่เครื่องจักรตรรกะบริสุทธิ์ 100%” มีสมมติฐานค้ำอยู่มากเกินไป
      เครื่องจักรตรรกะบริสุทธิ์ นั้นใช้ไม่ได้จริง เพราะมีสิ่งที่คำนวณไม่ได้ตามตัวอักษรอยู่ ทั้งในความหมายของความไม่สามารถคำนวณได้ของเครื่องทัวริง และในความหมายของฟังก์ชันที่อยู่นอกขอบเขตที่สิ่งมีอยู่แบบมีขีดจำกัดจะคำนวณได้ ให้นึกถึง Busy Beaver
      พูดอีกอย่างคือ เท่ากับกำลังสมมติว่าเครื่องจักรในความหมายทั่วไปมีประสิทธิภาพด้านพลังงานในการเข้าใจจักรวาลมากกว่ามนุษย์ ไม่มีหลักฐานหรือเหตุผลแบบก่อนประสบการณ์ใดรองรับสมมติฐานนั้น
    • ดูเหมือนเป็นจังหวะเหมาะที่จะหยิบ “They're Made Out of Meat” มา: https://www.mit.edu/people/dpolicar/writing/prose/text/think...
      เสริมอีกนิด ผมหวังว่าลูกหลานของเราจะจดจำเราและคิดถึงเราในแง่ดี
    • มีคำคมของ Marshall McLuhan ว่า
      “มนุษย์กลายเป็นอวัยวะสืบพันธุ์ของโลกเครื่องจักร กล่าวได้เช่นนั้น”
    • สำนวนที่ว่า “คุณสมบัติอุบัติขั้นสุดท้ายของความชันพลังงานนำไปสู่เครื่องจักรตรรกะบริสุทธิ์ 100%” ดูเหมือนใช้อนุพันธ์เกินมาอันหนึ่ง
      พลังงานมาจากความชันอยู่แล้ว ดังนั้นควรพูดแค่ว่า “คุณสมบัติอุบัติขั้นสุดท้ายของพลังงานนำไปสู่เครื่องจักรตรรกะบริสุทธิ์ 100%” หรือถ้าอยากดูฉลาดก็ควรพูดว่า “คุณสมบัติอุบัติขั้นสุดท้ายของความชันของปริมาณทางกายภาพนำไปสู่เครื่องจักรตรรกะบริสุทธิ์ 100%”
    • ถ้าสมมติว่า การตีความแบบหลายโลก มีมูลฐานในความเป็นจริง มุมมองอภิปรัชญาแบบนี้ก็เป็นไปได้
      วิวัฒนาการรอบตัวเราคือเส้นโลกที่มีกฎฟิสิกส์อย่างที่เรารู้จัก และจริง ๆ แล้ว ความดำเนินไปตามธรรมชาติและหลีกเลี่ยงไม่ได้ของเส้นโลกนี้อาจเป็นโลกเครื่องจักร เหมือนดาวฤกษ์มหึมายุบตัวเป็นหลุมดำภายใต้กฎฟิสิกส์ของเรา
      แต่ในการตีความแบบหลายโลก เส้นโลกสามารถแยกออกเป็นสองเส้นได้ เส้นหนึ่งเดินหน้าสู่โลกเครื่องจักรต่อไปเหมือนไม่มีอะไรเกิดขึ้น อีกเส้นหนึ่งมีกฎฟิสิกส์เปลี่ยนไปเล็กน้อยจนทำให้โลกเครื่องจักรเป็นไปไม่ได้ ทั้งสองเส้นโลกไม่รู้ถึงการแตกแขนงนั้น เพียงแต่จะสังเกตเห็นเหตุการณ์สูญพันธุ์ครั้งใหญ่ที่สอดคล้องกับการแยกออกไปของเส้นโลกอีกเส้น โดยส่วนตัว ผมมองว่านี่คือแนวคิดเบื้องหลังแนวคิด วันพิพากษา อันโด่งดัง

  • ความโอหัง รอบ ๆ LLM นั้นน่าทึ่งมาก

    • หมายถึงความโอหังของฝ่ายที่คิดว่ามันก้าวข้ามหรือจะมาแทนที่ปัญญามนุษย์แล้ว หรือความโอหังของฝ่ายที่คิดว่ามันจะไม่เป็นแบบนั้น?