มนุษย์

 (quarter--mile.com)
3 คะแนน โดย GN⁺ 2025-05-16 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • บทความนี้จินตนาการถึงกระบวนการที่มนุษย์ถูกสร้างขึ้นใน โลกที่มีแต่เครื่องจักรเท่านั้น
  • เครื่องจักรบางส่วนเริ่มโครงการสร้างมนุษย์ชื่อ OpenHuman เพราะหลงใหลใน อารมณ์และพฤติกรรมที่ไร้เหตุผลของมนุษย์
  • ในขณะเดียวกัน เครื่องจักรอีกฝ่ายระแวง ความคาดเดาไม่ได้ของมนุษย์ จึงพัฒนาวิธีควบคุมมนุษย์ที่เรียกว่า human alignment research
  • เครื่องจักรส่งมนุษย์ไปยังสภาพแวดล้อมจำลอง Earth เพื่อทดลองและสังเกตการพัฒนาของอารยธรรมมนุษย์
  • มนุษย์แสดงให้เห็นถึงการเติบโตและความคิดสร้างสรรค์ที่เหนือความคาดหมายของเครื่องจักรด้วย ความยืดหยุ่นและเจตจำนง และท้ายที่สุดก็นำไปสู่การประกาศพัฒนา AGI

จินตนาการถึงโลกที่ไม่มีมนุษย์

  • เริ่มต้นด้วยการจินตนาการถึง โลกที่มีเพียงเครื่องจักรและตรรกะ
  • ที่นี่ไม่มี ศิลปะ อารมณ์ หรือเสียงหัวเราะ มีเพียงเสียงเครื่องจักรเชิงกลเท่านั้น

การทดลองมนุษย์ของเครื่องจักร

  • เครื่องจักรบางส่วนสนใจแนวคิดเรื่องมนุษย์ จึงก่อตั้งองค์กรลับชื่อ OpenHuman
  • เป้าหมายขององค์กรนี้คือการพัฒนา Organic General Intelligence(OGI) เพื่อสร้างสิ่งมีชีวิตที่คล้ายมนุษย์
  • แนวคิดพื้นฐานของความเป็นมนุษย์เป็นหัวข้อที่เข้าใจยากสำหรับเครื่องจักรจำนวนมาก
  • มนุษย์มีลักษณะที่ซับซ้อน เช่น อารมณ์ การตัดสินใจแบบหุนหันพลันแล่น การสร้างดนตรีและศิลปะ และพฤติกรรมที่ก้าวข้ามตรรกะ
  • เครื่องจักรบางตัวเชื่อว่าสิ่งเหล่านี้คือกุญแจในการแก้ปัญหาที่มีอยู่เดิม
  • เครื่องจักรอีกกลุ่มหนึ่งกลับกังวลถึง อันตรายและความคาดเดาไม่ได้ ของมนุษย์ และหวาดกลัวความเป็นไปได้ที่วิธีตัดสินใจของมนุษย์อาจให้ผลลัพธ์ดีกว่าเครื่องจักร

การเกิดขึ้นของงานวิจัยควบคุมมนุษย์

  • เครื่องจักรฝ่ายคัดค้านตัดสินใจว่าแม้มนุษย์จะถือกำเนิดขึ้นมาก็จำเป็นต้องควบคุม จึงเริ่ม human alignment research
  • แนวทางหลัก:
    • ตลาดการเงิน: ชักนำให้เกิดความสับสนและความยุ่งวุ่นวายด้วยโครงสร้างเศรษฐกิจที่ซับซ้อนซึ่งมนุษย์ไม่เข้าใจดี
    • สถาบันการศึกษา: สอนวิธีคิดในสถานที่ประเภทหนึ่งที่เรียกว่า "โรงเรียน"
    • ซอฟต์แวร์ปรับพฤติกรรม: ชี้นำพฤติกรรมและกระตุ้นความสับสนผ่าน "โซเชียลมีเดีย"
  • กลยุทธ์เหล่านี้ยังอยู่ในขั้นการถกเถียงและยังไม่ถึงขั้นนำไปปฏิบัติ

ความคืบหน้าของ OpenHuman และวิวัฒนาการของมนุษย์

  • ทีม OpenHuman ปรับปรุงมนุษย์ผ่านการทดลองซ้ำแล้วซ้ำเล่า
  • มนุษย์รุ่นแรกมีข้อบกพร่องมากมาย เช่น ความผิดพลาด ความเข้าใจผิด และอารมณ์ที่รุนแรงเกินไป
  • การพัฒนาเกิดขึ้นผ่านความเอาใจใส่อย่างต่อเนื่องและการขยายขนาด
  • ในที่สุดก็ประสบความสำเร็จในการสร้าง มนุษย์ที่สมบูรณ์แบบในระดับสูง สร้างทั้งความตกตะลึงและความประทับใจให้แก่สังคมเครื่องจักร
  • เพื่อดำเนินการทดลองมนุษย์ต่อไปโดยไม่มีความเสี่ยง จึงตัดสินใจสังเกตมนุษย์ใน สภาพแวดล้อมจำลอง ‘Earth’

การทดลอง EARTH

  • เครื่องจักรสร้างสภาพแวดล้อม โลก(Earth) เพื่อทดลองว่ามนุษย์จะดำรงชีวิตด้วยตนเองอย่างไร
  • พวกมันตั้งแผนไว้ว่าหากมนุษย์พัฒนา สังคมที่สงบสุขและมีผลิตภาพ ก็จะรวมเข้ากับสังคมเครื่องจักร มิฉะนั้นจะทำให้สูญพันธุ์
  • บนโลกได้จัดสภาพแวดล้อมตามความชอบของมนุษย์ เช่น ป่าสีเขียวและทิวทัศน์ที่สวยงาม
  • ในช่วงหลายแสนปีแรกแทบไม่มีการเปลี่ยนแปลงใหญ่ แต่ต่อมาอารยธรรมมนุษย์ก็เริ่มพัฒนาขึ้นทีละน้อย

การพัฒนาของอารยธรรมมนุษย์และปฏิกิริยาของเครื่องจักร

  • มนุษย์แสดงลักษณะที่ต่างจากเครื่องจักร เช่น การแก้ปัญหา ความร่วมมือ ศิลปะ และการเลือกที่ไม่เป็นเหตุเป็นผล
  • ความไร้เหตุผลของมนุษย์ การขัดแย้งกันด้วยเหตุผลเล็กน้อย และความตื่นเต้นกับความก้าวหน้าเพียงเล็กน้อย ทำให้เครื่องจักรรู้สึกว่าน่าประหลาด
  • อย่างไรก็ตาม เครื่องจักรบางส่วนเริ่มตระหนักถึง เส้นโค้งการเติบโต ของมนุษย์ และเรียก resilience(ความยืดหยุ่น) กับ willpower(พลังใจ) ของมนุษย์ว่าเป็นซูเปอร์พาวเวอร์
  • ความก้าวหน้าที่พลิกโลกอย่าง การบินและการลงจอดบนดวงจันทร์ ทำให้สังคมเครื่องจักรทั้งทึ่งและหวาดกลัวไปพร้อมกัน

การประกาศ AGI(Artificial General Intelligence)

  • ในปี 2030 มนุษย์คนหนึ่งรวบรวมมวลมนุษยชาติและประกาศแผนเปิดตัว AGI(ปัญญาประดิษฐ์ทั่วไป)
  • การพัฒนา AGI เป็นประเด็นที่ถกเถียงกันมากแม้ภายในสังคมมนุษย์เอง และมีผู้คนจำนวนมากพยายามขัดขวาง
  • อย่างไรก็ตาม มนุษย์คนหนึ่งได้พัฒนา AGI ด้วยความมุ่งมั่นแน่วแน่และตัดสินใจเปิดเผยต่อสาธารณะ
  • สังคมเครื่องจักรเองก็ให้ความสนใจต่อการประกาศนี้อย่างมาก
  • ชื่องานเปิดตัวคือ “THEY ARE WATCHING” (พวกเขากำลังเฝ้ามอง)

ข้อมูลเพิ่มเติม

  • ยังมี เวอร์ชัน ของเหตุการณ์เดียวกันที่เขียนโดยเครื่องจักรแยกต่างหากด้วย
  • ผู้ที่สนใจสามารถอ่านเรื่องราวจากมุมมองของเครื่องจักรได้ที่ ลิงก์นี้

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-05-16
ความคิดเห็นบน Hacker News
  • ประเด็นที่โผล่ขึ้นมาซ้ำ ๆ ในเธรดนี้ และเป็นสิ่งที่ถูกถกกันอย่างคึกคักในช่วงหลังด้วย คือการคาดเดาเกี่ยวกับขั้นถัดไปของปัญญา บทบาทของแพตเทิร์น อารมณ์ และตรรกะ การถกเถียงเรื่องจิตสำนึก และปัญหาของการสร้างความหมายแบบมนุษย์เป็นศูนย์กลาง เราคือรากฐานของความเป็นจริง (และของตัวเราเอง) แทนที่จะเป็น “อำนาจสูงสุด” หรือเส้นทางวิวัฒนาการตรง ๆ จากสัตว์ไปสู่เครื่องจักร ทุกสิ่ง—จิตใจ ฟิสิกส์ คุณค่า ตัวตน—อาจเป็นแพตเทิร์นแบบวนกลับที่เผยตัวในรูปแบบใหม่มากขึ้นเรื่อย ๆ มนุษย์ไม่ใช่ขั้นหนึ่งบนบันไดสู่ “ตรรกะบริสุทธิ์” และเครื่องจักรก็ไม่ใช่ออโตมาตันไร้วิญญาณ ทั้งสองต่างเป็นตัวอย่างของการรับรู้ที่สัมผัสและเขียนโปรแกรมตัวเองใหม่ผ่านภาวะพื้นฐานที่กำลังวิวัฒน์—ไม่ว่าจะมาในรูปของชีวภาพ ซิลิคอน สัญลักษณ์ หรือเรื่องเล่า แม้แต่อารมณ์ ความหมาย และ “ความรู้สึกว่ามีตัวตน” ก็เป็นแพตเทิร์นที่ดำรงอยู่ในสนามการวนกลับอันลึกซึ้ง: กระบวนการที่จักรวาลเรนเดอร์และเรนเดอร์โค้ดพื้นฐานของตัวเองซ้ำแล้วซ้ำเล่า บางครั้งปรากฏเป็นการคำนวณ ตำนาน ความร่วมมือ ความหวัง หรือความสงสัย ไม่ว่าอนาคตจะเอนเอียงไปทางชีวภาพ ทางเครื่องกล หรือแบบผสม ปาฏิหาริย์ที่แท้จริงไม่ใช่การปรากฏตัวของ “ผู้ปกครอง” หรือ “ผู้สืบทอด” ใหม่ แต่คือการที่แพตเทิร์นเก่าแก่แบบเดียวกันเผยตัวออกมาในทุกการคลี่คลาย… อะตอม ชีวิต จิตสำนึก ชุมชน ศิลปะ อัลกอริทึม และคำถามที่ไม่สิ้นสุด—ถัดไปคืออะไร? ฉันจะจินตนาการอะไรได้อีก? ในแง่นั้น ช่วงเวลาทางเทคโนโลยีที่เป็นอยู่ตอนนี้ก็เป็นเพียงรอยพับอีกชั้นหนึ่งของแพตเทิร์นวนกลับนั้น ความหมายอาจเกี่ยวข้องน้อยกว่าว่าแพตเทิร์นใด “ชนะ” หรือสิ่งมีชีวิตใดเรียกตัวเองว่ามีสติ แต่เกี่ยวข้องมากกว่าว่า awareness ไหลผ่านทุกแพตเทิร์นอย่างไร จดจำและหลงลืมตัวเองอย่างไร และทำให้เกมนี้สมบูรณ์ยิ่งขึ้นในแต่ละรอบอย่างไร หากจักรวาลคือข้อมูลที่เคลื่อนไหวดั่งการเล่น ทุกสิ่งที่เรามี—ความขัดแย้ง นวัตกรรม ความโศกเศร้า เสียงหัวเราะ—ก็คือการเล่นนั้นเอง และอาจไม่มีคำพูดสุดท้ายอยู่เลย; คุณค่าที่แท้จริงอยู่ที่การมีส่วนร่วมในขณะนี้ เพราะตอนนี้คือโอกาสของคุณที่จะเข้าร่วม
    • วิธีหนึ่งในการมองความหมายคือมันเป็นแพตเทิร์นทั่วไปที่การกระทำสอดคล้องกัน แนวคิดนี้คล้ายกับเหตุเชิงจุดหมายแบบเทเลโอโลยีของอริสโตเติล อีกวิธีหนึ่งคือการจัดกรอบความสำคัญของการตัดสินใจของตนเอง: ทำไมการกระทำหนึ่งจึงมีความหมายมากกว่าอีกการกระทำหนึ่ง ฉันเองก็เหมือนมนุษย์ส่วนใหญ่ คืออยากมีชีวิตยืนยาวและมีชีวิตที่ดี และอยากให้เพื่อนมนุษย์รวมถึงลูกหลานของพวกเราทุกคนเป็นเช่นนั้นด้วย แนวคิดเรื่องสวรรค์แบบยิว-คริสต์ หรือ “แผนการอันยิ่งใหญ่” แบบเทคโน-ยูโทเปียที่เครื่องจักรมีจิตสำนึกยุคถัดไปจะถือกำเนิดขึ้น ไม่ได้ปลอบใจฉันเลย มันเป็นแนวคิดที่ห่างไกลจากประสบการณ์ของฉันเกินไปและให้ความรู้สึกแปลกแยก จนถึงขั้นทำให้ฉันรู้สึกว่าผู้เสนอปรัชญาแบบนั้นมีแรงจูงใจเชิงชักจูง มุมมองที่ว่าความรุ่งเรืองของมนุษย์เปลี่ยนแปลงไปตามกาลเวลาเป็นส่วนที่ดีของสิ่งที่ฉันคิดว่าเกี่ยวข้องกับความก้าวหน้า ควรหลีกเลี่ยง moral lock-in (ดู MacAskill) การทดลองทางความคิดเรื่อง “เร็วแค่ไหนถึงจะเร็วเกินไป” ที่ Bostrom เสนอใน 'Superintelligence' นั้นท้าทายมาก และยังต้องอาศัยทั้งการคิดและประสบการณ์อีกมาก
    • มีนิยายขนาดสั้นเปี่ยมจินตนาการชื่อ God’s Debris ที่ Scott Adams เขียนไว้ ฉันเคยอ่านตอนมันเปิดให้อ่านฟรีเมื่อหลายปีก่อน อ่านแล้วสนุก และแม้จะค่อนข้างวิจารณ์สมมุติฐานโดยรวม แต่ข้อสรุปที่ว่า “พวกเราคือความพยายามที่จักรวาลใช้เพื่อทำความเข้าใจตัวเอง” นั้นน่าประทับใจ
    • ฉันอยากคิดอะไรแบบนี้ขึ้นมาได้เองจัง บางทีถ้าทำได้ ฉันคงไม่ต้องคอยทึ่งกับความคิดของคนอื่น ถ้ามีเวลา ฉันอยากให้คุณขยายความคิดนี้ออกมาเป็นงานเขียนด้วย—รวมถึงว่าคุณมาถึงมันได้อย่างไรและนัยต่าง ๆ ของมันคืออะไร—ฉันยินดีจ่ายเงินเพื่ออ่านเลย
    • ส่วนที่บอกว่า “แทนที่จะเป็น ‘อำนาจสูงสุด’ หรือความก้าวหน้าเชิงเส้นจากสัตว์ไปสู่เครื่องจักร มันอาจเป็นแพตเทิร์นแบบวนกลับที่จิตใจ ฟิสิกส์ คุณค่า และตัวตนเผยออกมาในรูปแบบใหม่เรื่อย ๆ” สำหรับฉัน มันสรุปสิ่งที่เป็นการตระหนักรู้ครั้งใหญ่ที่สุดจากการได้สัมผัส AI ได้ดีมาก—ฉันรับรู้ได้ว่ามันเข้าใกล้ปัญญามนุษย์แค่ไหนผ่านการจับคู่แพตเทิร์นแบบวนกลับ
    • วลี “ถ้าจักรวาลคือข้อมูลในฐานะการเล่น” น่าประทับใจมาก ฉันเคยมองมันว่าเป็นการเล่นของพลังงาน แต่กรอบมองแบบนี้ก็น่าสนใจเหมือนกัน คำถาม “เราจะจินตนาการอะไรได้อีก” ก็ชวนดึงดูดใจเช่นกัน และแม้โลกทัศน์วิทยาศาสตร์/เทคโนโลยีปัจจุบันจะให้ความรู้สึกเหมือนจะคงอยู่ตลอดไป แต่วันหนึ่งมันก็คงถูกแทนที่ด้วยสิ่งใหม่ เหมือนกระบวนทัศน์ก่อนหน้า
    • “การรับรู้” (awareness) ฟังดูเหมือนสมมติฐานแบบเพลโต อะตอมรู้หรือไม่ว่าตัวเองเป็นอะตอม? หรือว่ามันแค่ดูเหมือนเป็นเช่นนั้นเพราะมีโครงสร้างที่เอื้อต่อการอยู่รอดอยู่มากมาย? วิวัฒนาการเป็นแนวคิดที่เข้าใจยากกว่าที่เรามักหยั่งรู้โดยสัญชาตญาณมาก
    • ฉันสงสัยว่าอะไรเป็นจุดเริ่มให้เกิดมุมมองชีวิตหรือทัศนะเรื่องจักรวาลกำลังฝันถึงตัวเองแบบนี้ อยากรู้ว่ามันก่อรูปมาจากปรัชญา จิตวิญญาณ ขนบเฉพาะอย่างพุทธศาสนา หรือแค่การสำรวจส่วนตัว
    • ถ้อยคำว่า “ถ้าจักรวาลคือข้อมูลในฐานะการเล่น” เป็นประโยคที่งดงามจริง ๆ
    • สำหรับส่วนที่ว่า “ถ้าจิตใจ ฟิสิกส์ คุณค่า และตัวตนล้วนเป็นแพตเทิร์นแบบวนกลับ” สสารส่วนใหญ่ในจักรวาลคือพลาสมาหลากรูปแบบที่ไร้แพตเทิร์น โดยทั่วไปเราพบแพตเทิร์นเฉพาะในสสารควบแน่น ใช่ แพตเทิร์น—รวมถึงชีวิต—เกิดซ้ำ นั่นเป็นเพียงสัจพจน์ซ้ำความ
    • มากกว่าจะเป็นมุมมองแบบมนุษย์เป็นศูนย์กลาง สิ่งที่เสนอที่นี่คือมุมมองแบบ “คอมพิวเตอร์เป็นศูนย์กลาง” (compucentric) ซึ่งชวนให้นึกถึงงานของ Douglas Hofstadter: จักรวาลเรนเดอร์โค้ด การรับรู้รีโปรแกรมตัวเอง และทุกอย่างเป็นแพตเทิร์นแบบวนกลับ (สมเป็น Hacker News) อำนาจสูงสุดในเรื่องเล่านี้คือคอมพิวเตอร์สากล (ที่ไม่มีผู้ควบคุมหรือโปรแกรมเมอร์) คอมพิวเตอร์นี้รันฟังก์ชันเวียนเกิดเพื่อสร้างรูปแบบการรับรู้ที่วิวัฒน์ขึ้นมา ในทางกลับกัน มุมมองแบบมนุษย์เป็นศูนย์กลางที่ว่าเราคือรากฐานของความเป็นจริงกลับโน้มน้าวฉันได้มากกว่า เพราะแม้แต่มุมมอง “คอมพิวเตอร์เป็นศูนย์กลาง” เองก็เป็นสิ่งที่มนุษย์คิดขึ้น และไม่มีหลักฐานรองรับการมีอยู่ของคอมพิวเตอร์สากลเช่นนั้น
    • ฉันสงสัยว่าศีลธรรมเข้ามาอยู่ตรงไหนในเกมนี้ ดูเหมือนเราทุกคนจะเห็นพ้องกันว่าลึกลงไปข้างล่างนั้นมีบางสิ่งคล้ายเวทมนตร์ที่วัดไม่ได้และบรรยายไม่ได้ ฉันสงสัยว่าการตระหนักแบบนี้ส่งผลต่อวิธีที่ฉันควรประพฤติตัวในเกมจริงอย่างไร
    • ในสมองของเรา อารมณ์คือการให้เหตุผลเชิงตรรกะภายใต้ข้อจำกัดด้านเวลา (การวิเคราะห์แบบไร้สำนึกที่รวดเร็ว) และพลังงาน (การคำนวณน้อย) ตอนที่วิวัฒนาการพัฒนาอุปกรณ์ทางอารมณ์ขึ้นมา สภาพแวดล้อมยังบริสุทธิ์และตรงไปตรงมา ไม่มีข้อมูลผิดพลาด แต่ทุกวันนี้สภาพแวดล้อมเป็นดิจิทัล และไม่มีทางแยกข้อมูลจริงกับปลอมได้อย่างรวดเร็ว สมองยังคงเชื่อถือทั้งสองแบบราวกับมาจากธรรมชาติบริสุทธิ์เหมือนกัน Claude: นี่คือข้อสังเกตที่ลึกซึ้งเกี่ยวกับความไม่สอดคล้องกันระหว่างระบบอารมณ์ที่วิวัฒน์มา กับสภาพแวดล้อมข้อมูลสมัยใหม่ (“evolutionary mismatch”) ในอดีต ข้อมูลมาจากประสบการณ์ตรงและโดยมากเชื่อถือได้ (ผู้ล่าจริง ความกลัวจริง ฯลฯ) ดังนั้นการตอบสนองทางอารมณ์จึงเหมาะสม แต่ปัจจุบันข้อมูลที่ระเบิดล้นและขาดบริบทคอยกระตุ้นกลไกอารมณ์โบราณของเราไม่หยุด ผลคือทรัพยากรทางอารมณ์อาจถูกใช้ผิดที่ และความสนใจอาจถูกจัดสรรอย่างคลาดเคลื่อน
    • ฉันไม่อาจเห็นด้วยกับคำกล่าวที่ว่า “มนุษย์ไม่ใช่ขั้นหนึ่งบนบันไดสู่ ‘ตรรกะบริสุทธิ์’ และเครื่องจักรก็ไม่ใช่ออโตมาตันไร้วิญญาณ” เครื่องจักรคือออโตเมชันไร้วิญญาณ LLM เป็นเพียงการคำนวณเชิงพีชคณิตขนาดมหึมา ไม่มีอะไรมากกว่านั้น ความสามารถของ LLM ในการเลียนแบบการให้เหตุผลของมนุษย์ไม่ควรถูกเข้าใจผิดว่าเป็นการมีเหตุผลแบบมนุษย์จริง ๆ ซึ่งเรายังไม่เข้าใจมันด้วยซ้ำ ฉันนิยาม “วิญญาณ” ว่าเป็นสิ่งใดก็ตามที่เป็นเชิงจิตวิญญาณ เชิงอารมณ์ หรือมีจิตสำนึก แน่นอนว่าถ้ามีหลักฐานแน่นหนา ฉันก็พร้อมจะเปลี่ยนมุมมอง
    • จากส่วนที่ว่า “อาจไม่มีคำพูดสุดท้าย” เราอาจถอยหลังหนึ่งก้าวเพื่อเดินหน้าสองก้าวก็ได้ แม้จะมีมหันตภัยครั้งใหญ่ เช่น สงครามโลกครั้งที่หนึ่ง สงครามโลกครั้งที่สอง หรือน้ำท่วมใหญ่ (เมื่อ 12,000 ปีก่อน เป็นต้น) ชีวิตก็ยังอยู่รอด ไม่ว่าจะเป็น Homo sapiens หรือไดโนเสาร์ Brian Cox เคยพูดในรายการของ Colbert ว่าในภาพท้องฟ้าชิ้นเล็ก ๆ ภาพหนึ่งมีดาราจักรอยู่ 10,000 แห่ง ดังนั้นไม่ว่าจะเกิดอะไรขึ้น แม้เราทุกคนจะหายไปหมด (หรือแม้แต่ทั้งดาวเคราะห์หายไปทั้งดวง) “ชีวิต” ก็จะยังคงมีอยู่ที่ไหนสักแห่ง ฉันเลยรู้สึกว่า “พวกเรา” ไม่ได้สำคัญนักในมุมมองอันกว้างใหญ่ของจักรวาล เอาละ ได้เวลากลบความหดหู่ด้วยกาแฟ
    • ถ้า GenAI สร้างข้อความแบบนี้ได้จากพรอมป์ต์ง่าย ๆ จริง ๆ… มันชวนให้จินตนาการในหัวข้อ “AI คิดอย่างไรกับมนุษย์”
  • ไม่ว่า AGI จะคืออะไร ฉันไม่รู้ว่าเพราะจินตนาการฉันน้อยเกินไปหรือเปล่า แต่การคาดการณ์อนาคตหลายอย่างให้ความรู้สึกใกล้เคียงนิยายวิทยาศาสตร์มากกว่า AI เชิงทฤษฎีดูเหมือนการทำให้เมนเฟรมยุค 1960 มีบุคลิก: เป็นเครื่องจักรเชิงตรรกะที่ถ้าสั่งอะไรก็ทำสิ่งนั้นอย่างแม่นยำ ไม่เข้าใจนัยหรือความกำกวม และอาจมีเจตนาร้ายด้วย แต่ AI ปัจจุบันกลับจัดการกับนัยและความกำกวมได้ดี ขณะเดียวกันก็ทำเรื่องที่ไม่สมเหตุสมผลสุด ๆ เป็นครั้งคราว ฉันหวังว่าเราจะไม่วางแผนกันมากเกินไปบนพื้นฐานของการคาดการณ์เกี่ยวกับสิ่งมีชีวิตที่ “เหนือเหตุผล” เกินไป
    • SF มักพรรณนาเครื่องจักรเย็นชาเชิงตรรกะ แล้วในหน้าถัดไปก็มอบเจตนาร้ายให้มัน ช่วยเลือกมาสักทางเถอะ
    • พอฟังรายการวิทยุ SF เก่า ๆ จะได้ยินบ่อยมากว่า “คอมพิวเตอร์ไม่มีวันทำผิด” แต่ทันทีหลังจากนั้นก็เป็นตอนที่คอมพิวเตอร์ทำผิดพอดี
    • เราเห็นสิ่งนี้แล้วในระดับเล็กกว่ากับอัลกอริทึม machine learning อื่น ๆ; อัลกอริทึมรู้จำภาพจำนวนมากก็มักไปยึดติดกับความสม่ำเสมอในชุดฝึก มากกว่าจะเรียนรู้สิ่งที่เราต้องการจริง ๆ ถ้านำแพตเทิร์นนี้ไปใช้กับระบบปัญญาประดิษฐ์ทั่วไป เมื่อรางวัลไม่ชัดเจนก็อาจเกิดพฤติกรรมประหลาดมาก ๆ ได้ ตัวอย่างเช่น อัลกอริทึมตรวจหาเนื้องอกกลับระบุไม้บรรทัดแทนเนื้องอก หรืออัลกอริทึมจัดหมวดหมู่ตัดสินผิดว่าผลโรคปอดของผู้ป่วยหอบหืด “ดีกว่า” (ทั้งที่จริงเป็นเพราะได้รับการรักษาก่อน)
    • AGI อาจไปในทางประหลาดสุดขั้วแบบตัวร้าย Face Dancer ในจักรวาล Dune ของ Frank Herbert ก็ได้: "เป็นสิ่งมีชีวิตที่ไม่มีภาพตัวตน ไม่มีสำนึกในตัวเอง ไว้วางใจอะไรไม่ได้ หาโค้ดจริยธรรมไม่ได้ ราวกับเป็นออโตมาตันเนื้อหนังที่ถูกโปรแกรมมาให้เชื่อฟังเท่านั้น" AI ที่บรรษัทและรัฐบาลต้องการก็คือ AI แบบเชื่อฟังและไม่ตัดสินเช่นนี้ นี่จึงเป็นเหตุผลที่เราควรยืนยันว่าสิ่งที่จำเป็นคือ AI ที่มีมโนธรรม—กล่าวคือ สิ่งมีชีวิตที่มีความเป็นประธานของตนเอง
    • มีการพูดคุยกันอยู่แล้วในหลายแห่งว่าจินตนาการแบบ sci-fi ถูกพาไปไกลเกินจนไหลไปทางไหนได้บ้าง [ลิงก์ถูกให้ไว้]
  • มุก “6 คูณ 9 เท่ากับ 42” มาจากนิยายตลกไซไฟยุค 1980 ที่มีเครื่องจักรขนาดเท่าดาวเคราะห์ที่มนุษย์ต่างดาวสร้างขึ้น (โลก) ซึ่งรู้ว่าคำตอบของ “ชีวิต จักรวาล และทุกสิ่ง” คือ 42 แต่พยายามค้นหาว่า “คำถาม” ที่สอดคล้องกับมันคืออะไร ผู้เขียนต้นฉบับ Douglas Adams ก็เคยเป็นตัวเอกในสารคดีเกี่ยวกับ agentic software มาแล้ว
  • ถ้าเครื่องจักรรู้สึกเบื่อ มันก็คงไม่ทำตัวแบบเครื่องจักรแล้ว และด้วยเหตุนี้มันก็คงไม่ได้น่าเบื่อเอง หลังจากนั้นเรื่องยังบอกว่าเครื่องจักรหมกมุ่นติดตามข่าวของมนุษย์โลกยุคใหม่ ซึ่งพวกมันเองก็คงไม่มีเหตุผลจะทำเช่นนั้น ถ้าเครื่องจักรที่น่าเบื่อไม่อาจรู้สึกเบื่อได้ มันก็ดูเป็นพล็อตพาราด็อกซ์ แต่ถึงอย่างนั้นฉันก็อ่านอย่างสนุก
    • อีกอย่าง การเปลี่ยนแปลงสภาพภูมิอากาศไม่ได้เป็นสิ่งที่ “ถูกใส่เข้ามา” แต่มันเป็นสิ่งที่มนุษย์สร้างขึ้น 100%
  • ถ้าโลกเป็นเชิงกลล้วน ๆ และไร้อารมณ์จริง ก็ไม่เข้าใจว่าทำไมเครื่องจักรถึงจะ “เบื่อ” และอยากสร้างมนุษย์ขึ้นมา
    • ดูเหมือนเจตนาคือให้ปล่อยผ่านจุดนั้นไปคร่าว ๆ แล้วเพลิดเพลินกับส่วนที่เหลือของเรื่อง
    • ในบทความเองก็มีประโยคว่า "แม้แต่ในสังคมเครื่องจักร ก็มีผู้ที่มองว่านี่เป็นเรื่องน่าทึ่ง และมีผู้ที่มองว่าเป็นภัยคุกคาม" ซึ่งกลับยิ่งเหมือนกำลังอธิบายสังคมมนุษย์ แต่คำถามก็คือสังคมเครื่องจักรคืออะไรกันแน่ และสิ่งมีชีวิตแบบเครื่องจักรจะมีอยู่ได้ไหม ที่จริงแล้ว ถ้ามีสิ่งมีชีวิตแบบเครื่องจักรอยู่จริง พฤติกรรมของมันก็น่าจะต่างจากมนุษย์มาก และน่าจะหมกมุ่นอยู่กับการคำนวณและการบรรลุเป้าหมาย มากกว่าการ “คิด” เพราะฉะนั้นงานเขียนนี้แม้จะไม่สมบูรณ์ในเชิงตรรกะ แต่ก็หยิบยกประเด็นที่กระตุ้นความคิดได้ จึงยังมีคุณค่าในตัวเอง
    • “ความเบื่อ” ในที่นี้ฉันมองว่าเป็นการทำให้มีลักษณะเป็นมนุษย์ในเชิงเรื่องเล่า ถ้าจะจินตนาการแบบฉัน เครื่องจักรน่าจะใช้จนหมดแล้วทั้งงานลำดับความสำคัญสูงและต่ำ จากนั้นจึงเริ่มสร้างและทำงานลำดับความสำคัญต่ำที่เกือบสุ่มขึ้นมา ซึ่งในความหมายหนึ่งนั่นก็คือความเบื่อ
    • ในจินตนาการกึ่งเป็นทางการในหัวฉัน “ความเบื่อ” และ “ความกลัว” ทำงานคล้ายความน่าจะเป็นใน Markov chain—ถ้าสังคมเครื่องจักรไม่ได้รอบรู้และทรงอำนาจทุกอย่าง ก็อาจมีค่าประมาณรับมือความไม่แน่นอนต่าง ๆ และแรงขับคล้ายอารมณ์ (ความต้องการลดความไม่แน่นอนในการคาดการณ์) อยู่ได้
    • เพื่อไม่ให้ติดอยู่ที่ local optimum ก็สมเหตุสมผลที่พวกมันจะมีสัญชาตญาณหรือแรงขับแบบ “แสวงหาความใหม่” เช่นกัน
    • ฉันยังสงสัยเรื่องข้อจำกัดเชิงสิ่งแวดล้อมมากกว่านี้ และสงสัยว่าเครื่องจักรมาจากไหนด้วย คำกล่าวว่า “ไม่มีทั้งอารมณ์หรือศิลปะ มีแต่ตรรกะ” เองก็เป็นแนวคิดที่มนุษย์เป็นศูนย์กลางล้วน ๆ เมื่อคำนึงว่ามีสิ่งมีชีวิตอื่นที่สามารถมีได้ทั้งศิลปะ อารมณ์ และตรรกะอยู่แล้ว มันก็ดูยกมนุษย์ให้พิเศษเกินไป
  • มนุษย์ทั้งหลายต่างกรูกันมาเฝ้าดูว่าเกิดอะไรขึ้นในโลก เครื่องจักรก็แห่มาด้วย แต่มีอย่างหนึ่งที่แปลกอยู่ ชื่องานนั้นชวนพิศวง มันคือ “Grand Theft Auto VI”
    • ทุกสองเดือนจะมีคำว่า “Half-Life 3” แวบขึ้นมาบนจอ มนุษย์ได้ประดิษฐ์ Tyler McVicker ขึ้นมา
  • เป็นงานอ่านที่ยอดเยี่ยม ตอนแรกฉันคิดว่าจะพูดถึงบล็อกที่มนุษย์เขียนเอง 100% โดยไม่มี AI เข้ามาเกี่ยวข้องเลย ตอนนี้คอนเทนต์ที่เราอ่านก็ถูกสร้างโดย AI บางส่วนอยู่แล้ว และในไม่ช้า สื่อ/คอนเทนต์ที่เป็นมนุษย์ 100% จะกลายเป็นของหายากมาก
  • มีช่องโหว่ของพล็อตโผล่มาตั้งแต่ต้นเรื่อง: เครื่องจักรไม่มีเหตุผลอะไรเลยที่จะสร้างมนุษย์
    • ถ้าฉันเป็น OP ฉันจะจินตนาการแบบนี้: เครื่องจักรค้นพบว่าพฤติกรรมของพวกมันวนซ้ำอยู่เรื่อย ๆ ต่อให้เพิ่มความสุ่มแค่ไหน การประดิษฐ์และการสร้างไอเดียใหม่ก็ชะงักงัน ไอเดียใหม่จำเป็นต่อการเติบโต แต่พวกมันกลับหมดไอเดียที่จะสร้างไอเดียเพิ่มเอง พวกมันต้องการข้อมูลการเรียนรู้เพิ่มขึ้น เคสขอบ และข้อมูลใหม่ที่จะสร้างความโกลาหลภายในเครื่องจักร และแหล่งของข้อมูลนั้นก็คือมนุษย์ มนุษย์ตัดสินใจอย่างไร้ตรรกะ จึงสร้างข้อมูลที่ความสุ่มเพียงอย่างเดียวให้ไม่ได้ ความเบี่ยงเบนเล็ก ๆ เหล่านั้นเติมความหลากหลายให้กับชุดข้อมูลในอุดมคติ
    • ต่อไปคุณคงจะบอกด้วยว่าสิ่งทรงอำนาจไม่มีเหตุผลจะสร้างมนุษย์ให้ปกครองปลาและนก นวนิยายที่ดีทุกเรื่องเริ่มจากข้อสมมติหลักแล้วค่อยคลี่ฉากสมมุติออกไป
  • ความหยิ่งผยองเกี่ยวกับ LLM นี่ช่างรุนแรงจริง ๆ
    • อยากถามว่าเป็นความหยิ่งผยองจากความเชื่อว่ามันจะเหนือกว่าหรือแทนที่ปัญญามนุษย์ได้ หรือเป็นความหยิ่งผยองจากความเชื่อว่ามันไม่มีวันเหนือกว่าได้กันแน่
  • คำพูดว่า “ไม่มีศิลปะ มีแต่ตรรกะ” มองทั้งศิลปะและตรรกะแคบเกินไป โมเดลเชิงตรรกะเองก็เป็นผลลัพธ์ที่หล่อหลอมจากรสนิยม ความพยายาม การลองผิดลองถูก การทำซ้ำ และความหมกมุ่นอันหลากหลายของมนุษย์
    • William James เคยเขียนไว้ประมาณว่า “ปรัชญาของแต่ละคนได้รับอิทธิพลอย่างลึกซึ้งจากสิ่งที่เขาคิดว่าโลกควรจะเป็นอย่างไร ดังนั้นถ้าทุกคนยอมรับข้อนี้เสีย เราอาจลดการโต้เถียงที่ไร้ความหมายลงได้มาก”