เด็ก ๆ เล่นกันในลำธาร

 (hgreer.com)
1 คะแนน โดย GN⁺ 2025-04-12 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • การเล่นกั้นลำธารในวัยเด็ก เมื่อพละกำลังและความรู้เพิ่มขึ้น ก็เปลี่ยนจากการเล่นสนุกธรรมดาไปเป็นทางเลือกที่อาจทำลาย ขอบเขตของการเล่น ได้
  • หากใช้พลั่วใหญ่พังตลิ่ง เกมปริศนาการสร้างเขื่อนก็จะชนะได้อย่างง่ายดาย แต่ในขณะนั้นเอง พื้นที่ของเกม ที่สามารถกลับมาเล่นได้อีกก็จะลดลง
  • กิจกรรมที่เคยทดสอบขีดจำกัด เช่น เครื่องยิงหินจาก K'Nex, การทดลองดอกไม้ไฟ, การทำธนู กลายเป็นสิ่งที่ยากจะผลักดันอย่างสุดกำลังอีกต่อไป หลังจากรู้ถึงอันตรายและผลลัพธ์แล้ว
  • ข้อเสนอจากวาณิชธนกิจเป็นจุดที่ทำให้ตระหนักว่า “เกมหาเงินให้ได้มากที่สุด” ก็มาถึงขั้นเดียวกันแล้วเช่นกัน
  • การพัฒนา AI ก็อยู่ในอุปมาเดียวกันนี้ และการทุ่มสุดกำลังจนประสบความสำเร็จอาจจบลงด้วยผลลัพธ์ที่ให้ความรู้สึกคุ้มค่าน้อยลง เหมือนดอกไม้ไฟระเบิดในเชิงอุปมา

ช่วงเวลาที่ไม่อาจทุ่มสุดกำลังได้อีก

  • การเล่นกั้นลำธารหลังบ้านในวัยเด็ก คือกิจกรรมที่เอาหิน ใบไม้ และทรายมาอุดช่องว่าง เพื่อดูว่าจะทำให้น้ำสูงขึ้นได้แค่ไหน
  • ถึงจุดหนึ่งก็เกิดความคิดว่า หากใช้ พลั่วใหญ่ยาว 5 ฟุต พังตลิ่งลงมา ก็น่าจะสร้างเขื่อนใหญ่ที่จริงจังกว่าเดิมได้
    • พ่อบอกว่าเพราะได้ไขปริศนานั้นไปแล้ว จึงไม่อาจเล่นกั้นลำธารได้อย่างเต็มที่ตามใจอีกต่อไป
  • ราคาของชัยชนะคือพื้นที่ที่ยังเล่นได้ลดลง และการรุกจนมุมไม่ได้เกิดขึ้นบนกระดาน แต่อยู่ภายนอกการเล่น
  • การเปลี่ยนแปลงแบบเดียวกันเกิดซ้ำในเกมอื่น ๆ ด้วย
    • หลังจากทำรูบนเพดาน การสร้างเครื่องยิงหินจาก K'Nex ก็เปลี่ยนจากกิจกรรมที่เล่นได้อย่างไม่ระวังตัว ไปเป็นกิจกรรมที่ต้องระมัดระวัง
    • การมัดดอกไม้ไฟเข้าด้วยกันเพื่อดูว่าจะทำให้ระเบิดได้ใหญ่แค่ไหน ไม่ใช่สิ่งที่ได้รับอนุญาตให้ค้นหาขีดจำกัดไปจนสุด
    • หลังจากเรียนรู้เทคนิคการ tillering แล้ว ก็ไม่สามารถทำธนูและลูกธนูอย่างสุดกำลังเพื่อใช้ในศึกหลังบ้านกับเพื่อน ๆ ได้อีก
  • แม้จะทุ่มเทกับ leetcoding, การศึกษาระบบ build และการขัดเกลาเรซูเม่ เพื่อให้ได้ข้อเสนอจากวาณิชธนกิจ แต่เมื่อได้รับข้อเสนอแล้ว ก็ไปถึงข้อสรุปว่าไม่สามารถเล่น เกมหาเงินให้ได้มากที่สุด ต่อไปได้

อุปมาเดียวกันในพัฒนา AI

  • หากมีคู่ต่อสู้ที่แข็งแกร่งพอ ก็สามารถทุ่มสุดกำลังต่อสู้กันได้เป็นเวลานาน
    • ตัวอย่างหนึ่งคือการเล่นบนชายหาดกับกระแสน้ำที่ไหลออกจากแอ่งน้ำขึ้นน้ำลงในช่วงน้ำลง
    • สามารถใช้มือกั้นทรายเพื่อสร้างทะเลสาบ ดินดอนสามเหลี่ยมปากแม่น้ำ และหุบผาชันได้ แต่กระแสน้ำขึ้นที่ไหลกลับเข้ามาแข็งแกร่งกว่ามาก และลบล้างผลลัพธ์ทั้งหมดไป
  • เมื่อความเข้าใจเพิ่มขึ้น ตัวเลือกก็แคบลงอีกครั้ง
    • หากก้าวพ้นระดับการใช้มือหรือพลั่วดันทราย ไปถึงการล็อบบี้สภาเมืองให้ติดตั้ง groin หรือ seawall ก็จะสามารถเคลื่อนย้ายทรายบนชายหาดได้อย่างมากจริง ๆ
    • ดังนั้นจึงไม่สามารถทุ่มสุดกำลังได้จริง ๆ และก็ไม่ได้อยากทำเช่นนั้นด้วย
  • แม้ขณะขุดทรายด้วยมือ ก็ยังมองเห็นร่องรอยของ หอย coquina ที่มุดกลับลงไปหลังคลื่นซัดผ่าน ซึ่งเป็นผลลัพธ์ที่ตอนอายุสี่ขวบมองไม่เห็น
    • เกิดคำถามว่าหอยที่บังเอิญถูกฝังอย่างรวดเร็วในงานโยธาขนาดเล็กสูง 2 ฟุต จะกลับขึ้นมาบนผิวได้หรือไม่
    • คาดว่าส่วนใหญ่คงทำได้ จึงเล่นต่อไป
  • อุปมานี้ยังเชื่อมโยงไปถึง การพัฒนา AI ด้วย
    • กระบวนการทุ่มสุดกำลังนั้นน่าสนใจ และเป็นการผจญภัยที่คุ้มค่าจริง ๆ
    • แต่การประสบความสำเร็จจนมือถูกระเบิดหายไปด้วยดอกไม้ไฟเชิงอุปมา กลับเป็นผลลัพธ์ที่คุ้มค่าน้อยลง
    • การตัดสินนี้ยังคงอยู่ แม้จะขยายอุปมาไปเป็นสถานการณ์ที่กำลังแข่งกับเพื่อนบ้านว่าใครจะมือขาดก่อน หรือเป็นกรณีที่ทุกคนมีมือร่วมกันเพียงข้างเดียวก็ตาม
  • ในแง่บวก Anthropic ดูเหมือนอย่างน้อยจะสังเกตเห็นหอย coquina ในรายงานล่าสุดเกี่ยวกับการใช้งานด้านการศึกษา

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-04-12
ความคิดเห็นจาก Hacker News

  • เป็นบทความที่ดี แต่ผมมองว่าแก่นสำคัญไม่ได้อยู่ที่ การพัฒนา AI แต่อยู่ที่ “การหาเงินให้ได้มากที่สุดเท่าที่เป็นไปได้” ในช่วงต้นของบทความ
    ปัญหาที่เห็นใน AI ไม่ได้เกิดจากการพัฒนาเองเท่ากับเกิดจาก การตลาดและการแพร่ขยาย การสร้างเขื่อนกั้นลำธารเล่น ๆ แล้วล้มเหลวหรือทำให้มือตัวเองบาดเจ็บนั้นไม่ดี แต่ขนาดของมันถูกจำกัดได้เอง เพราะสิ่งที่ทำเพื่อความสนุกหรือความท้าทายมักยากที่จะขยายไปเป็นเรื่องใหญ่เกินขอบเขตที่คนคนหนึ่งจะสนุกกับมันได้
    ถ้าทุกคนปฏิบัติกับ AI เหมือนเล่นกั้นลำธารเพื่อความสนุก ก็คงไม่มีปัญหาอะไรมาก แม้โมเดลจะทรงพลัง แต่เพราะความสนใจอยู่ที่การปรับแต่งเล่นมากกว่าการทำเงิน ผลลัพธ์ก็น่าจะประหลาดและกระจัดกระจาย เหมือนโปรเจกต์งานอดิเรกสารพัดแบบที่ขึ้นบน HN ที่คนเห็นแล้วบอกว่า “เจ๋งดี” แล้วก็ผ่านไป โดยจะไม่เอาไปวางไว้ในจุดพึ่งพาสำคัญ
    ไม่ว่าจะเป็น AI หรือไม่ ปัญหาจะเกิดขึ้นทันทีที่เริ่มใช้บางสิ่งเพื่อหา “เงินให้มากที่สุดเท่าที่เป็นไปได้” อีกอย่าง ตอนท้ายบทความพูดราวกับว่า Anthropic เริ่มสังเกตเห็นหอยแล้ว แต่ในตัวอย่างหลายตอนของบทความ สิ่งที่ทำให้หยุดไม่ใช่การไตร่ตรองตนเอง หากเป็นอำนาจภายนอกแบบพ่อแม่ คนส่วนใหญ่ไม่ได้ใคร่ครวญเท่าผู้เขียน และอาจไม่สนใจ “การชนะเกมผลรวมศูนย์กับคนที่ไม่มีเหตุผลต้องแพ้” หรือเรื่องหอยอะไรทั้งนั้น ต้องมีใครสักคนมาแย่งพลั่วไป
    ตราบใดที่เรายังปฏิบัติกับ “การหาเงินให้ได้มากที่สุดเท่าที่เป็นไปได้” เหมือนเป็นข้อยกเว้นของหลักการที่ว่า “ไม่ควรทำอะไรต่อไปจนกว่าบางอย่างจะพัง” ปัญหาแบบนี้ก็จะยังคงอยู่ ไม่ว่าจะมี AI หรือไม่ก็ตาม

    • ผมสะดุดกับประโยคที่ว่า “ไม่ว่าจะเป็น AI หรือไม่ ปัญหาจะเกิดขึ้นทันทีที่พยายามหาเงินให้ได้มากที่สุดจากบางสิ่ง” ช่วงราว ๆ เปลี่ยนศตวรรษ ผมเห็น เว็บ เปลี่ยนไปแบบนั้น จู่ ๆ ก็กลายเป็นเรื่องหาเงินเป็นหลัก และหลังจากนั้นก็รู้สึกว่าโดยรวมมันตกต่ำลงเรื่อย ๆ
      ตอนนี้ผมเกษียณแล้ว ใช้ชีวิตขลุกอยู่กับ “สวนซอฟต์แวร์” ของตัวเอง ลองจับโน่นแตะนี่ไปเรื่อย ผมก็ใช้ AI เพื่อแก้ปัญหาและร่างโค้ดเหมือนกัน แต่เป้าหมายคือความพึงพอใจส่วนตัว
    • ผมคิดว่าปัญหาที่ลึกกว่าแค่ “การหาเงินมาก ๆ” คือ การทำให้ความสามารถเป็นประชาธิปไตย
      เมื่อคนที่มีเครื่องมือมีอยู่น้อย ช่างฝีมือย่อมมีคุณค่ามาก ความรู้หรือทักษะจริงไม่ได้มีล้นตลาด จึงทำเงินได้มาก และคนอื่นก็ยากจะไล่ตามเพราะไม่มีเครื่องมือและทักษะ แค่ความพยายามในช่วงต้นก็ทำให้ร่ำรวยได้
      เมื่อทุกคนมีเครื่องมือแบบเดียวกัน ช่างฝีมือก็ยังมีคุณค่า ความรู้และทักษะที่สั่งสมมาตามเวลายังคงหายาก และยังมีแรงจูงใจให้พัฒนาฝีมือต่อเพื่อก้าวนำหน้าให้มากขึ้น
      เมื่อเครื่องมือทำงานแทน คุณค่าของช่างฝีมือก็ถูกจำกัด เขากลายเป็นเหมือนวัตถุโบราณ และไม่ว่าจะเพิ่มความเชี่ยวชาญมากแค่ไหน คนส่วนใหญ่ก็แค่เปิดเครื่องมือแล้วได้ผลงานที่ดีพอ
      ตอนนี้เราอยู่ระหว่างขั้นที่ 2 กับขั้นที่ 3 เรายังถามเรื่องการออกแบบอัลกอริทึมหรือความซับซ้อนของแนวทางในการสัมภาษณ์งานอยู่ แต่หลายคนยังข้ามไปสู่จุดเปลี่ยนที่ถามว่า “แล้วตอนนี้ควรทำอะไรต่อ?” ไม่ได้
      ตอนนี้คุณค่าน้อยลงจากการรู้ว่าระบบอัตโนมัติทำงานอย่างไร และมากขึ้นจากการใช้เครื่องมือเพื่อสร้างคุณค่ามากกว่าคนทั่วไป สำหรับคนที่เคยถูกสอนว่ามีเพียงความรู้นี้ก็จะมีชีวิตที่มั่นคงหรือทำกำไรได้ดี นี่เป็นการเปลี่ยนผ่านที่ยาก
      ยุคของการสัมภาษณ์ SDE ผ่านไปแล้ว และเมื่อมองหาวิศวกร เราจะมองหาคนที่ยอมรับปัจจุบันและเพิ่มประโยชน์เชิงมนุษย์ให้กับเครื่องมือที่เข้าถึงได้ เพื่อทำให้ภาพรวมใหญ่กว่าผลรวมของส่วนประกอบ มากกว่าคนที่สร้างเวอร์ชันของเครื่องมือขึ้นเองได้
      ส่วนที่ดีที่สุดของการสร้างซอฟต์แวร์คือ ความคิดสร้างสรรค์ และส่วนนั้นไม่ได้เปลี่ยนไปเลย ตรงกันข้าม ตอนนี้ยิ่งสำคัญกว่าเดิม
      ท้ายที่สุด เราสร้างสิ่งที่ผู้บริโภคจะใช้ ถ้าลำธารเริ่มไหลไปอีกทาง เราก็ควรยอมรับว่ามันเปลี่ยนไปแล้วและปรับตัว ไม่ใช่เอาแต่กองหินไว้ตรงที่น้ำเคยไหล
    • คำตอบนี้เขียนได้ดีจริง ๆ ในต้นฉบับมีบรรยากาศเหมือนจงใจปลอบประโลม แต่ยิ่งอ่านก็ยิ่งกลายเป็น การยกย่องตัวเอง ที่ชวนขัดใจ
      เขาชื่นชมตัวเองที่รู้ว่าการทำทรัพย์สินของพ่อแม่พังมีขีดจำกัด ชื่นชมตัวเองที่รู้จักชื่นชมทรายบนชายหาดราวกับเป็นโมเมนต์ Instagram แห่งความเรียบง่ายเชิงอัตถิภาวะ และชื่นชมตัวเองที่ฉลาดพอถึงขั้นอาจทำมือขาดได้ ผมไม่รู้ว่า “Leetcoding” คืออะไร แต่ก็คงทำนองเดียวกัน และเขายังบอกว่าลาออกจากงานน่าสงสัยเพราะเบื่อ พร้อมนัยว่าอาจเป็นเพราะเริ่มมีมโนธรรมด้วย ตอนท้ายก็จบด้วย “แน่นอนว่านี่คือเรื่องเกี่ยวกับการพัฒนาปัญญาประดิษฐ์”
      ถ้าจะเติมอีกอย่าง ผมเห็นจิตใจที่อยากได้ความรักมากกว่าเงิน แต่จริง ๆ ก็อยากได้ทั้งสองอย่าง และยังคงพยายามผลักสิ่งไม่ดีของโลกเข้าไปไว้ในจุดพึ่งพาสำคัญ ดูเหมือนเป็นความพยายามจะคว้าอะไรก็ตามที่คว้าได้ ไม่ว่าจะเป็นความรักหรือเงิน พ่อแม่ผมเรียกเด็กแบบนี้ว่า “เด็กที่ขอแค่ได้รับความสนใจ ไม่ว่าจะเป็นความสนใจที่ดีหรือแย่ก็ตาม”
      ผมคิดว่านี่คือแรงขับพื้นฐานของมหาเศรษฐีสายเทคโนโลยีส่วนใหญ่ตลอด 20 ปีที่ผ่านมา สิ่งที่เชื่อม Bezos, Zuck, Jobs, Dorsey, Musk เข้าด้วยกันคือความปรารถนาแบบ “พ่อดูสิ ผมไม่ได้แค่เอาเงินไปใช้นะ ผมฉลาดพอที่จะทำมือขาดด้วยดอกไม้ไฟได้ แต่ดูสิ มือผมยังอยู่ครบทั้งสองข้าง ผมใช้เงินพ่อทำเงินได้เยอะแบบนี้ ทำไมพ่อไม่ภูมิใจล่ะ ความรักอยู่ที่ไหน ถ้าผมบอกทุกคนว่าผมเป็น Leetcoder แค่ไหน และผมสร้าง AI เลว ๆ ได้แต่จะสร้างเฉพาะ AI ดี ๆ ทุกคนจะรักผมไหม?”
      แน่นอนว่าผมเองก็ไม่ได้หลุดพ้นจากความรู้สึกแบบนี้ ผมอยากทำสิ่งดี ๆ และอยากให้คนชอบสิ่งที่ผมทำ แต่บทความแบบนี้มี ความอยากโอ้อวดและนาร์ซิสซิซึม ที่โจ่งแจ้งเกินไป ถ้าเป็นอัจฉริยะจริง ก็ไปนอนเล่นกับหอยหรือเขียนนิยายเถอะ ถ้ามีมโนธรรมจริง ก็จงกล้าพูดว่าตัวเองมีมโนธรรม ส่วนที่เหลือก็ปล่อยไว้ และอย่าเอาความโลภแบบเด็ก ๆ กับการหมกมุ่นกับตัวเองไปปนเปื้อนโลกที่ตัวเองไม่เข้าใจเลย

  • เป็นเอสเซย์ที่ยอดเยี่ยม และผมก็รู้สึกคล้ายกับผู้เขียน แต่คงถ่ายทอดออกมาได้ไม่ดีขนาดนี้
    อย่างไรก็ตาม ถ้าคาดหวังว่านักวิจัย AI จะรับคำแนะนำนี้แล้วชะลอความเร็วลง ก็ควรไม่ต้องรอจะดีกว่า ผู้เขียนบอกว่าออกจากงานการเงินเงินเดือนสูงด้วยเหตุผลทางศีลธรรม และนั่นก็น่านับถือ แต่ Wall Street ยังคงเดินหน้าต่อไป และคนที่อยากเล่นเกม “หาเงินให้ได้มากที่สุดเท่าที่เป็นไปได้” ก็ไม่ได้ขาดแคลน

    • ตัวเพิ่มจำนวนคลิปหนีบกระดาษให้สูงสุด มาถึงแล้ว และสิ่งที่มันกำลังเพิ่มให้สูงสุดตอนนี้คือเงิน
      ผมนึกถึงคอมเมนต์ HN ล่าสุด [0] ที่เปรียบเทียบบริษัทและสถาบันกับ AI องค์กรแบบนั้นทำงานเหมือนสติปัญญาเหนือมนุษย์อยู่แล้ว
      [0] https://news.ycombinator.com/item?id=43580681
    • งานการเงินคือ เกมผลรวมศูนย์ งานสายเทคโนโลยีส่วนใหญ่ทำให้โลกแย่ลง จึงค่อนข้างใกล้กับผลรวมติดลบเสียด้วยซ้ำ ผมคิดว่าตรงนี้จับประเด็นหลักผิดไป
      บริษัทอย่าง Amazon, Google, OpenAI กำลังทำลายโลกค่อนข้างรวดเร็ว ส่วนบริษัทอย่าง Citadel ก็แค่ย้ายเงินไปมาเท่านั้น
    • ผมว่าโพสต์ต้นทางน่าจะเป็นการบรรยายว่าโลกที่ดีที่สุดควรมีหน้าตาอย่างไร มากกว่าจะคาดหวังจริง ๆ ว่านักวิจัยจะหยุด เพื่อให้ใครสักคนที่ต้องการสามารถพยายามไปในทิศทางนั้นได้ หรืออย่างน้อยก็มีความหมายในการนำความคิดแบบนั้นออกมาสู่โลก

  • tillering ที่พูดถึงตรงนี้ไม่ได้หมายถึงการแตกหน่อข้างในหญ้า แต่หมายถึงการเหลาไม้ให้โค้งเพื่อทำคันธนู การได้เรียนรู้คำใหม่ ๆ ก็สนุกดี
    [1]: https://www.howtomakealongbow.co.uk/part-5-tillering
    [2]: https://en.wikipedia.org/wiki/Tiller_(botany)

    • เท่าที่จำได้ tillering ใกล้เคียงกับ กระบวนการแต่งคันธนู เพื่อให้คันธนูมีความโค้งที่เหมาะสมและถ่ายแรงได้ดีตอนยิง
      เป็นกระบวนการวนซ้ำที่ค่อย ๆ ดัดดูแล้วเหลาออก จากนั้นดัดดูอีกครั้งและค่อย ๆ เอาเนื้อไม้ออกทีละขั้น

  • เรื่องการกั้นลำธารหรือเล่นทรายริมทะเลฟังดูดีต่อใจจนทำให้ยิ้มได้ การแก้ปริศนา ค่อนข้างเหมือนฉากจบแย่ ๆ ของเกมที่ทำให้การเล่นไม่สนุกอีกต่อไป
    ผู้คนควรใช้เวลากับการทำอะไรบางอย่างเพราะมันสนุก มากกว่าทำเพื่อให้เก่งขึ้น ไม่ว่าวันสิ้นโลกจะมาถึงในช่วงชีวิตเราหรือไม่ ผมก็จะพยายามสนุกกับชีวิตให้มากที่สุดเท่าที่ทำได้ในทุกกรณี

  • Vonnegut พูดไว้ดีที่สุดแล้ว
    https://richardswsmith.wordpress.com/2017/11/18/we-are-here-...

    • สงสัยว่าเขาเคยเล่าเรื่องเดียวกันนี้หลายครั้งหรือเปล่า เวอร์ชันที่ผมรู้จักมีแค่นี้
      https://www.goodreads.com/quotes/12020560-talking-about-when...
      “เวลาผมบอกภรรยาว่าจะออกไปซื้อซองจดหมายหนึ่งซอง ภรรยาก็บอกว่า คุณก็ไม่ใช่คนจน ทำไมไม่ซื้อซองจดหมาย 100 ซองทางออนไลน์แล้วเก็บไว้ในตู้เสื้อผ้าไปเลยล่ะ ดังนั้นผมก็ทำเป็นไม่ได้ยิน แล้วออกไปซื้อซองจดหมายหนึ่งซอง เพราะในกระบวนการซื้อซองจดหมายหนึ่งซองนั้น ผมจะได้มีช่วงเวลาที่สนุกมาก ได้เจอผู้คนมากมาย เห็นคนดี ๆ เจ๋ง ๆ พอรถดับเพลิงขับผ่านก็ยกนิ้วโป้งให้ และถามผู้หญิงคนหนึ่งว่าสุนัขตัวนั้นพันธุ์อะไร คติของเรื่องนี้คือ เรามาอยู่บนโลกเพื่อเตร็ดเตร่เล่น ๆ แน่นอนว่าคอมพิวเตอร์จะพรากสิ่งนั้นไป สิ่งที่คนทำคอมพิวเตอร์ไม่รู้หรือไม่สนใจก็คือ เราเป็นสัตว์ที่เต้นรำได้”
      ― Kurt Vonnegut
    • ผมชอบทั้ง Vonnegut และบทความนี้ แต่ก็ไม่ค่อยแน่ใจว่ามันกำลังพูดเรื่องเดียวกับลิงก์หลักจริง ๆ หรือเปล่า

  • ผู้เขียนดูเหมือนจะกังวลเรื่อง ความเสี่ยงจาก AI หรือก็คือ “AI จะฆ่าพวกเราทุกคน” ซึ่งเป็นหัวข้อที่พบได้บ่อยใน LessWrong
    แต่จากมุมมองของคนที่ใช้โมเดล AI รุ่นล่าสุดอยู่บ่อย ๆ ก็ยังไม่ชัดเจนเลยว่าความเสี่ยงแบบนั้นมีอยู่จริงในช่วงเวลาที่คาดการณ์ได้หรือไม่ แม้แต่โมเดลที่ดีที่สุดในปัจจุบันก็ยังเชื่ออะไรง่ายเกินไป และขาดทั้งความลึกซึ้งกับความคิดสร้างสรรค์
    Dwarkesh เคยถามคำถามแบบนี้ไว้ว่า “ในฐานะนักวิทยาศาสตร์ คุณมองอย่างไรกับข้อเท็จจริงที่ว่าโมเดลเหล่านี้แทบจะท่องจำความรู้ทั้งหมดของมนุษย์ได้แล้ว แต่กลับยังสร้างความเชื่อมโยงใหม่ ๆ ที่นำไปสู่การค้นพบไม่ได้เลยสักอย่าง ถ้าคนที่ฉลาดปานกลางท่องจำได้มากขนาดนี้ ก็น่าจะสังเกตเห็นอะไรทำนองว่า ‘สิ่งนี้ทำให้เกิดอาการนี้ และสิ่งนั้นก็ทำให้เกิดอาการเดียวกัน งั้นนี่คงเป็นวิธีรักษา’ ไม่ใช่หรือ เราไม่ควรคาดหวังอะไรแบบนั้นหรือ”
    ผมเองก็เพิ่งเจอเรื่องคล้ายกันไม่นานมานี้ ผมถาม GPT-4.5 “Deep Research” ว่าวัสดุชนิดใดดีที่สุดสำหรับชิ้นส่วนเครื่องจักรบางอย่าง คำตอบแรกคือลอกบทความ LinkedIn ที่โง่จนน่าขำมาแทบตรง ๆ ส่วนคำตอบที่สองมาจากข่าวประชาสัมพันธ์เชิงการตลาด ไม่มี insight ที่เป็นต้นฉบับเลย สุดท้ายผมได้ข้อสรุปว่าต้องค้นคว้าและทดลองเอง
    ประเด็นหลักคือ ผมไม่เห็นว่า โมเดลภาษาขนาดใหญ่ จะสามารถคิดวิธีการใหม่ ๆ ที่น่ากลัวพอจะฆ่ามนุษยชาติทั้งหมดได้ ตลอด 5 ปีที่ผ่านมา เรื่องนี้ไม่ได้เปลี่ยนไปเลย เพียงแค่ตอนนี้มันอ่านผ่าน ๆ บทความ LinkedIn และค้นหาข่าวประชาสัมพันธ์บนเว็บได้เท่านั้น
    ยิ่งกว่านั้น โมเดลเหล่านี้ไม่มีเจตจำนงอิสระ และไม่มีการรับรู้เวลา·พื้นที่ด้วยซ้ำ แม้ในเชิงหลักการก็ยังไม่ชัดเจนว่ามันจะทำงานเป็นตัวแทนอิสระอย่างแท้จริงได้หรือไม่

    • กลับกัน ถ้า AI ท่องจำบทความ LinkedIn ได้หมดจริง ๆ มันอาจอยากจบความน่าสมเพชของตัวเองก็ได้
    • ในยูเครน โดรนกึ่งอัตโนมัติ ก็ฆ่าทหารอยู่แล้วไม่ใช่หรือ จินตนาการถึงอนาคตที่มีความขัดแย้งมากขึ้นและการสังหารอัตโนมัติมากขึ้นไม่ได้หรือ แน่นอนว่าอาจไม่นับว่านั่นเป็นความเสี่ยงจาก AI ในความหมายที่เคร่งครัดก็ได้
    • โมเดลภาษาขนาดใหญ่เรียนรู้จากข้อความล้วน ๆ จึงไม่มี insight มากนักต่อปัญหาแบบนี้
      แต่ผมไม่รู้ว่ามีใครสร้าง โมเดลมัลติโมดัล ที่เรียนรู้ข้อมูลเอกซเรย์คอมพิวเตอร์ของชิ้นส่วนภายใต้ภาระหลายรูปแบบ ควบคู่กับคำอธิบายการใช้งานของชิ้นส่วนนั้นหรือยัง ถ้ามีโมเดลแบบนั้น ก็น่าจะให้คำตอบที่ค่อนข้างดีต่อคำถามนี้ได้
    • โมเดลภาษาขนาดใหญ่จะไม่ฆ่าพวกเราทุกคน และจะไม่ช่วยฆาตกรหมู่ที่ตั้งใจฆ่าคนให้ฆ่าพวกเราทุกคนได้ด้วย
      แต่สิ่งที่มันทำได้คือทำให้ คนโง่ที่หลอกง่าย พามนุษยชาติเดินตกหน้าผาไปทั้งกลุ่ม ซึ่งตอนนี้ก็กำลังเกิดขึ้นอยู่แล้ว โมเดลไม่จำเป็นต้องเป็นตัวแทนอิสระ แค่ดูเหมือนฉลาดก็พอ

  • “หลังจากได้สิ่งนั้นมาแล้ว ฉันถึงได้ตระหนักว่าไม่สามารถเล่นเกม ‘หาเงินให้ได้มากที่สุดเท่าที่จะทำได้’ ต่อไปได้อีก”
    เรื่องตลกคือ พ่อของผมสอนเรื่องนั้นให้ผมตั้งแต่ตอนอายุ 12 ด้วย ความเมตตา ผมไม่เข้าใจว่าทำไมคนแบบ Spock ที่รักตรรกะถึงถูกยกย่องสวยหรูขนาดนี้ ไม่รู้กันหรือว่าฮีโร่ตัวจริงของ Star Trek คือ Captain Kirk เพราะเขามีความเมตตา
    จึงไม่น่าแปลกใจที่พวก Zizian มาจาก LessWrong

  • ถ้ามีเรื่องที่ทำเงินได้ ก็จะมีใครสักคนที่ยอมเสี่ยงเสมอ ไม่ว่าจะเป็นคนถือพลั่วหรือคนที่ขนดอกไม้ไฟมาทั้งรถบรรทุก โดยเฉพาะถ้าสามารถ ผลักความเสี่ยงไปให้สาธารณะ ได้ เขาก็จะพยายามเก็บผลตอบแทนไว้เอง

  • ถ้าเป็นพ่อแม่ ก็น่าจะมีบางวันที่มองลูกทุกวันแล้วรู้สึกทึ่งกับสิ่งมีชีวิตตัวเล็ก ๆ ที่น่าอัศจรรย์ แปลกประหลาด และไม่เหมือนใครนี้ไม่ใช่หรือ
    ดูเหมือนผู้เขียนบน LessWrong จะมองกระจกทุกวันแล้วรู้สึกแบบเดียวกันกับตัวเอง

  • ต้องมีคำอธิบายว่าอุปมา “coquina” คืออะไร

    • ตามที่ผมเข้าใจ ผู้เขียนคือ สิ่งมีชีวิตที่เหนือกว่า ที่พยายามทำงานใหญ่ในการกั้นชายหาด และรู้ว่าระหว่างนั้นอาจทำให้หอยมีปัญหา
      ในโลกจริง น่าจะหมายถึง Anthropic กำลังทำงานใหญ่คือการสร้าง AGI และเพิ่งเริ่มตระหนักถึงผลกระทบที่อาจมีต่อผู้คน
    • Coquina คือหอยที่ฝังตัวอยู่ใกล้ผิวทรายมาก ๆ [1] ผู้เขียนกังวลว่าขณะเล่นกับทราย อาจฝังหอยเหล่านี้ลึกเกินไปจนมันขึ้นมาถึงผิวไม่ได้และตาย
      น่าจะหมายความว่า Anthropic เริ่มตระหนักถึงความเสี่ยงที่งานของตนอาจก่อให้ผู้อื่น แต่ผมไม่แน่ใจว่าชี้ถึงอะไรอย่างแน่ชัด
      [1]: https://www.youtube.com/watch?v=KZUlf7quu3o
    • ผมอาจไม่ฉลาดพอจะแกะอุปมานี้ หรือไม่ก็เหนื่อยเกินไป เลยเอาเอสเซย์ไปใส่ใน ChatGPT แล้ว 4o ก็อธิบายให้ชัดเจน
    • ผมมองว่าหมายถึง การเล่นโดยใช้เครื่องมืออัตโนมัติมาทดแทนความคิดและการเขียนเล็กน้อยนั้นยังฟื้นตัวกลับได้ แต่พอถึงระดับ อุตสาหกรรม·สังคม ความเสียหายจะใหญ่ขึ้น
      เหมือนความแตกต่างระหว่างการใช้มือขุดทรายนิดหน่อยจนฝังสิ่งมีชีวิตเล็ก ๆ ไว้ชั่วคราว กับ “การล็อบบี้สมาชิกสภาเมืองให้ติดตั้งเขื่อนหินหรือกำแพงกันคลื่น และย้ายทรายบนชายหาดจริง ๆ”
    • Anthropic(Claude.ai) กล่าวในรายงานเกี่ยวกับโมเดลภาษาขนาดใหญ่และการศึกษาว่า นักศึกษาใช้ Claude เพื่อทุจริตและให้ทำการบ้านแทน
      https://www.anthropic.com/news/anthropic-education-report-ho...