1 คะแนน โดย GN⁺ 2025-11-15 | 3 ความคิดเห็น | แชร์ทาง WhatsApp
  • ในซิลิคอนแวลลีย์มีวัฒนธรรมที่เชื่อว่า AGI (ปัญญาประดิษฐ์ทั่วไป) เป็นเป้าหมายที่ทำให้เกิดขึ้นได้จริง
  • ภายใน OpenAI ได้ก่อรูปความเชื่อบนฐานของ “สมมติฐานภาษาล้วน” ว่า การขยายขนาดของโมเดลภาษาสามารถนำไปสู่ AGI ได้
  • ความเชื่อนี้ถูกใช้เป็นเหตุผลรองรับ การขยายดาต้าเซ็นเตอร์ขนาดมหาศาล และ ปัญหาการเอารัดเอาเปรียบด้านสิ่งแวดล้อมและแรงงาน
  • ตรรกะเรื่อง ค่าคาดหมาย (Expected Value) ของ AGI พึ่งพาการประเมินความน่าจะเป็นและมูลค่าที่ไร้หลักฐาน และเมินเฉยต่อความเสียหายต่อสิ่งแวดล้อมกับต้นทุนทางสังคมในโลกจริง
  • จำเป็นต้องละทิ้งภาพลวงตา AGI และหันไปใช้ แนวทางวิศวกรรมเชิงปฏิบัติ ที่แก้ปัญหาด้วย โมเดลขนาดเล็กที่มุ่งเป้าหมายชัดเจน

ความเชื่อเรื่อง AGI และวัฒนธรรมของ OpenAI

  • บุคคลที่เกี่ยวข้องกับ OpenAI เชื่อจริง ๆ ว่า AGI อาจนำไปสู่ความรุ่งเรืองหรือหายนะของมนุษยชาติได้
    • Elon Musk อธิบาย Demis Hassabis ว่าเป็น “วายร้ายที่ต้องการครองโลก” พร้อมวางให้ OpenAI เป็น “ฝ่ายดี” และ DeepMind เป็น “ฝ่ายร้าย”
    • Ilya Sutskever พูดกับพนักงานว่า “Feel the AGI” และทำ พิธีเผาหุ่นไม้ที่เป็นสัญลักษณ์ของ AGI
  • พฤติกรรมเหล่านี้แสดงให้เห็นว่า จินตนาการแบบนิยายวิทยาศาสตร์ ได้กลายมาเป็น ความเชื่อกระแสหลัก ในซิลิคอนแวลลีย์

“สมมติฐานภาษาล้วน” และการขยาย LLM

  • ตามหนังสือ Empire of AI ของ Karen Hao นั้น GPT-2 ตั้งอยู่บน “สมมติฐานภาษาล้วน (pure language hypothesis)”
    • มนุษย์คิดและสื่อสารด้วยภาษา จึงตั้งสมมติฐานว่า AGI สามารถเกิดขึ้นได้จากข้อมูลภาษาเพียงอย่างเดียว
    • ในทางตรงกันข้าม “สมมติฐานการยึดโยงกับโลกจริง (grounding hypothesis)” เห็นว่า AGI ต้องสามารถรับรู้โลกได้
  • ความสำเร็จในการขยายจาก GPT ไปสู่ GPT-2 ทำให้ภายใน OpenAI ยิ่งเชื่อว่า หากมี ข้อมูลมากขึ้น พารามิเตอร์โมเดลมากขึ้น และทรัพยากรคอมพิวต์มากขึ้น ก็จะไปถึง AGI ได้

การแข่งขันด้านการขยายขนาดกับปัญหาสิ่งแวดล้อมและแรงงาน

  • ความเชื่อเรื่อง AGI และผลลัพธ์ของ LLM ถูกใช้เพื่อสร้างความชอบธรรมให้กับ การก่อสร้างดาต้าเซ็นเตอร์ขนาดใหญ่
    • บางแห่งใช้น้ำ หลายร้อยลิตรต่อวินาที และเดินเครื่อง เครื่องกำเนิดไฟฟ้าก๊าซที่ก่อมลพิษ เพราะไฟฟ้าไม่เพียงพอ
    • ส่งผลให้เกิด การใช้พลังงานระดับเทียบเท่าทั้งเมือง และ การปล่อย CO₂ ที่เพิ่มขึ้น
  • เพื่อให้ ChatGPT ให้ผลลัพธ์ที่ปลอดภัย แรงงานที่ทำงานคัดกรองและทำความสะอาดข้อมูล ต้องเผชิญกับ การเอารัดเอาเปรียบและบาดแผลทางจิตใจ
    • เมื่อความต้องการข้อมูลเพิ่มขึ้น ก็เกิดการ กวาดเก็บข้อมูลจากทั้งอินเทอร์เน็ตแบบไม่เลือกหน้า และควบคุมผลลัพธ์ด้วย RLHF (Reinforcement Learning from Human Feedback)

ปัญหาของตรรกะค่าคาดหมาย

  • ค่าคาดหมาย (Expected Value) มักถูกอ้างเป็นเหตุผลสร้างความชอบธรรมให้การพัฒนา AGI
    • เป็นตรรกะที่ว่า “แม้มีโอกาสเพียง 0.001% ที่จะเกิดคุณค่ามหาศาล EV ก็ยังสูงมาก”
  • แต่การคำนวณเช่นนี้มีปัญหาเพราะ ความน่าจะเป็นและมูลค่าเป็นสิ่งที่ตั้งขึ้นอย่างตามอำเภอใจและตรวจสอบไม่ได้
    • ขณะที่ การทำลายสิ่งแวดล้อมและต้นทุนทางสังคม กลับเป็น มูลค่าด้านลบที่แน่นอน และเป็น ความเสียหายในปัจจุบัน

การเปลี่ยนผ่านสู่วิศวกรรมที่แท้จริง

  • นักเทคโนโลยีควรแก้ปัญหาอย่าง มีประสิทธิผล มีประสิทธิภาพ และไม่ก่ออันตราย
  • แนวทางที่มอง LLM เป็น AGI ล้มเหลวในทั้งสามเกณฑ์
    • ก่อให้เกิด การใช้คอมพิวต์สิ้นเปลืองเกินควร, การเอารัดเอาเปรียบแรงงาน และ ความเสียหายต่อสิ่งแวดล้อม
  • จำเป็นต้อง หลุดพ้นจากภาพลวงตา AGI และประเมิน LLM กับโมเดลสร้างเนื้อหาในฐานะ เครื่องมือสำหรับแก้ปัญหาเฉพาะด้าน
    • ใช้ โมเดลสร้างเนื้อหาขนาดเล็กที่มุ่งเป้าหมายชัดเจน หรือ โมเดลไม่สร้างเนื้อหา (แบบจำแนก)
    • ต้องทำ การวิเคราะห์ต้นทุน-ประโยชน์ และ การแลกเปลี่ยนเชิงเทคนิค เพื่อนำไปสู่วิศวกรรมเชิงปฏิบัติที่แท้จริง

3 ความคิดเห็น

 
GN⁺ 2025-11-15
ความคิดเห็นจาก Hacker News
  • ถ้าจะให้คำแนะนำกับคนที่สงสัย AI ผมคิดว่าควรหลีกเลี่ยงประเด็นถกเถียงเรื่อง การใช้น้ำของดาต้าเซ็นเตอร์
    คำอย่าง “หลายล้านลิตรต่อปี” ฟังดูน่ากลัวเมื่อไม่มีบริบท แต่ถ้าเทียบกับภาคเกษตรหรือสนามกอล์ฟแล้วถือว่าน้อยมาก
    จะถกเรื่องการใช้พลังงานหรือการปล่อย CO₂ ก็ได้ แต่ถ้าเน้นเฉพาะเรื่องน้ำจะทำให้ความน่าเชื่อถือของข้อโต้แย้งโดยรวมลดลง
    อย่างไรก็ดี ภายหลังผมได้รู้ว่าดาต้าเซ็นเตอร์มักใช้น้ำ ดื่มได้ ที่ภาคเกษตรใช้ไม่ได้
    ถึงอย่างนั้น ผมก็ยังคิดว่าการยกตัวเลขอย่าง “หลายล้านแกลลอน” โดยไม่ให้บริบทเป็น anti-pattern อยู่ดี

    • ปรากฏการณ์ที่ผู้คนจัดตัวเองว่าเป็น “คนสงสัย AI” นั้นน่าสนใจในตัวมันเอง
      นี่ดูเหมือนเป็นผลจากการที่การถกเถียงทางเทคนิคกลายสภาพเป็น การเมืองเชิงอัตลักษณ์
      ใน HN ควรวางจุดยืนทางการเมืองลงแล้วถกกันด้วยเหตุผลทางเทคนิค
      ท่าทีแบบนี้น่าจะเกิดจากแรงตีกลับต่อ กระแสโฆษณาชวนเชื่อ AI ที่เกินจริง
    • มีคนไปถามผู้เขียน Andy Masley เรื่องปัญหาการใช้น้ำ และเขาในบทความ “The AI Water Issue is Fake”
      กลับอ้างว่าเมื่อเกิดอุปสงค์ขนาดใหญ่ขึ้น ก็อาจทำให้โครงสร้างสาธารณูปโภคน้ำในท้องถิ่นถูกขยายจน ราคาน้ำดื่มลดลงได้
      ตาม ความเห็นเพิ่มเติม ของเขา คำวิจารณ์ว่า “AI ใช้น้ำมีค่าเท่านั้น” กลับเป็นการมองสถานการณ์กลับหัว
    • เดิมทีผมก็มีจุดยืนคล้ายกัน แต่พออ่าน หนังสือของ Hao แล้วก็เปลี่ยนความคิด
      มีกรณีเมืองหนึ่งในชิลีที่ดาต้าเซ็นเตอร์ของ Google ทำให้ ภัยแล้งในพื้นที่รุนแรงขึ้น และ
      ในบางพื้นที่ก็ร้ายแรงถึงขั้นต้องผสมน้ำทะเลลงในน้ำดื่ม
      ผมคิดว่าการใช้น้ำในระดับเทียบเท่าการใช้ทั้งเมืองนั้นเป็นปัญหาอย่างชัดเจน
    • ดาต้าเซ็นเตอร์ไม่ควรได้บัตรผ่านเพียงเพราะ “อุตสาหกรรมอื่นแย่กว่า”
      ทั้งสนามกอล์ฟและดาต้าเซ็นเตอร์ควรต้องจ่าย ต้นทุนภายนอก ของตัวเอง
      และถ้ามันไม่คุ้มทางเศรษฐกิจในพื้นที่แห้งแล้ง ผมก็คิดว่านั่นยิ่งดีกว่า
    • หอหล่อเย็นของดาต้าเซ็นเตอร์ต้องใช้น้ำ จืด แต่ก็ไม่ได้ต่างจากน้ำเพื่อการเกษตรมากนัก
      ถ้าน้ำก้อนนั้นใช้ทำเกษตรได้ ก็ใช้ทำความเย็นได้เช่นกัน
      ประเด็นเรื่องการใช้พลังงานก็ดูถูกพูดเกินจริงอยู่บ้าง — สุดท้ายแล้ว พลังงานหมุนเวียนราคาถูก จะเป็นฝ่ายได้เปรียบในการแข่งขัน
  • ผมคิดว่าข้อจำกัดของ LLM เป็น ปัญหาฮาร์ดแวร์
    นิวรอนในสมองมนุษย์ประมวลผลอินพุตและเอาต์พุตนับพันพร้อมกันได้ แต่ “นิวรอน” ของ LLM มีแค่อินพุตและเอาต์พุตเดี่ยว
    สมองมนุษย์ทำงานได้ด้วยพลังงานราว 20W แต่ LLM ต้องใช้ระดับหลาย MW
    แค่ GPU หรือ TPU อย่างเดียวคงยากที่จะไปถึง AGI และจำเป็นต้องมี กระบวนทัศน์ฮาร์ดแวร์ แบบใหม่โดยสิ้นเชิง

    • แม้แต่ผึ้งตัวเดียวก็ยังบินเองและทำงานร่วมกับตัวอื่นได้ แต่เรายังสร้าง AI แบบนั้นไม่ได้
      มันไม่ใช่ปัญหาแค่เรื่อง พลังประมวลผลไม่พอ
    • ฮาร์ดแวร์ที่ซับซ้อนของมนุษย์เป็นผลจากวิวัฒนาการเพื่อความอยู่รอด
      ในสภาพแวดล้อมที่มีไว้เพื่อกิจกรรมทางปัญญาอย่างเดียว อาจไม่จำเป็นต้องมีนิวรอนมากขนาดนั้นก็ได้
    • ถ้ามองจากเทคโนโลยีเซมิคอนดักเตอร์ บนไดขนาด 100mm² ที่กระบวนการ 3nm สามารถใส่ฟีเจอร์ได้ 1 ถึง 10 ล้านล้านชิ้น
      ปัญหาไม่ได้อยู่ที่สเกล แต่คือ โครงสร้างการจัดวาง (Electronic Design Automation)
      ดู บทความวิกิ EDA
    • สรุปได้ดีมาก มนุษย์อ่อนแอเรื่องการจัดการข้อมูลหลายมิติ แต่ทำงานได้ด้วยแค่ แซนด์วิชไม่กี่ชิ้น
    • LLM แตกต่างจากสมองอย่างสิ้นเชิงในเชิงโครงสร้าง
      สมองมีเส้นทางอินพุตหลายแบบและวิธีส่งสัญญาณหลากหลาย พร้อม ความซับซ้อนด้านการออกแบบ ที่สูงกว่ามาก
  • วาทกรรมเรื่อง AGI ดูเหมือนเป็นส่วนต่อเนื่องของ แรงขับทางศาสนา
    มนุษย์ยังคงโหยหา คำตอบสัมบูรณ์ ที่จะมาแก้ทุกปัญหา

    • ผมเองก็เป็นอเทวนิยม แต่คิดว่า มิติทางจิตวิญญาณ เป็นสิ่งจำเป็นสำหรับมนุษย์
      ถ้ากดมันไว้ มันจะย้อนกลับมาในรูปแบบที่แย่กว่าเดิม
      การทำสมาธิ ความพอประมาณ และจริยธรรมต่อผู้อื่น คือ ‘ศาสนา’ ของผม
    • วาทกรรม นิวเคลียร์ฟิวชัน อย่าง “พลังของดวงอาทิตย์บนโลก” ก็ใช้ภาษาทางศาสนาแบบคล้ายกัน
      มันคือความพยายามจะจำลองระบบธรรมชาติอย่างดวงอาทิตย์หรือสมองด้วยเทคโนโลยี
    • G.K. Chesterton เคยเขียนไว้ในปี 1924 ว่า “ศตวรรษที่ 20 ต้องการมีอำนาจทางศาสนาแบบใดแบบหนึ่ง”
    • ฟองสบู่ AI แทบไม่ต่างจาก การเก็งกำไรคลุ้มคลั่ง
      เช่นเดียวกับศาสนา โครงสร้างอำนาจใช้ความเชื่อเพื่อคง การควบคุม เอาไว้
      ความงมงายและการหลอกลวง ของมนุษย์เกิดซ้ำไม่ว่ากี่ยุคสมัย
      อ้างอิง: Extraordinary Popular Delusions and the Madness of Crowds
    • แนวคิด “ศาสนาซอมบี้” ของ Emmanuel Todd น่าประทับใจมาก
      สังคมที่ศาสนาหายไปจะผ่านช่วงของ เปลือกที่เหลือแต่คุณค่า ก่อน
      จากนั้นจึงตกสู่ระยะ ไร้ศาสนา และเกิด สุญญากาศทางศีลธรรม
      บางคนพยายามยอมสยบต่อ AI แต่คำว่า “เพราะ AI บอกมา” คือ ศรัทธาที่ไร้แรงบันดาลใจ
  • ในฐานะคนทำงานสายเทคนิค ผมเองก็อยากได้ การแก้ปัญหาที่มีประสิทธิภาพและไม่ก่อโทษ แต่ความจริงมันซับซ้อน
    ผมตั้งค่า Bluetooth บน Raspberry Pi แล้วแก้ได้ด้วยความช่วยเหลือจาก GPT และ Claude
    Stack Overflow หรือฟอรัมต่าง ๆ ก็ไม่คึกคักเหมือนเมื่อก่อน และเอกสารก็แตกกระจัดกระจาย
    เทคโนโลยีมันซับซ้อนเกินไปจนสุดท้ายกลายเป็นว่าต้อง พึ่ง LLM

    • ระยะสั้น เรายังต้องการความช่วยเหลือจาก genAI
      แต่ระยะยาว สังคมที่ อยู่ไม่ได้ถ้าไม่มี AI ย่อมไม่ยั่งยืน
      เทคโนโลยีควรกลับไปสู่ ความเรียบง่าย อีกครั้ง
    • ทุกวันนี้แต่ละดิสโทรก็มักมี คู่มือวิกิ ของตัวเอง
      เช่น ArchWiki Bluetooth หรือ Debian BluetoothUser
    • ความเสี่ยงที่แท้จริงคือความซับซ้อนทางเทคนิคจะยิ่งรุนแรงขึ้นเพราะ AI
      ในบริษัทก็เริ่มมีโครงสร้างที่ AI agent รันเครื่องมือแทน คนแล้ว
      ท้ายที่สุดมีความเสี่ยงสูงที่มนุษย์จะไม่เข้าใจตรรกะภายในอีกต่อไป
    • LLM นั้นยอดเยี่ยมในฐานะ ตัวแทนของ Google หรือ Stack Overflow
      แต่ถ้าจะมาแทนมนุษย์ทั้งหมดก็ยังมี ข้อจำกัดพื้นฐาน อยู่มาก
    • เหตุที่การค้นหาแย่กว่า AI คือ enshittification
      และสุดท้าย LLM เองก็มีโอกาสเดินไปตามเส้นทางเดียวกันสูง
  • บางส่วนของอุตสาหกรรมอ้างว่า LLM เป็น ทางตันโดยพื้นฐาน
    แต่เพราะผูกติดกับหุ้นและชื่อเสียงจึงไม่ยอมรับความจริง

    • หากมองในกรอบ AGI มันอาจเป็นทางตัน แต่ในแง่ มูลค่าทางเศรษฐกิจ ก็ยังสูงมาก
    • เหมือนที่เครื่องจักรไอน้ำไม่เหมาะกับการบิน แต่ก็เป็นฐานให้เกิด การพัฒนาเครื่องยนต์สันดาปภายใน
      LLM เองก็อาจเป็น เทคโนโลยีขั้นกลาง ระหว่างทางไปสู่ AGI
    • คำว่า “ทางตันโดยพื้นฐาน” เป็นถ้อยคำที่เกินจริง
      มันอาจกลายเป็น องค์ประกอบหลัก ของระบบ AGI ก็ได้
    • เห็นความก้าวหน้าที่รวดเร็วขนาดนี้แล้วจะเรียกมันว่า “ภาพลวง” ก็เข้าใจได้ยาก
    • คำพูดที่ว่า “คุณไม่มีทางโน้มน้าวคนที่เงินเดือนของเขาผูกอยู่กับเรื่องนั้นได้” ช่างตรงนัก
  • สำหรับผม Whisper ทำให้งานทำซับไตเติลวิดีโอ เร็วขึ้นแบบปฏิวัติวงการ
    ของที่เมื่อก่อนใช้เวลาหลายชั่วโมง ตอนนี้เสร็จได้ในไม่กี่นาที
    และด้วย MacWhisper ที่มี UI ดี การเข้าถึงก็ยิ่งง่ายขึ้น

    • ผู้เขียนเองก็เห็นด้วย ทั้งดีปเลิร์นนิงและทรานส์ฟอร์เมอร์ได้สร้าง คุณค่าที่จับต้องได้ แน่นอน
      เช่น มีกรณีที่ทนายใช้ LLM เพื่อ ค้นพบหลักฐานช่วยพิสูจน์ความบริสุทธิ์
      สิ่งสำคัญคือ การใช้งานเชิงปฏิบัติ มากกว่าการขยายตัวเกินจริง
    • สาขา computer vision ก็ยังสำคัญมาก แต่เพราะเป็นการใช้งาน ระดับอุตสาหกรรม จึงไม่ค่อยปรากฏต่อสายตาสาธารณะ
    • อยากรู้ว่าคุณคิดอย่างไรกับ ทิศทาง ของพัฒนาการ AI
    • เช่นเดียวกับ Whisper เครื่องมือ AI จำนวนมากสุดท้ายจะกลายเป็น รันในเครื่องและใช้ฟรี
      ภายในไม่กี่ปี เราน่าจะเข้าสู่ยุคที่ LLM ส่วนตัวรันได้ในระดับ โน้ตบุ๊ก
  • ผมคิดว่าคำว่า เอารัดเอาเปรียบ ผู้ดูแลคอนเทนต์นั้นพูดเกินไป
    นี่คืองาน moderation บนอินเทอร์เน็ต ที่มีมานานแล้วตั้งแต่ 30 ปีก่อน
    มันอาจไม่น่าพอใจ แต่ไม่ใช่เรื่องใหม่หรือเลวร้ายผิดปกติ
    และเป็น บทบาทที่จำเป็น ไม่ว่าจะไล่ตาม AGI หรือไม่ก็ตาม

  • รู้สึกดีที่ได้เห็นการพูดคุยเรื่อง AI แบบสมจริง
    ไม่ใช่ว่าเทคโนโลยีทรานส์ฟอร์เมอร์นั้นไร้ประโยชน์
    ปัญหาคือการ โหมเกินจริง ว่า “AGI จะมาในไม่ช้า”
    ปกติ HN รับมือกับกระแสฮิตต่าง ๆ ได้ดี แต่ครั้งนี้ดูเหมือนจะเป็นข้อยกเว้น

    • ผมไม่รู้สึกว่าใน HN มีบรรยากาศเชื่อว่า AGI จะมาถึงในเร็ว ๆ นี้นะ
  • เราควรท้าทายสิ่งนี้ ไม่ใช่เพราะมันง่าย แต่เพราะมันยาก
    ถึง AGI จะเป็นภาพลวง แต่ระหว่างทางก็อาจแก้ปัญหาที่มีประโยชน์ได้
    การปล่อย คาร์บอนของดาต้าเซ็นเตอร์ มีส่วนที่ถูกพูดเกินจริงอยู่มาก
    และในระยะยาว ดาต้าเซ็นเตอร์พลังงานสะอาด จะคุ้มค่าทางเศรษฐกิจมากกว่า

    • แต่การใช้ไฟของดาต้าเซ็นเตอร์ AI กำลังทำให้ ค่าไฟสูงขึ้น
      นี่เป็นภาระโดยตรงต่อคนธรรมดา
    • ต่อให้เป็นเรื่องยาก ก็ต้องถามว่า มันช่วยเพิ่มความสุขของมนุษย์อย่างเป็นรูปธรรมหรือไม่
      AI ในตอนนี้ยังไม่น่าโน้มน้าวในจุดนั้นนัก
  • DeepMind และ Demis Hassabis กำลังสร้าง ผลงานทางวิทยาศาสตร์ จริง
    เช่น AlphaFold, AlphaEvolve เป็นต้น
    เมื่อมีงานวิจัยแบบนี้อยู่ การพูดแค่ว่า “AI เป็นภาพลวง” จึงไม่ยุติธรรมนัก

    • AlphaFold หรือ AlphaEvolve ไม่ได้มีเป้าหมายเพื่อไล่ตาม AGI
      ประเด็นของบทความนี้คือการวิจารณ์ความหมกมุ่นกับ AGI
    • DeepMind ดูเป็นองค์กรที่ เน้นวิจัยวิทยาศาสตร์ มากกว่าบริษัทอื่น
      Hassabis ก็ดูสนใจความก้าวหน้าทางวิทยาศาสตร์อย่างจริงใจ
      ขณะที่บางบริษัทกลับดูเหมือนเป็นเพียง PR เพื่อหารายได้
    • Hao ไม่ใช่แค่คนเขียน “หนังสือวิจารณ์ AI” ธรรมดา แต่เป็น นักข่าวที่ได้รับความเชื่อถือ
    • เมื่อดูจากตัวอย่างที่ยกมา ก็เหมือนว่ามีการ สับสนแนวคิดของ AGI อยู่
 
manist67 2025-11-19

พูดเรื่อง AGI กันอยู่ แต่ทุกคนเอาแต่พูดว่าตัวเองทำอะไรมาบ้าง

 
kandk 2025-11-17

แทนที่จะยกเรื่องประหลาดๆ อย่างปัญหาสิ่งแวดล้อมหรือการเอารัดเอาเปรียบแรงงานมาพูดถึงเรื่องวิศวกรรม ถ้าอย่างนั้นทำรายงานออกมาว่ามันจะพัง แล้วแสดงการกระทำด้วยการชอร์ตมันไปเลย น่าจะดีกว่าไหม..