- ในซิลิคอนแวลลีย์มีวัฒนธรรมที่เชื่อว่า AGI (ปัญญาประดิษฐ์ทั่วไป) เป็นเป้าหมายที่ทำให้เกิดขึ้นได้จริง
- ภายใน OpenAI ได้ก่อรูปความเชื่อบนฐานของ “สมมติฐานภาษาล้วน” ว่า การขยายขนาดของโมเดลภาษาสามารถนำไปสู่ AGI ได้
- ความเชื่อนี้ถูกใช้เป็นเหตุผลรองรับ การขยายดาต้าเซ็นเตอร์ขนาดมหาศาล และ ปัญหาการเอารัดเอาเปรียบด้านสิ่งแวดล้อมและแรงงาน
- ตรรกะเรื่อง ค่าคาดหมาย (Expected Value) ของ AGI พึ่งพาการประเมินความน่าจะเป็นและมูลค่าที่ไร้หลักฐาน และเมินเฉยต่อความเสียหายต่อสิ่งแวดล้อมกับต้นทุนทางสังคมในโลกจริง
- จำเป็นต้องละทิ้งภาพลวงตา AGI และหันไปใช้ แนวทางวิศวกรรมเชิงปฏิบัติ ที่แก้ปัญหาด้วย โมเดลขนาดเล็กที่มุ่งเป้าหมายชัดเจน
ความเชื่อเรื่อง AGI และวัฒนธรรมของ OpenAI
- บุคคลที่เกี่ยวข้องกับ OpenAI เชื่อจริง ๆ ว่า AGI อาจนำไปสู่ความรุ่งเรืองหรือหายนะของมนุษยชาติได้
- Elon Musk อธิบาย Demis Hassabis ว่าเป็น “วายร้ายที่ต้องการครองโลก” พร้อมวางให้ OpenAI เป็น “ฝ่ายดี” และ DeepMind เป็น “ฝ่ายร้าย”
- Ilya Sutskever พูดกับพนักงานว่า “Feel the AGI” และทำ พิธีเผาหุ่นไม้ที่เป็นสัญลักษณ์ของ AGI
- พฤติกรรมเหล่านี้แสดงให้เห็นว่า จินตนาการแบบนิยายวิทยาศาสตร์ ได้กลายมาเป็น ความเชื่อกระแสหลัก ในซิลิคอนแวลลีย์
“สมมติฐานภาษาล้วน” และการขยาย LLM
- ตามหนังสือ Empire of AI ของ Karen Hao นั้น GPT-2 ตั้งอยู่บน “สมมติฐานภาษาล้วน (pure language hypothesis)”
- มนุษย์คิดและสื่อสารด้วยภาษา จึงตั้งสมมติฐานว่า AGI สามารถเกิดขึ้นได้จากข้อมูลภาษาเพียงอย่างเดียว
- ในทางตรงกันข้าม “สมมติฐานการยึดโยงกับโลกจริง (grounding hypothesis)” เห็นว่า AGI ต้องสามารถรับรู้โลกได้
- ความสำเร็จในการขยายจาก GPT ไปสู่ GPT-2 ทำให้ภายใน OpenAI ยิ่งเชื่อว่า หากมี ข้อมูลมากขึ้น พารามิเตอร์โมเดลมากขึ้น และทรัพยากรคอมพิวต์มากขึ้น ก็จะไปถึง AGI ได้
การแข่งขันด้านการขยายขนาดกับปัญหาสิ่งแวดล้อมและแรงงาน
- ความเชื่อเรื่อง AGI และผลลัพธ์ของ LLM ถูกใช้เพื่อสร้างความชอบธรรมให้กับ การก่อสร้างดาต้าเซ็นเตอร์ขนาดใหญ่
- บางแห่งใช้น้ำ หลายร้อยลิตรต่อวินาที และเดินเครื่อง เครื่องกำเนิดไฟฟ้าก๊าซที่ก่อมลพิษ เพราะไฟฟ้าไม่เพียงพอ
- ส่งผลให้เกิด การใช้พลังงานระดับเทียบเท่าทั้งเมือง และ การปล่อย CO₂ ที่เพิ่มขึ้น
- เพื่อให้ ChatGPT ให้ผลลัพธ์ที่ปลอดภัย แรงงานที่ทำงานคัดกรองและทำความสะอาดข้อมูล ต้องเผชิญกับ การเอารัดเอาเปรียบและบาดแผลทางจิตใจ
- เมื่อความต้องการข้อมูลเพิ่มขึ้น ก็เกิดการ กวาดเก็บข้อมูลจากทั้งอินเทอร์เน็ตแบบไม่เลือกหน้า และควบคุมผลลัพธ์ด้วย RLHF (Reinforcement Learning from Human Feedback)
ปัญหาของตรรกะค่าคาดหมาย
- ค่าคาดหมาย (Expected Value) มักถูกอ้างเป็นเหตุผลสร้างความชอบธรรมให้การพัฒนา AGI
- เป็นตรรกะที่ว่า “แม้มีโอกาสเพียง 0.001% ที่จะเกิดคุณค่ามหาศาล EV ก็ยังสูงมาก”
- แต่การคำนวณเช่นนี้มีปัญหาเพราะ ความน่าจะเป็นและมูลค่าเป็นสิ่งที่ตั้งขึ้นอย่างตามอำเภอใจและตรวจสอบไม่ได้
- ขณะที่ การทำลายสิ่งแวดล้อมและต้นทุนทางสังคม กลับเป็น มูลค่าด้านลบที่แน่นอน และเป็น ความเสียหายในปัจจุบัน
การเปลี่ยนผ่านสู่วิศวกรรมที่แท้จริง
- นักเทคโนโลยีควรแก้ปัญหาอย่าง มีประสิทธิผล มีประสิทธิภาพ และไม่ก่ออันตราย
- แนวทางที่มอง LLM เป็น AGI ล้มเหลวในทั้งสามเกณฑ์
- ก่อให้เกิด การใช้คอมพิวต์สิ้นเปลืองเกินควร, การเอารัดเอาเปรียบแรงงาน และ ความเสียหายต่อสิ่งแวดล้อม
- จำเป็นต้อง หลุดพ้นจากภาพลวงตา AGI และประเมิน LLM กับโมเดลสร้างเนื้อหาในฐานะ เครื่องมือสำหรับแก้ปัญหาเฉพาะด้าน
- ใช้ โมเดลสร้างเนื้อหาขนาดเล็กที่มุ่งเป้าหมายชัดเจน หรือ โมเดลไม่สร้างเนื้อหา (แบบจำแนก)
- ต้องทำ การวิเคราะห์ต้นทุน-ประโยชน์ และ การแลกเปลี่ยนเชิงเทคนิค เพื่อนำไปสู่วิศวกรรมเชิงปฏิบัติที่แท้จริง
3 ความคิดเห็น
ความคิดเห็นจาก Hacker News
ถ้าจะให้คำแนะนำกับคนที่สงสัย AI ผมคิดว่าควรหลีกเลี่ยงประเด็นถกเถียงเรื่อง การใช้น้ำของดาต้าเซ็นเตอร์
คำอย่าง “หลายล้านลิตรต่อปี” ฟังดูน่ากลัวเมื่อไม่มีบริบท แต่ถ้าเทียบกับภาคเกษตรหรือสนามกอล์ฟแล้วถือว่าน้อยมาก
จะถกเรื่องการใช้พลังงานหรือการปล่อย CO₂ ก็ได้ แต่ถ้าเน้นเฉพาะเรื่องน้ำจะทำให้ความน่าเชื่อถือของข้อโต้แย้งโดยรวมลดลง
อย่างไรก็ดี ภายหลังผมได้รู้ว่าดาต้าเซ็นเตอร์มักใช้น้ำ ดื่มได้ ที่ภาคเกษตรใช้ไม่ได้
ถึงอย่างนั้น ผมก็ยังคิดว่าการยกตัวเลขอย่าง “หลายล้านแกลลอน” โดยไม่ให้บริบทเป็น anti-pattern อยู่ดี
นี่ดูเหมือนเป็นผลจากการที่การถกเถียงทางเทคนิคกลายสภาพเป็น การเมืองเชิงอัตลักษณ์
ใน HN ควรวางจุดยืนทางการเมืองลงแล้วถกกันด้วยเหตุผลทางเทคนิค
ท่าทีแบบนี้น่าจะเกิดจากแรงตีกลับต่อ กระแสโฆษณาชวนเชื่อ AI ที่เกินจริง
กลับอ้างว่าเมื่อเกิดอุปสงค์ขนาดใหญ่ขึ้น ก็อาจทำให้โครงสร้างสาธารณูปโภคน้ำในท้องถิ่นถูกขยายจน ราคาน้ำดื่มลดลงได้
ตาม ความเห็นเพิ่มเติม ของเขา คำวิจารณ์ว่า “AI ใช้น้ำมีค่าเท่านั้น” กลับเป็นการมองสถานการณ์กลับหัว
มีกรณีเมืองหนึ่งในชิลีที่ดาต้าเซ็นเตอร์ของ Google ทำให้ ภัยแล้งในพื้นที่รุนแรงขึ้น และ
ในบางพื้นที่ก็ร้ายแรงถึงขั้นต้องผสมน้ำทะเลลงในน้ำดื่ม
ผมคิดว่าการใช้น้ำในระดับเทียบเท่าการใช้ทั้งเมืองนั้นเป็นปัญหาอย่างชัดเจน
ทั้งสนามกอล์ฟและดาต้าเซ็นเตอร์ควรต้องจ่าย ต้นทุนภายนอก ของตัวเอง
และถ้ามันไม่คุ้มทางเศรษฐกิจในพื้นที่แห้งแล้ง ผมก็คิดว่านั่นยิ่งดีกว่า
ถ้าน้ำก้อนนั้นใช้ทำเกษตรได้ ก็ใช้ทำความเย็นได้เช่นกัน
ประเด็นเรื่องการใช้พลังงานก็ดูถูกพูดเกินจริงอยู่บ้าง — สุดท้ายแล้ว พลังงานหมุนเวียนราคาถูก จะเป็นฝ่ายได้เปรียบในการแข่งขัน
ผมคิดว่าข้อจำกัดของ LLM เป็น ปัญหาฮาร์ดแวร์
นิวรอนในสมองมนุษย์ประมวลผลอินพุตและเอาต์พุตนับพันพร้อมกันได้ แต่ “นิวรอน” ของ LLM มีแค่อินพุตและเอาต์พุตเดี่ยว
สมองมนุษย์ทำงานได้ด้วยพลังงานราว 20W แต่ LLM ต้องใช้ระดับหลาย MW
แค่ GPU หรือ TPU อย่างเดียวคงยากที่จะไปถึง AGI และจำเป็นต้องมี กระบวนทัศน์ฮาร์ดแวร์ แบบใหม่โดยสิ้นเชิง
มันไม่ใช่ปัญหาแค่เรื่อง พลังประมวลผลไม่พอ
ในสภาพแวดล้อมที่มีไว้เพื่อกิจกรรมทางปัญญาอย่างเดียว อาจไม่จำเป็นต้องมีนิวรอนมากขนาดนั้นก็ได้
ปัญหาไม่ได้อยู่ที่สเกล แต่คือ โครงสร้างการจัดวาง (Electronic Design Automation)
ดู บทความวิกิ EDA
สมองมีเส้นทางอินพุตหลายแบบและวิธีส่งสัญญาณหลากหลาย พร้อม ความซับซ้อนด้านการออกแบบ ที่สูงกว่ามาก
วาทกรรมเรื่อง AGI ดูเหมือนเป็นส่วนต่อเนื่องของ แรงขับทางศาสนา
มนุษย์ยังคงโหยหา คำตอบสัมบูรณ์ ที่จะมาแก้ทุกปัญหา
ถ้ากดมันไว้ มันจะย้อนกลับมาในรูปแบบที่แย่กว่าเดิม
การทำสมาธิ ความพอประมาณ และจริยธรรมต่อผู้อื่น คือ ‘ศาสนา’ ของผม
มันคือความพยายามจะจำลองระบบธรรมชาติอย่างดวงอาทิตย์หรือสมองด้วยเทคโนโลยี
เช่นเดียวกับศาสนา โครงสร้างอำนาจใช้ความเชื่อเพื่อคง การควบคุม เอาไว้
ความงมงายและการหลอกลวง ของมนุษย์เกิดซ้ำไม่ว่ากี่ยุคสมัย
อ้างอิง: Extraordinary Popular Delusions and the Madness of Crowds
สังคมที่ศาสนาหายไปจะผ่านช่วงของ เปลือกที่เหลือแต่คุณค่า ก่อน
จากนั้นจึงตกสู่ระยะ ไร้ศาสนา และเกิด สุญญากาศทางศีลธรรม
บางคนพยายามยอมสยบต่อ AI แต่คำว่า “เพราะ AI บอกมา” คือ ศรัทธาที่ไร้แรงบันดาลใจ
ในฐานะคนทำงานสายเทคนิค ผมเองก็อยากได้ การแก้ปัญหาที่มีประสิทธิภาพและไม่ก่อโทษ แต่ความจริงมันซับซ้อน
ผมตั้งค่า Bluetooth บน Raspberry Pi แล้วแก้ได้ด้วยความช่วยเหลือจาก GPT และ Claude
Stack Overflow หรือฟอรัมต่าง ๆ ก็ไม่คึกคักเหมือนเมื่อก่อน และเอกสารก็แตกกระจัดกระจาย
เทคโนโลยีมันซับซ้อนเกินไปจนสุดท้ายกลายเป็นว่าต้อง พึ่ง LLM
แต่ระยะยาว สังคมที่ อยู่ไม่ได้ถ้าไม่มี AI ย่อมไม่ยั่งยืน
เทคโนโลยีควรกลับไปสู่ ความเรียบง่าย อีกครั้ง
เช่น ArchWiki Bluetooth หรือ Debian BluetoothUser
ในบริษัทก็เริ่มมีโครงสร้างที่ AI agent รันเครื่องมือแทน คนแล้ว
ท้ายที่สุดมีความเสี่ยงสูงที่มนุษย์จะไม่เข้าใจตรรกะภายในอีกต่อไป
แต่ถ้าจะมาแทนมนุษย์ทั้งหมดก็ยังมี ข้อจำกัดพื้นฐาน อยู่มาก
และสุดท้าย LLM เองก็มีโอกาสเดินไปตามเส้นทางเดียวกันสูง
บางส่วนของอุตสาหกรรมอ้างว่า LLM เป็น ทางตันโดยพื้นฐาน
แต่เพราะผูกติดกับหุ้นและชื่อเสียงจึงไม่ยอมรับความจริง
LLM เองก็อาจเป็น เทคโนโลยีขั้นกลาง ระหว่างทางไปสู่ AGI
มันอาจกลายเป็น องค์ประกอบหลัก ของระบบ AGI ก็ได้
สำหรับผม Whisper ทำให้งานทำซับไตเติลวิดีโอ เร็วขึ้นแบบปฏิวัติวงการ
ของที่เมื่อก่อนใช้เวลาหลายชั่วโมง ตอนนี้เสร็จได้ในไม่กี่นาที
และด้วย MacWhisper ที่มี UI ดี การเข้าถึงก็ยิ่งง่ายขึ้น
เช่น มีกรณีที่ทนายใช้ LLM เพื่อ ค้นพบหลักฐานช่วยพิสูจน์ความบริสุทธิ์
สิ่งสำคัญคือ การใช้งานเชิงปฏิบัติ มากกว่าการขยายตัวเกินจริง
ภายในไม่กี่ปี เราน่าจะเข้าสู่ยุคที่ LLM ส่วนตัวรันได้ในระดับ โน้ตบุ๊ก
ผมคิดว่าคำว่า เอารัดเอาเปรียบ ผู้ดูแลคอนเทนต์นั้นพูดเกินไป
นี่คืองาน moderation บนอินเทอร์เน็ต ที่มีมานานแล้วตั้งแต่ 30 ปีก่อน
มันอาจไม่น่าพอใจ แต่ไม่ใช่เรื่องใหม่หรือเลวร้ายผิดปกติ
และเป็น บทบาทที่จำเป็น ไม่ว่าจะไล่ตาม AGI หรือไม่ก็ตาม
รู้สึกดีที่ได้เห็นการพูดคุยเรื่อง AI แบบสมจริง
ไม่ใช่ว่าเทคโนโลยีทรานส์ฟอร์เมอร์นั้นไร้ประโยชน์
ปัญหาคือการ โหมเกินจริง ว่า “AGI จะมาในไม่ช้า”
ปกติ HN รับมือกับกระแสฮิตต่าง ๆ ได้ดี แต่ครั้งนี้ดูเหมือนจะเป็นข้อยกเว้น
เราควรท้าทายสิ่งนี้ ไม่ใช่เพราะมันง่าย แต่เพราะมันยาก
ถึง AGI จะเป็นภาพลวง แต่ระหว่างทางก็อาจแก้ปัญหาที่มีประโยชน์ได้
การปล่อย คาร์บอนของดาต้าเซ็นเตอร์ มีส่วนที่ถูกพูดเกินจริงอยู่มาก
และในระยะยาว ดาต้าเซ็นเตอร์พลังงานสะอาด จะคุ้มค่าทางเศรษฐกิจมากกว่า
นี่เป็นภาระโดยตรงต่อคนธรรมดา
AI ในตอนนี้ยังไม่น่าโน้มน้าวในจุดนั้นนัก
DeepMind และ Demis Hassabis กำลังสร้าง ผลงานทางวิทยาศาสตร์ จริง
เช่น AlphaFold, AlphaEvolve เป็นต้น
เมื่อมีงานวิจัยแบบนี้อยู่ การพูดแค่ว่า “AI เป็นภาพลวง” จึงไม่ยุติธรรมนัก
ประเด็นของบทความนี้คือการวิจารณ์ความหมกมุ่นกับ AGI
Hassabis ก็ดูสนใจความก้าวหน้าทางวิทยาศาสตร์อย่างจริงใจ
ขณะที่บางบริษัทกลับดูเหมือนเป็นเพียง PR เพื่อหารายได้
พูดเรื่อง AGI กันอยู่ แต่ทุกคนเอาแต่พูดว่าตัวเองทำอะไรมาบ้าง
แทนที่จะยกเรื่องประหลาดๆ อย่างปัญหาสิ่งแวดล้อมหรือการเอารัดเอาเปรียบแรงงานมาพูดถึงเรื่องวิศวกรรม ถ้าอย่างนั้นทำรายงานออกมาว่ามันจะพัง แล้วแสดงการกระทำด้วยการชอร์ตมันไปเลย น่าจะดีกว่าไหม..