- ลัทธิความหลีกเลี่ยงไม่ได้ (Inevitabilism) คือกรอบความคิดอันทรงพลังที่ กำหนดทิศทางของวาทกรรม ด้วยการทำให้อนาคตแบบหนึ่งดูราวกับว่าจะต้องมาถึงอย่างแน่นอน
- สำหรับ อนาคตของ AI และ LLM บุคคลกระแสหลักมักอ้างว่า “อนาคตแบบนี้หลีกเลี่ยงไม่ได้” พร้อมกดดันให้ผู้คน ปรับตัวตาม
- กรอบความคิดแบบนี้ปฏิบัติต่อ ความเห็นต่างหรือการต่อต้านว่าเป็น ‘เรื่องไม่สมจริง’ และในทางปฏิบัติก็มาพร้อม ผลทางจิตวิทยาที่พรากทางเลือกไปจากผู้คน
- ผู้เขียนตั้งคำถามว่า LLM หรือ AI เป็น อนาคตที่เราต้องการจริงหรือไม่ และย้ำว่าเราควร ตัดสินใจด้วยตัวเอง ว่าอยากได้อนาคตแบบไหนและจะเลือกเทคโนโลยีใด
- ผู้เขียนเรียกร้องว่าอย่าถูก กรอบของความหลีกเลี่ยงไม่ได้ พัดพาไป แต่ควร คิดและลงมือทำอย่างจริงจัง เพื่ออนาคตที่แต่ละคนต้องการ
พลังของการวางกรอบแบบความหลีกเลี่ยงไม่ได้
- เมื่อต้องโต้เถียงกับคนที่เก่งการดีเบตมาก เรามักถูกดึงไปตามประเด็นที่ไม่คาดคิดอยู่เรื่อย ๆ
- เรามัวแต่ป้องกันจุดอ่อนในข้อโต้แย้งของตัวเอง จนประเด็นสำคัญถูกกลืนหายไปในกระแส
- สุดท้ายก็เสียทั้งจังหวะและความมั่นใจ และตกเป็นฝ่ายเสียเปรียบในการโต้เถียง
- เพื่อนคนหนึ่งที่เคยชนะการแข่งขันโต้วาทีระดับนานาชาติสมัยมหาวิทยาลัย เน้นว่ากลยุทธ์สำคัญคือ ตั้งกรอบก่อน
- กล่าวคือ กำหนดกรอบการสนทนาด้วยคำศัพท์และตรรกะของตัวเอง เมื่อ ครอบครองกรอบ ได้แล้ว ผลของการโต้เถียงก็แทบถูกกำหนดไว้ตั้งแต่ต้น
Surveillance Capitalism และ ‘Inevitabilism’
- ระหว่างอ่าน 『The Age of Surveillance Capitalism』 ของ Shoshana Zuboff ผู้เขียนได้รู้จักแนวคิด ‘Inevitabilism (ลัทธิความหลีกเลี่ยงไม่ได้, แนวคิดว่าหลีกเลี่ยงไม่ได้)’
- เพียงแค่ ตั้งชื่อให้กับแนวคิด ก็ช่วยจัดระเบียบการถกเถียงและสร้างพลังในการทำความเข้าใจปัญหาร่วมกันได้มาก
- ‘ลัทธิความหลีกเลี่ยงไม่ได้’ คือ วิธีคิดที่อ้างว่าอนาคตแบบหนึ่งจะเกิดขึ้นอย่างแน่นอน และทำให้ การเตรียมรับมือดูเหมือนเป็นทางเลือกที่มีเหตุผลเพียงอย่างเดียว
- วิธีนี้ ผลักความเห็นคัดค้านให้กลายเป็นคนที่ไม่ยอมรับความจริง และยอมรับเฉพาะการอภิปรายที่ตั้งอยู่บนการรับกรอบนี้ไปแล้วเท่านั้น
ตัวอย่างจริงของการวางกรอบว่า AI เป็นสิ่งหลีกเลี่ยงไม่ได้
> “เรากำลังก้าวเข้าสู่โลกที่ อยู่ร่วมกับ AI” — Mark Zuckerberg
> “AI คือ ไฟฟ้ายุคใหม่” — Andrew Ng
> “ไม่ใช่ว่า AI จะมาแทนที่มนุษย์ แต่ คนที่ใช้ AI จะมาแทนที่คนที่ไม่ใช้มัน” — Ginni Rometty
- คำกล่าวเหล่านี้สร้างบรรยากาศว่า ยุค AI คืออนาคตที่ถูกตัดสินไว้แล้ว
- จุดสนใจของการอภิปรายจึงย้ายจาก “นี่คืออนาคตที่เราต้องการหรือไม่?” ไปเป็น “จะปรับตัวเข้ากับอนาคตที่หลีกเลี่ยงไม่ได้อย่างไร?”
- ยังแฝง น้ำเสียงคุกคาม อยู่ด้วย กระตุ้นความรู้สึกว่า “ถ้าปฏิเสธก็จะเสียเปรียบ” หรือการเห็นต่างเป็นเรื่อง “โง่เขลา”
การเลือกและความเป็นเจ้าของการตัดสินใจ
> "ฉันไม่แน่ใจว่า LLM คือภาพของอนาคตจริง ๆ หรือไม่ และไม่แน่ใจด้วยว่าอนาคตนั้นคือสิ่งที่ฉันต้องการหรือเปล่า"
- แต่พวกเราแต่ละคนมี สิทธิที่จะเลือกทั้งหน้าตาของอนาคตและวิธีใช้เทคโนโลยี
- เราต้อง ระวังไม่ให้กรอบแบบลัทธิความหลีกเลี่ยงไม่ได้มาพรากทางเลือกของเราไป
- เราจำเป็นต้องคิดถึงอนาคตที่แต่ละคนต้องการ และมีท่าทีพร้อมต่อสู้เพื่ออนาคตนั้น
บทสรุป
- เมื่อต้องมองเทคโนโลยีและอนาคต อย่าปล่อยให้ตัวเองถูกพัดพาไปอย่างเฉื่อยชาโดย กรอบที่บอกว่ามันหลีกเลี่ยงไม่ได้
- เราต้องมีท่าที จินตนาการและลงมือทำอย่างกระตือรือร้น เพื่ออนาคตที่ดีกว่าตามที่แต่ละคนเชื่อ
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
คิดว่าข้อเท็จจริงสองอย่างนี้สามารถเป็นจริงพร้อมกันได้
เทคโนโลยีที่ดูเหมือน “หลีกเลี่ยงไม่ได้” หลายอย่าง เช่น เครื่องบินโดยสารความเร็วเหนือเสียง มักหายไปเมื่อไม่มีผลตอบแทนทางธุรกิจเพียงพอ หรือไม่ก็ลงเอยแบบไมโครเวฟที่กลายเป็นของเฉพาะทางบางกรณี ถ้าไม่มีโมเดลที่ทำกำไรได้มากพอ LLM ก็น่าจะลงเอยในตำแหน่งที่พิเศษน้อยลงและรบกวนน้อยลงเมื่อเทียบกับตอนนี้ ความพยายามยัด LLM เข้าไปในทุกอย่างก็ไม่ได้รับคำชมเท่าไรนัก
คิดว่าอุปมาเรื่องเครื่องบินโดยสารความเร็วเหนือเสียงใช้ได้กับ AI หรือแม้แต่กับคอมพิวเตอร์และอินเทอร์เน็ตโดยรวมด้วย
สมัยก่อนเทคโนโลยีเครื่องบินโดยสารความเร็วเหนือเสียงดูน่าอัศจรรย์และเหมือนจะขยายตัวอย่างหลีกเลี่ยงไม่ได้ แต่เบื้องหลังกลับมีปัญหาที่แก้ไม่ได้ด้วยเทคโนโลยียุคนั้นและการขาดความคุ้มทุนซ่อนอยู่
เลยทำให้นึกว่าคอมพิวเตอร์และอินเทอร์เน็ตก็อาจเดินตามเส้นทางคล้ายอุตสาหกรรมการบินและอวกาศได้ เราอาจใกล้ถึงจุดสูงสุดของเทคโนโลยีแล้วก็ได้
ถ้าย้อนเวลาไปยุค 1970 แล้วบอกว่าหลังผ่านไป 50 ปี ในปี 2025 เครื่องบินโดยสารความเร็วเหนือเสียงจะหายไป และอุตสาหกรรมการบินแทบไม่เปลี่ยนอะไรนอกจากน่ารำคาญขึ้น ก็คงไม่มีใครเชื่อ
ดังนั้นในปี 2075 เราอาจนั่งดูสารคดีเกี่ยวกับ LLM แล้วรำลึกว่าทำไมเทคโนโลยีที่เคยดูมีอนาคตขนาดนั้นถึงเกือบหายไป
ไม่ค่อยเห็นด้วยกับคำกล่าวที่ว่า “คนส่วนใหญ่เห็นตรงกันว่าผลลัพธ์จาก LLM ทั้งซ้ำซากและไม่น่าเสพ” ในความเป็นจริงผู้คนชอบผลลัพธ์ของ LLM กันมากพอสมควรจน ChatGPT กลายเป็นแอปที่เติบโตเร็วที่สุดเท่าที่เคยมีมา แอป AI อย่าง Perplexity ก็เริ่มสั่นคลอนการครองตลาดค้นหาของ Google แล้ว
แน่นอนว่าคนทั่วไปคงไม่ตั้งใจซื้อรวมเรื่องสั้นหรือรวมบทกวีที่ ChatGPT เขียน แต่ก็ไม่ได้แปลว่าผลลัพธ์ของมันอ่านยากหรือชวนให้ต่อต้านอย่างเดียว ข้อเท็จจริงที่ปฏิเสธได้ยากคือมันสร้างสรุปและคำอธิบายที่ชัดเจน อ่านง่ายได้จริง
รู้สึกสับสนกับข้ออ้างข้อที่สองของคุณ ไม่แน่ใจว่าจริงหรือไม่ที่บริษัท LLM ยังทำเงินจากโมเดลปัจจุบันไม่ได้ OpenAI มี ARR ปีละ 1 หมื่นล้านดอลลาร์และ MAU 100 ล้าน แน่นอนว่าตอนนี้ยังขาดทุนอยู่ แต่ก็เป็นการเผาเงินเพื่อพัฒนาโมเดล ถ้าหยุดพัฒนาโมเดลตั้งแต่วันนี้ แล้วหันไปเน้นปรับต้นทุนการดำเนินงานและสร้างรายได้จากฐานผู้ใช้ขนาดใหญ่แทน จะยังพูดได้หรือว่ามันไม่มีโมเดลธุรกิจที่ประสบความสำเร็จ ผู้คนก็ใช้งานเครื่องมือนี้ทุกวันอยู่แล้ว นี่แหละคือความหลีกเลี่ยงไม่ได้
ใจความของบทความนี้โดยพื้นฐานก็คล้ายข้อถกเถียงในมุมมอง “AI ในฐานะเทคโนโลยีธรรมดา”
AI as Normal Technology
ลิงก์การถกเถียงที่เกี่ยวข้อง
ตรงที่บอกว่า “มีตัวอย่างมากมายของเทคโนโลยีที่ดูเหมือนหลีกเลี่ยงไม่ได้แต่สุดท้ายถดถอยเพราะขาดความคุ้มค่าทางธุรกิจ” ทำให้นึกถึงเคเบิลทีวีกว่า 120 ช่อง ซึ่งตอนเปิดตัวก็ดูเหมือนเป็นความคิดที่ดี แต่ในความเป็นจริงก็คล้าย LLM ตรงที่คอนเทนต์ส่วนใหญ่ไม่มีใครสนใจ
หนึ่งในผลลบของยุค世俗สมัยใหม่คือ แม้แต่คนที่ฉลาดและมีความคิดลึกซึ้งมากก็มีแนวโน้มจะปัดปรัชญาและความคิดทางศาสนาที่สั่งสมมาหลายพันปีทิ้งอย่างง่ายดายว่าเชยหรือไม่เป็นประโยชน์แล้ว (ขอแนะนำหนังสือ <A Secular Age> มาก ๆ)
ท่าทีแบบนี้ทำให้ผู้คนไม่สามารถมองเห็นรูปแบบทางจิตวิทยาที่เกิดซ้ำเกี่ยวกับโลกและอนาคต และจึงไม่ปรับจุดยืนของตัวเองตามความเข้าใจนั้น
ตัวอย่างเช่น ความเชื่อว่า AI เป็นสิ่งหลีกเลี่ยงไม่ได้ (inevitabilism) ก็แทบไม่ต่างจากแนวคิดเรื่องการกำหนดไว้ล่วงหน้า (predestination) ในยุคปฏิรูปศาสนา แนวคิดว่าประวัติศาสตร์เคลื่อนไปตามเส้นทางที่ถูกกำหนดไว้แล้วเป็นโครงสร้างทางจิตวิทยาแบบเดียวกัน เพียงแค่เปลี่ยนผู้กระทำจากพระเจ้าเป็นเทคโนโลยี นี่คือโครงสร้างทางจิตที่ผลักความเป็นอิสระและความรับผิดชอบไปให้พลังที่คลุมเครือแต่ทรงอำนาจ (ตอนนี้คือเทคโนโลยี)
แม้จะสงสัยกับคำกล่าวว่า AGI จะกลายเป็นกระแสหลักในไม่ช้า แต่ในฐานะคนที่เคยอ่านหนังสือเทววิทยาเยอะตอนวัยเติบโต ก็ไม่คิดว่าบทความยอดนิยมแบบ LessWrong เป็นอะไรที่ “ศาสนา” หรือเขียนโดยคนอ่านหนังสือน้อย มุมมองแบบ “พวกเขาได้พระเจ้าองค์ใหม่แล้ว!” เป็นการเบี่ยงประเด็นที่พบได้บ่อย แน่นอนว่าสำหรับพวกที่เชื่อในความหลีกเลี่ยงไม่ได้ของ AGI บางคน อุปมานี้อาจใช้ได้ แต่การโฟกัสแต่ข้ออ้างที่อ่อนที่สุดก็ไม่มีประโยชน์นัก
นึกภาพ “Techno Calvinists” ปะทะ “Luddite Reformists” ขึ้นมา
คิดว่าแนวโน้มนี้เกิดจากการขาดเรื่องเล่าใหญ่หรืออุดมการณ์ ผู้คนสายเทคที่ฉลาดจำนวนมากไม่สนใจการคิดเชิงปรัชญา/ศาสนา แต่ก็อยากสร้างอะไรใหม่ ๆ
พวกเขาไล่ตามเงินมากขึ้นเรื่อย ๆ และสุดท้ายบางส่วนก็เริ่มตระหนักว่าการไล่เงินนั้นว่างเปล่า แต่กลับหลงคิดว่าตัวเองอยู่เหนือปัญหาสากลของมนุษย์ข้อนี้
ภายใต้ความบิดเบี้ยวนี้ พวกเขารีไซเคิลงานศิลปะเดิม สร้างแอปที่แย่ลงเรื่อย ๆ ตามกาลเวลา และเมินความสุขดั้งเดิมของการสร้างสรรค์เพื่อพัฒนามนุษยชาติ ไปมุ่งแต่การแย่งชิงความมั่งคั่ง
LLM และ AI ก็เหมือนปล่อยยักษ์ออกจากขวดแล้ว แต่ท้ายที่สุดน่าจะลงเอยใกล้เคียงกับมุมมองแบบภาพทัศนมิติเชิงเส้นหรือแท่นพิมพ์ มากกว่าจะเป็นไฟฟ้า ในวัฒนธรรมทุกวันนี้ก็เหมือน Leonardo da Vinci ใช้ทั้งชีวิตขายแต่คอร์สสอนภาพทัศนมิติ
นี่ไม่ใช่ปรากฏการณ์ใหม่ทั้งหมด เพียงแต่พวกยึดแนวคิดกำหนดไว้ล่วงหน้ามี “สิ่งน่ากลัว” ใหม่มาเพิ่มเพื่อรองรับข้ออ้างของตัวเอง
จุดประสงค์ของฉันก็แค่ชี้ให้เห็นปรากฏการณ์นี้ ผู้คนปฏิเสธแนวคิดกำหนดไว้ล่วงหน้าที่มาจากฟิสิกส์หรือศาสนา แต่กลับยังทึ่งกับคำกล่าวว่า “AI เป็นสิ่งหลีกเลี่ยงไม่ได้”
ประเด็นหลักของบทความคือ 'inevitabilism' เป็นเพียงกลยุทธ์ทางวาทศิลป์เพื่อชี้นำบทสนทนาให้เป็นประโยชน์กับฝ่ายตน ใช้ตีตราคำวิจารณ์ว่าเป็น “การปฏิเสธความจริง” แล้วผลักออกนอกวงสนทนา การเทียบกับอุดมการณ์ยุคปฏิรูปศาสนาเลยดูไม่มีน้ำหนักนัก
อีกอย่าง อุปมาเรื่อง 'การกำหนดไว้ล่วงหน้าแบบ世俗' ที่เสนอมาตรงนี้ก็มีความย้อนแย้งอยู่
แนวคิดโปรเตสแตนต์เรื่องการกำหนดไว้ล่วงหน้าไม่ได้หมายถึงการหลีกเลี่ยงเสรีภาพและความรับผิดชอบ แก่นของมันคือพระหรรษทานจากพระเจ้าเป็นสิ่งที่ “ได้รับ” ไม่ใช่ “ได้มา” และไม่ได้ใช้เป็นข้ออ้างให้อยู่นิ่งเฉย ตรงกันข้าม มันผลักให้คนพยายามยืนยันหลักฐานแห่งความรอดผ่านการกระทำที่ดีของตน
สิ่งนี้เชื่อมไปสู่ “ความขยันหมั่นเพียรโดยไม่หวังรางวัลเฉพาะหน้า” และ Max Weber ก็วิเคราะห์ไว้ในงานเขียนของเขาว่าเป็นแรงขับเคลื่อนของทุนนิยมยุคแรก
เพราะฉะนั้นแนวคิดเรื่องการกำหนดไว้ล่วงหน้ากับ “เทคโนโลยีเป็นสิ่งหลีกเลี่ยงไม่ได้” จึงเป็นคนละเรื่องกันมากในความเป็นจริง
การถกเถียงคล้าย ๆ กันนี้พบได้ในลัทธิประวัติศาสตร์นิยมด้วย (เช่น “กฎอันหลีกเลี่ยงไม่ได้ของประวัติศาสตร์” ของ Hegel)
ผมมีลางสังหรณ์ว่ารุ่นลูกหรือหลานของเราจะได้เห็นอเมริกากลายเป็นสังคมที่ปล่อยให้อุตสาหกรรมการผลิตทั้งหมดไหลออกนอกประเทศไปสู่เศรษฐกิจบริการและข้อมูล และความเชี่ยวชาญทางเทคโนโลยีมหาศาลจะกระจุกอยู่กับคนเพียงไม่กี่คน
จะไม่มีใครที่เป็นตัวแทนประโยชน์สาธารณะเข้าใจปัญหาด้านเทคโนโลยี และผู้คนก็จะสูญเสียความรู้ที่จะตั้งวาระของตนเองหรือวิจารณ์ผู้มีอำนาจ
ผู้คนจะกำคริสตัลไว้ในมือ พึ่งพาโหราศาสตร์ ความคิดเชิงวิพากษ์จะเสื่อมถอย และพวกเขาจะค่อย ๆ ไถลเข้าสู่ความงมงายและความมืดมนโดยแทบไม่ทันรู้ตัว ขณะที่เส้นแบ่งระหว่างความรู้สึกดีและความจริงก็เลือนรางลง
คิดว่าคำคมนี้อาจไม่ค่อยเข้ากับที่นี่เท่าไร แต่สำหรับคนที่อยากรู้ที่มา มันมาจาก The Demon-Haunted World
อ่านประโยคนี้แล้วเหมือนได้ยินน้ำเสียงนั้นในหัวเลย
มีลีลาการเขียนที่เป็นเอกลักษณ์มาก ต่อให้ใครจะพยายามเลียนแบบแค่ไหนก็ไม่เคยดูซ้ำซาก
ถ้าคุณเคยบอกในปี 2009 ว่าสมาร์ตโฟนจะครองโลกอย่างหลีกเลี่ยงไม่ได้ ก็เพราะคุณได้ลองใช้และสัมผัสพลังของมันด้วยตัวเองแล้ว ไม่ใช่เพราะมีเจตนาจะบิดเบือนเสรีเจตนาอะไร
ในปี 2025 ถ้าคุณได้ใช้ AI ทำงานจริงอย่างเป็นรูปธรรม ก็จะปฏิเสธไม่ได้ว่าการนำเทคโนโลยีนี้ไปใช้อย่างกว้างขวางนั้นหลีกเลี่ยงไม่ได้ AI กำลังมาเร็วและแรงกว่าทุกช่วงเวลาในประวัติศาสตร์ และเราไม่ควรเมินมันเพียงเพราะกลัว
คนที่เคยบอกในยุค 80 ว่า AI เป็นสิ่งหลีกเลี่ยงไม่ได้และลงทุนไป หรือคนที่เชื่อเมื่อ 10 ปีก่อนว่า VR จะกลายเป็นกระแสหลัก เราก็เห็นผลลัพธ์แล้ว Zuck ยังเผาเงินเป็นพันล้านดอลลาร์อยู่ และ Apple เองก็คาดการณ์ความต้องการผิดอย่างมาก
AR อาจกลายเป็นทางรอดของ VR ได้ แต่กว่าจะเข้าสู่ตลาดผู้บริโภคก็ยังอีกไกล และเทคโนโลยีส่วนใหญ่ที่สะสมไว้เพื่อ VR ก็อาจไม่เกี่ยวข้องโดยตรงกับ AR เลย
มหากาพย์ Robo-taxi ขับเคลื่อนอัตโนมัติของ Tesla ก็ยืดเยื้อมาสิบปีแล้ว แต่ก็ยังไม่มี Tesla คันไหนทำเงินได้จริงโดยไม่มีเจ้าของอยู่ในรถ
มองย้อนกลับไปแล้ว การหยิบยกแต่เทคโนโลยีที่สำเร็จมาเป็นตัวอย่างเป็นเรื่องโง่เขลา เทคโนโลยีที่ไม่สำเร็จก็มีมากมาย เช่นเดียวกับฟองสบู่การลงทุนและอุตสาหกรรม
วิธีเถียงแบบนี้แหละคือกลยุทธ์ทางวาทศิลป์ที่บทความพูดถึง
ลองนึกถึงยุคที่มีคนพูดกันหนาหูถึงยานพาหนะชนิดหนึ่งว่าเป็นนวัตกรรมสุดล้ำและหลีกเลี่ยงไม่ได้ มีทั้งกระแส การประชุมลับ ความคาดหวังมหาศาล... สุดท้ายสิ่งที่ได้คือ Segway
มันให้ความรู้สึกเหมือนคำพยากรณ์ที่ทำให้ตัวเองเป็นจริง บริษัทยักษ์ใหญ่ด้านไอทียัด 'AI' เข้าไปในทุกผลิตภัณฑ์ แล้วก็พูดว่า “เห็นไหม ใช้กันแพร่หลายขนาดนี้ มันก็ต้องหลีกเลี่ยงไม่ได้อยู่แล้ว!”
ผมเองก็คิดว่า AI เป็นสิ่งหลีกเลี่ยงไม่ได้ แต่ตอนนี้บรรยากาศแบบคิดตามกันเป็นกลุ่มมันแรงเกินไป จนทุกอย่างถูกนำเสนอออกมาในรูป UI เอเจนต์แบบบอลลูนแชต
พอทุกคนผ่านช่วงนี้ไปแล้ว ผมก็รอคอยที่จะได้เห็นว่าถัดจากนี้จะเจออะไรต่อ
ถ้ามีใครในปี 1950 บอกว่าสมาร์ตโฟนจะกลายเป็นของกระแสหลัก คนส่วนใหญ่ก็คงเชื่อง่าย เพราะนิยายวิทยาศาสตร์และหนังมักจินตนาการอนาคตแบบนั้นกันอยู่แล้ว
แต่ถ้าเป็นเรื่องโซเชียลมีเดีย ปฏิกิริยาคงต่างออกไป บางคนอาจมองว่าเจ๋ง แต่อีกบางคนคงมองว่าเป็นดิสโทเปีย
ความจริงแล้วทั้งสามอย่างนี้ (สมาร์ตโฟน โซเชียลมีเดีย และ AI) ต่างกระตุ้นจินตนาการของผู้คนมาตั้งแต่ก่อนยุค 50 แล้ว
ที่จริง AI ดูใกล้เคียงกับโซเชียลมีเดียในจินตนาการมากกว่าจะเป็นอุปกรณ์สื่อสารชั้นสูง
ในยุค 1950 เทคโนโลยีนิวเคลียร์ก็ถูกมองว่าเป็นสิ่งหลีกเลี่ยงไม่ได้เช่นกัน ถึงขั้นมีการขายภาชนะทำจากแก้วยูเรเนียม ซึ่งอาจยังเรืองแสงอยู่ตรงชั้นวางในบ้านใครบางคน หรืออาจแตกไปแล้วก็ได้
“ฤดูหนาวของ LLM” อาจกำลังมา
มันจะเกิดขึ้นเมื่อผู้คนตระหนักว่า LLM ไม่ได้ “ทำ” อะไรได้จริง
บริษัทต่าง ๆ จะเริ่มพยายามผลักความรับผิดชอบต่อความผิดพลาดของ LLM ไปให้ผู้บริโภค
เราต้องการระบบที่พูดอย่างซื่อสัตย์ได้ว่า “ไม่รู้” หรือ “ทำงานนี้ไม่ได้”
ตอนนี้ก็เริ่มมีรายงานแล้วว่าการใช้ LLM กลับให้คุณค่าติดลบกับโปรแกรมเมอร์
เพราะเสียเวลามากเกินไปในการจัดการกับร่องรอยที่ LLM ทิ้งไว้
การผลักภาระความผิดพลาดของ LLM ไปให้ผู้บริโภคไม่ใช่สิ่งที่มีแต่บริษัททำ
ผู้ใช้สายฮาร์ดคอร์ในฟอรัมนี้ (หรืออาจรวมถึงนักโฆษณาชวนเชื่อไซเบอร์) ก็มีท่าทีแบบนี้เหมือนกัน
พวกเขาชอบอ้างว่าถ้าจะดึงคุณค่าจาก LLM ต้องมีทั้งความรู้ระดับหนึ่งและทักษะด้าน 'prompt engineering' (ซึ่งตอนนี้ถึงขั้นเปลี่ยนชื่อเป็น 'context engineering' แล้ว)
สุดท้ายมันเลยกลายเป็นว่าคนที่รู้สึกว่าเครื่องมือนี้เสียเวลา กับคนที่รู้สึกว่ามันเพิ่มผลิตภาพมหาศาล ต่างกันเพียงเพราะ “ความสามารถของผู้ใช้” เท่านั้น
เรื่องเล่าแบบนี้แทรกอยู่ทั่วไป ทั้งในบล็อก ฟอรัม และแม้แต่การตีความผลวิจัยล่าสุดของ METR แบบผิด ๆ
แน่นอนว่าเครื่องมืออะไรก็ตาม ถ้าจะใช้ให้เต็มประสิทธิภาพก็ต้องมีทักษะในระดับหนึ่ง
แต่การเหมารวมว่าคนที่ใช้ LLM แล้วไม่เกิดประโยชน์เป็นเพราะพวกเขาไร้ความสามารถนั้นเป็นการดูถูก
LLM ไม่ใช่เทคโนโลยีต่างดาวที่ต้องใช้ความเชี่ยวชาญทางวิศวกรรมพิเศษ
แค่รู้จักตั้งคำถามให้ถูกและเรียนรู้เครื่องมือกับแนวคิดเล็กน้อย ใคร ๆ ก็เรียนรู้ได้
คนที่ชอบอ้างแบบนี้สุดท้ายก็มีเป้าหมายเพื่อขาย LLM หรือทำให้ผลกระทบของเทคโนโลยีดูเกินจริง
มนุษย์เองก็เชื่อถือไม่ได้อยู่แล้ว จึงต้องมี guardrail การตรวจสอบ การเฝ้าดู และการ audit
ในซอฟต์แวร์ถึงได้มีแนวปฏิบัติที่ดีอย่าง code review การทดสอบ การมอนิเตอร์ ฯลฯ
นั่นจึงเป็นเหตุผลที่ LLM สามารถหยั่งรากได้เร็วที่สุดในงานพัฒนาซอฟต์แวร์
เรามีวิธีรับมือกับ “แรงงานมนุษย์” ที่เชื่อถือไม่ได้อยู่แล้ว และก็แค่นำประสบการณ์นั้นมาประยุกต์ใช้กับ LLM
ท้ายที่สุด หัวใจสำคัญของการประยุกต์ใช้ LLM ให้สำเร็จคือการวาง guardrail ที่เฉพาะกับธุรกิจ และสร้างระบบที่ให้มนุษย์เข้ามาแทรกแซงได้เมื่อจำเป็น
จำเป็นต้องใส่ LLM เข้าไปในระบบที่บังคับให้มันทำตัวให้ถูกต้อง
เช่น บังคับให้ LLM อ้างอิงเอกสารหรือ man page และสั่งให้แสดงเฉพาะบรรทัดที่กำหนด
จากนั้นระบบก็ไปดึงบรรทัดนั้นมาจริง ๆ เพื่ออ้างอิง ทำให้ LLM สร้างคำอ้างอิงปลอมเองไม่ได้
ตอนนี้ยังไม่มีตัวอย่างที่ LLM ถูกผสานเข้ากับ type system อย่างแท้จริง
type system ที่แข็งแรง (เช่น dependent types) สามารถรับประกันได้ตั้งแต่คอมไพล์ว่า “ฟังก์ชันนี้จะคืนค่าลิสต์ที่ถูกจัดเรียงแล้วเสมอ”
แม้จะต้องเขียน proof code ด้วยมือตรง ๆ เยอะ แต่ถ้า LLM เขียน proof พวกนั้นแทนเราได้ อย่างน้อยตราบใดที่คอมไพล์ผ่านก็พอเชื่อได้ว่าถูกต้อง
แน่นอนว่ายังมีข้อยกเว้นอย่างหน่วยความจำไม่พอหรือไฟดับ
หวังว่ากระแส “ปั๊มของคุณภาพต่ำ” นี้จะจบลงเร็ว ๆ
แต่สำหรับมิจฉาชีพ สแปมเมอร์ บล็อกเกอร์สายคลิกเบต คนที่อยากแทรกแซงการเลือกตั้ง และพวกที่หวังรายได้โฆษณาจากแอป/เพลง/วิดีโอ/“ศิลปะ” ห่วย ๆ ซึ่งไม่สนคุณภาพเลย Gen AI ในตอนนี้คือผลิตภัณฑ์ที่สมบูรณ์แบบ
ต่อให้คนที่ให้ความสำคัญกับคุณภาพจะตระหนักว่า AI ไร้ประโยชน์ไปแล้ว ตอนนั้นอินเทอร์เน็ตก็คงตายไปแล้ว
ตอนนั้นเราก็คงอยู่ในยุค ‘หลังความจริง’ ‘หลังศิลปะ’ ‘หลังเทคโนโลยี’ และ ‘หลังประชาธิปไตย’ และคนที่ได้ประโยชน์มหาศาลจริง ๆ ก็มีแค่มหาเศรษฐีในแคลิฟอร์เนียไม่กี่คน
ไม่มีอะไรหดหู่ไปกว่าการเห็นคนฉลาดใช้พรสวรรค์ไปกับการสร้างขยะไร้สาระที่ทำลายคุณค่าทางสังคม
ในยุค 90 ผมได้ยินเพื่อนพูดถึงอินเทอร์เน็ตเป็นครั้งแรก แล้วพอได้ยินว่ามีนักศึกษาคนหนึ่งจะพาไปดูอินเทอร์เน็ตได้ หนึ่งชั่วโมงต่อมาผมก็นั่งอยู่หน้าคอมพิวเตอร์ในมหาวิทยาลัย
กดลิงก์ เห็นข้อความที่ไหลทะลักมาเร็วเกินกว่าจะอ่านทัน เลย์เอาต์สวย ๆ รูปภาพ ลิงก์ไปยังหน้าเว็บอื่น ทั้งหมดเข้าถึงได้ทันทีโดยไม่ต้องพิมพ์ ส่ง หรือรอ ผมช็อกมาก และมั่นใจว่านี่คืออนาคต มันดูหลีกเลี่ยงไม่ได้
เมื่อวานนี้ผมต้องเขียนโปรแกรมใหม่ทั้งก้อนเพราะไลบรารีใหญ่ตัวหนึ่ง ซึ่งปกติคงต้องอ่านเอกสารยาว ๆ หรือไม่ก็นั่งไล่โค้ดเอง
แต่ผมกลับแค่ก็อปปี้โปรแกรมทั้งหมดกับไลบรารีทั้งหมดไปให้ GPT 4.1 ขอให้มันเขียนใหม่ให้ แล้วมันก็ทำสำเร็จในครั้งเดียว ผมใช้เวลา 15 นาทีอ่านการเปลี่ยนแปลงทั้งหมดและแก้สไตล์นิดหน่อยก็จบ ประหยัดเวลาไปหลายชั่วโมง มันทำให้รู้สึกว่านี่คืออนาคต และอีกครั้ง มันดูหลีกเลี่ยงไม่ได้
P.S. มีคนตอบกลับจำนวนมากเปรียบประสบการณ์ของผมกับการคุยกับ LLM เพื่อค่อย ๆ แก้โค้ดแบบต่อเนื่อง ('agentic coding') แต่สิ่งที่ผมทำคือ "ทีละไฟล์ และไม่แตะโค้ดเอง" รายละเอียดอยู่ ที่นี่
เห็นด้วยเต็มที่ แต่จริง ๆ แล้วมันก็ไม่ต่างจากการบอกว่าการเขียนโปรแกรมด้วย IDE คืออนาคต
ใจกลางของ inevitabilism ไม่ได้อยู่ที่เครื่องมือพัฒนาใหม่ ๆ ที่ทรงพลังช่วยเพิ่มผลิตภาพได้หลายชั่วโมง แต่อยู่ที่ว่าใครเป็นนายหน้าของความรู้ นิยามของงานความรู้จะเปลี่ยนอย่างไร ความสัมพันธ์ระหว่างนายจ้างกับลูกจ้าง และเครื่องมือเฝ้าระวังจะเปลี่ยนระบบสังคมอย่างไร
คนที่เผยแพร่ inevitabilism ไม่ได้พยายามโน้มน้าวนักพัฒนาหัวแข็ง แต่กำลังพยายามสร้าง “กระดานเกม” ใหม่ที่เป็นประโยชน์กับตัวเอง และถ้าคุณไม่ชอบหรือคัดค้านกติกา ก็จะถูกปัดตกด้วยเหตุผลว่า “ช่วยไม่ได้ มันหลีกเลี่ยงไม่ได้ มันก็เป็นแบบนี้แหละ”
ปัญหาของ LLM คือเวลานำไปใช้กับการคิดสร้างสรรค์หรือการใช้ความคิด
มันมีประโยชน์จริงในหลายบริบท (โดยเฉพาะการเขียนโค้ด) แต่ก็ไม่ได้แปลว่า LLM เป็นเทคโนโลยีที่จะ “เปลี่ยนทุกสิ่ง”
คำกล่าวว่า “AI คือไฟฟ้าใหม่” ก็เป็นการพูดเกินจริง (อ้างถึงคำพูดของ Andrew Ng ที่ย้ำว่า AI จะไม่กลายเป็นเหมือนไฟฟ้า)
ผมว่ามันใกล้เคียงกับ “AI คือ VBA ใหม่” มากกว่า ตอนนั้นผู้คนก็ตื่นเต้นกันว่า “จากนี้ทุกคนเขียนโปรแกรมได้แล้ว!” แต่สุดท้ายผลกระทบใหญ่จริง ๆ อยู่แค่กับงานอัตโนมัติจุกจิก แน่นอนว่ารอบนี้ทุกอย่างเร็วกว่าและกระแสก็ใหญ่กว่ามาก แต่แก่นแท้คล้ายกัน
LLM ไม่ได้ทำงานดีเสมอไป
อย่างล่าสุด VirtualBox VM ของผมบน Windows 10 มีอาการแปลกคือช้าลง 4 เท่า
ผมใช้ AI ช่วยแล้วลองตามวิธีแก้หลายอย่างแต่ไม่ช่วย
สุดท้ายกลับไปเจอว่าใน Windows Features ช่อง "Virtual Machine Platform" ถูกเอาเครื่องหมายถูกออกไปเฉย ๆ
พอผมบอกเรื่องนี้กับ AI มันกลับยืนกรานว่าตัวเลือกนั้นไม่จำเป็น และสถานะ 'ปิด' ดีกว่า
แต่ในความจริงนั่นแหละคือสาเหตุ พอเช็กช่องแล้วรีบูต ทุกอย่างก็กลับมาปกติ
AI ไม่เพียงพลาดเวลาต้องใช้เหตุผลลึก ๆ บนพื้นฐานสามัญสำนึกเท่านั้น แม้แต่ความจำเชิงเชื่อมโยงแบบง่าย ๆ ก็ยังพลาดแบบเห็น ๆ
ถ้าจะใช้แทนการค้นเว็บ ต้องตรวจสอบข้อเท็จจริงเสมอ
AI แบบ LLM ไม่มีแนวคิดเรื่อง ‘ข้อเท็จจริง’ มันเป็นแค่การทำนายโทเค็น และตามข้อมูลนำเข้าหรือข้อมูลฝึก มันก็เพียงสร้างผลลัพธ์ที่มีโอกาสบังเอิญถูกสูงเท่านั้น
เห็นด้วยเต็มที่กับ inevitabilism ของ LLM ผมคิดว่าอนาคตที่ทุกคนใช้มันทุกวันอย่างที่อธิบายไว้นั้นหลีกเลี่ยงไม่ได้ เหมือนสมาร์ตโฟน
แต่ไม่เห็นด้วยกับ inevitabilism ของ AGI คำกล่าวว่า “โมเดลดีขึ้นเรื่อย ๆ เพราะงั้น AGI จึงหลีกเลี่ยงไม่ได้” เป็นการกระโดดสรุปจากผลลัพธ์เกินไป
คุณมั่นใจหรือว่าโค้ดนั้นทำงานถูกจริง ๆ?
ถ้าคุณใช้แต่ AI จนไม่เคยเรียนรู้วิธีอ่านโค้ดเลยล่ะ?
ผมคิดว่าความสามารถในการอ่านโค้ดเพื่อตรวจสอบด้วยตัวเองสำคัญกว่ามาก
ที่ทำงานเก่าของผม เคยมีเรื่องเล่าว่ามีคนพบบั๊กในเฟิร์มแวร์ควบคุม flap ของบริษัทผลิตเครื่องบิน และระหว่างที่กำลังบินไปอธิบายปัญหาด้วยตัวเอง ก็ปรากฏว่ากำลังนั่งอยู่บนเครื่องบินที่ใช้เฟิร์มแวร์ตัวที่มีปัญหานั้นพอดี
ส่วนที่ยากที่สุดของตรรกะแบบ inevitabilism นี้คือ คนที่พูดว่า “มันหลีกเลี่ยงไม่ได้” ก็คือคนที่กำลังทุ่มเงินหลายร้อยล้านดอลลาร์เพื่อพัฒนา ใช้งาน และโฆษณามันจริง ๆ
มันเหมือนสุนัขจิ้งจอกกำลังสร้างประตูให้เล้าไก่ แล้วบอกว่า “ห้ามสุนัขจิ้งจอกเข้าไปไม่ได้หรอก งั้นก็ทำให้มันเป็นระบบที่ดีสำหรับทุกคนดีกว่า”
คิดว่ากลยุทธ์แบบ “เอาเงินของคุณมาวางตามที่คุณพูด” (put your money where your mouth is) ก็ไม่ได้แย่นะ
สงสัยว่าพวกเขากำลัง “สร้างประตู” กันจริงหรือเปล่า หรือว่าประตูมีอยู่แล้ว และพวกเขาแค่พยายามเป็นคนแรกที่เข้าไปกันแน่
เห็นด้วย เราไม่ควรช่วยสุนัขจิ้งจอก แต่ควรไล่มันออกไปต่างหาก
มีอยู่สองอย่างที่ชัดเจนมาก
อย่างที่บทความบอก การเถียงกันภายในกรอบที่ CEO วางไว้ไม่มีประโยชน์ พวกเขาส่วนใหญ่กำลังพูดกับตลาด ขณะที่พวกเราคือคนที่เข้าใจหลักการทำงานของเทคโนโลยี จึงควรประเมิน LLM อย่างเป็นกลางมากกว่าและสร้างกรอบคิดของเราเอง
สำหรับผม LLM คืออีกขั้นของวิวัฒนาการเครื่องมือซอฟต์แวร์ การที่ LLM เขียนโค้ดใช้การได้ให้เราได้ง่าย ๆ อาจดูน่าทึ่งและน่ากลัว แต่ตลอดหลายสิบปีที่ผ่านมา โลกต้องการ CRUD แบบซ้ำ ๆ และ business logic ไม่รู้จบอยู่แล้ว และจากกรณีตัวอย่างหลากหลายนั้น การที่เครื่องกำเนิดความน่าจะเป็นขนาดใหญ่จะสร้างชุดผสมใหม่ขึ้นมาได้สำเร็จเมื่อได้รับบริบทและพรอมต์มากพอก็ไม่ใช่เรื่องน่าประหลาดใจ
ในฐานะช่างเทคนิค ผมอยากเข้าใจว่า LLM จะช่วยเป้าหมายของผมได้อย่างไร ถ้าไม่อยากใช้ก็ไม่ต้องใช้ แต่ก็ควรติดตามความสามารถที่เปลี่ยนไปเรื่อย ๆ เพื่อให้การตัดสินใจนั้นยังฉลาดอยู่
ต่อให้มีกระแส hype ใหญ่แค่ไหน ผมก็จะไม่ทำสงครามครูเสดไร้ประโยชน์เพียงเพราะยึดติดกับอดีตหรือกับสิ่งที่คิดว่าควรจะเป็น
ผู้คนชอบสื่อสารด้วยภาษาธรรมชาติ
LLM คือก้าวแรกในการหลุดพ้นจากภาษาเชิงตรรกะและอินเทอร์เฟซซับซ้อนสำหรับคุยกับคอมพิวเตอร์แบบเดิม ๆ และเป็นก้าวแรกในการปิดฉากรูปแบบการใช้คอมพิวเตอร์แบบยุคเริ่มต้นของอินเทอร์เน็ต
inevitabilism เกิดขึ้นจากตรงนี้ เพราะจริง ๆ แล้วคนส่วนใหญ่ไม่อยากเรียนรู้วิธีใช้คอมพิวเตอร์ พวกเขาแค่อยากพูดคุยกับมันเหมือนเป็นสิ่งมีชีวิต
(ผมเดาว่าคนที่ชอบคอมพิวเตอร์จริง ๆ น่าจะมีไม่ถึง 5%)
ผู้คนยังคาดหวังการตอบสนองที่เชื่อถือได้และแน่นอนด้วย กดปุ่มแล้วก็อยากได้ผลเดิมเกือบทุกครั้ง ไม่ใช่มีโอกาส 10% ที่จะเกิดอะไรประหลาด ๆ
ยังไม่ชัดเจนว่า LLM จะไปถึงระดับเสถียรภาพแบบนั้นได้หรือไม่
“ก้าวแรกในการหลุดพ้นจากภาษาเชิงตรรกะ” งั้นหรือ... ภาษาเชิงตรรกะโดยพื้นฐานแล้วเปิดทางให้เกิดการติดตั้งใช้งานแบบกำหนดผลได้แน่นอน และเป็นก้าวกระโดดสำคัญของการสร้างนามธรรม
ภาษาธรรมชาตินั้นห่างไกลจากเป้าหมายนี้มากจนแทบอธิบายให้ง่ายก็ยังไม่ได้
ถ้าคิดว่า “มนุษย์เองก็สร้างนามธรรมผ่านภาษาได้ไม่ใช่หรือ” ลองอ่านเอกสารกฎหมายจริงสักครั้ง (เช่น ข้อความเต็มของร่างกฎหมายสภาผู้แทนฯ) แล้วอาจเปลี่ยนใจ
กลับรู้สึกแปลกใจมากกว่าที่การมาถึงของ UI ภาษาธรรมชาติไม่ได้รับการต้อนรับอย่างล้นหลามกว่านี้
UI ภาษาธรรมชาติคือความฝันที่ยังไม่สำเร็จมายาวนานของวิทยาการคอมพิวเตอร์ และตอนนี้มันกลับดูเหมือนเป็นเรื่องธรรมดาเกินไปเสียแล้ว
LLM อาจไม่ใช่สิ่งที่ดีที่สุดสำหรับการเขียนโค้ด/การเขียนงาน/การวิจัย แต่ประสบการณ์ผู้ใช้ (UX) แบบนี้ควรถูกเก็บไว้
การอธิบายปัญหาได้อย่างอิสระด้วยภาษา พร้อมถ่ายทอดคำย่อ สแลง และโทนได้อย่างแม่นยำ เป็นเรื่องน่าทึ่งจริง ๆ และมีประโยชน์ในทางปฏิบัติสูง
“ภาษาที่ใช้ในชีวิตประจำวันไม่เหมาะอย่างสิ้นเชิงสำหรับการแสดงออกในเชิงนามธรรมเท่าที่นักฟิสิกส์ต้องการสื่อ มีเพียงคณิตศาสตร์และตรรกศาสตร์เชิงคณิตเท่านั้นที่สามารถแสดงออกได้อย่างกะทัดรัดเท่ากับความตั้งใจของนักฟิสิกส์”
มีเหตุผลที่เราเลิกใช้ภาษาธรรมชาติในคณิตศาสตร์ ภาษาธรรมชาตินั้นเยิ่นเย้อเกินไปและไม่แม่นยำอย่างมาก
ถ้ามีวิธีอธิบายสัญญาด้วยภาษาธรรมชาติได้จริง ทนายความก็คงหามันเจอนานแล้ว
เรากำลังสูญเสีย GDP ไปไม่น้อยเพราะการตีความสัญญาที่ต่างกัน
แนวคิดนี้เกี่ยวข้องอย่างใกล้ชิดกับ “การเมืองแห่งความหลีกเลี่ยงไม่ได้” ที่ Timothy Snyder พูดถึง
“การเมืองแห่งความหลีกเลี่ยงไม่ได้” คือโลกทัศน์ที่มองว่าอนาคตก็เป็นเพียงส่วนขยายของปัจจุบัน กฎแห่งความก้าวหน้าถูกรู้หมดแล้ว ไม่มีทางเลือกอื่น และดังนั้นเราจึงไม่มีอะไรต้องทำ
บทความต้นทางนำแนวคิดนี้มาใช้กับมิติทางการค้า แต่โดยแก่นแล้วกำลังพูดถึงภาษาที่พราก ‘ความเป็นผู้กระทำ’ (Agency) ไปจากผู้คน
ลิงก์บทความที่เกี่ยวข้อง