GLM 5.2 และการพังทลายของมาร์จินด้านการอนุมาน AI ที่กำลังจะมาถึง

 (martinalderson.com)
1 คะแนน โดย GN⁺ 4 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • GLM 5.2 แสดงให้เห็นว่าโมเดลแบบ open weights เข้าใกล้งานเอเจนต์ระดับ Opus·GPT แล้ว และอาจกดดันมาร์จินด้านการอนุมานที่สูงของโมเดล frontier แบบปิดได้
  • ประเด็นด้านต้นทุนของ AI ไม่ใช่ค่าเทรนที่จ่ายครั้งเดียว แต่คือ ต้นทุนการอนุมาน ที่เพิ่มขึ้นตามอุปสงค์ และราคาค่า API ระดับ $25/MTok มีแนวโน้มว่าจะรวมมาร์จินรวมที่สูงไว้ด้วย
  • คุณภาพอยู่ในระดับที่แทบแยกจาก Opus ไม่ออก แต่ด้วยลักษณะที่ “คิด” มาก ทำให้ ความเร็วและการใช้โทเคน เพิ่มขึ้น ขณะที่การไม่รองรับ vision และการค้นหาเว็บที่อ่อนแอยังคงเป็นจุดอ่อน
  • ด้วย endpoint ที่เข้ากันได้กับ OpenAI และ Anthropic ของ Z.ai และ Fireworks จึงสามารถทดลองใน Claude Code และ Codex ได้โดยเพียงสลับ base URL และ API key
  • ราคา GLM 5.2 อยู่ที่ราว $4.40/MTok ต่ำกว่า 20% ของราคา Opus แบบขายปลีก และราว 15% ของ GPT5.5 และยังอาจลดลงได้อีกด้วยการปรับแต่ง serving stack และการใช้ AMD

โครงสร้างต้นทุน: มาร์จินถูกกำหนดโดยค่าอนุมานมากกว่าค่าเทรน

  • ตอน DeepSeek R1 ออกมา ตลาดตอบสนองต่อรายงานที่ว่าค่าเทรนโมเดล V3 ต่ำกว่า 6 ล้านดอลลาร์ และตีความว่าการลงทุนด้านโครงสร้างพื้นฐานขนาดใหญ่สำหรับการเทรนโมเดลสิ้นสุดลงแล้ว แต่กรณีนี้ใกล้เคียงกับการอ่านโครงสร้างต้นทุน AI ผิดมากกว่า
  • ต้นทุนการเทรน ต้องใช้เงินลงทุนก้อนใหญ่ แต่โดยพื้นฐานแล้วมีลักษณะเป็นต้นทุนคงที่ที่จ่ายล่วงหน้า
    • ห้องแล็บ frontier ต้องเทรนโมเดลใหม่อย่างต่อเนื่องเพื่อรักษาความสามารถในการแข่งขัน จึงไม่ใช่ต้นทุนครั้งเดียวแบบสมบูรณ์
    • ถึงอย่างนั้นก็ยังมีลักษณะแตกต่างจากต้นทุนการอนุมานที่เพิ่มขึ้นตามปริมาณการใช้งานของลูกค้า
  • ต้นทุนการอนุมาน จะเพิ่มขึ้นไปพร้อมกับอุปสงค์ และเป็นต้นทุนส่วนเพิ่มที่แท้จริง
  • มีการคำนวณว่าเมื่อ Anthropic และ OpenAI เรียกเก็บค่าอนุมานที่ $25/MTok อาจมีมาร์จินรวมราว 90% เมื่อเทียบกับต้นทุนคอมพิวต์
    • เอกสารการเงินที่รั่วไหลของ OpenAI ชี้ว่ามาร์จินรวมตามรายได้อยู่ราว 60% แต่มีความเป็นไปได้ว่านี่รวมต้นทุนด้านซัพพอร์ต การประมวลผลการชำระเงิน และบริการอื่น ๆ ไว้แล้ว
  • โมเดลธุรกิจของห้องแล็บ AI ระดับ frontier คือเทรนโมเดลด้วยบุคลากรและคอมพิวต์ที่มีต้นทุนสูง จากนั้นค่อยทยอยตัดจำหน่ายต้นทุนเหล่านั้นด้วยงานอนุมานปริมาณมากที่ทำกำไรได้สูง

คุณภาพและประสบการณ์ใช้งานของ GLM 5.2

  • GLM 5.2 ของ Z.ai อาจมองได้ว่าเป็นโมเดลคู่แข่งแบบ open weights ตัวแรกที่สู้กับ Opus และ GPT ได้อย่างแท้จริง
    • GPT รุ่นล่าสุด ณ เวลาที่เขียนถูกระบุว่าเป็น GPT 5.5
    • และยังมีนัยว่าโมเดลในอนาคตอาจก้าวข้ามระดับนี้ได้
  • ในการใช้งานจริง คุณภาพสูงมากจนแทบแยกไม่ออกจาก Opus ที่ใช้งานอยู่เป็นประจำ
  • ข้อเสียที่ใหญ่ที่สุดคือ ความเร็วที่รับรู้ได้ว่าช้า
    • สำหรับงานเอเจนต์แบบไม่โต้ตอบที่ไม่อ่อนไหวต่อเวลา เช่น การรีวิว PR เบื้องหลัง นี่ไม่ใช่ปัญหาใหญ่
    • แต่ในการใช้งานแบบโต้ตอบ จะช้าไปเล็กน้อยจนทำให้รักษาสมาธิได้ยาก
    • ความช้านี้ส่วนใหญ่ไม่ได้มาจากการเสิร์ฟโมเดลเอง แต่มาจากการที่โมเดล “คิด” มาก
    • GLM 5.2 บน Fireworks เปิดตัวโดยมีความเร็ว tokens/sec ที่สูง แต่ความเร็วในการใช้งานจริงค่อนข้างผันผวน
  • ด้วยลักษณะที่คิดมากกว่า จึงทำให้ การใช้โทเคน เพิ่มขึ้นและลดความคุ้มค่าด้านต้นทุนลงบางส่วน

จุดอ่อนด้าน vision และการค้นหาเว็บ

  • GLM 5.2 ไม่รองรับ vision
    • หลังจากความสามารถด้าน vision ความละเอียดสูงของ Opus 4.7 การใช้งานที่อ่าน PDF จากภาพ สกรีนช็อต และไฟล์ดีไซน์เพิ่มขึ้นมาก จึงทำให้จุดอ่อนนี้สัมผัสได้ชัด
    • มันยังคงเป็นจุดอ่อนสำคัญเมื่อเทียบกับห้องแล็บ frontier
  • การไม่มีฟังก์ชันค้นหาเว็บ หรือมีแต่คุณภาพต่ำ ก็จำกัดงานเอเจนต์เช่นกัน
    • แทบทุกเซสชันของเอเจนต์ต้องค้นหาเว็บจำนวนมากเพื่อหาข้อมูลรายการต่าง ๆ
    • Z.ai มี MCP ทางเลือกสำหรับค้นหาเว็บ แต่ช้าและคุณภาพต่ำ
    • Fireworks ไม่มีฟังก์ชันค้นหาเว็บให้
  • วิธีแก้ชั่วคราวคือสั่งให้เอเจนต์ใช้การค้นหาเว็บแบบ CLI เช่น ddgr
  • API ค้นหาเว็บจาก third party ที่ดี อาจช่วยเติมช่องว่างใหญ่ที่ผู้ให้บริการโมเดล open weights ยังอุดไม่ได้
  • ความสามารถด้านการค้นหาเว็บเป็นสิ่งจำเป็นสำหรับงานเอเจนต์จำนวนมาก และอาจถูกแก้ไขได้เมื่อเวลาผ่านไป หากมีทั้งผู้สร้างดัชนีค้นหาและงานด้านพาร์ตเนอร์ชิปหรือการเชื่อมต่อที่เหมาะสม

โมเดล open weights ที่มีต้นทุนการย้ายต่ำ

  • ส่วนที่เป็นภัยคุกคามต่อห้องแล็บ frontier มากกว่าคือ ความยากในการย้ายระบบ ไปยังโมเดล open weights นั้นต่ำ
  • ทั้ง Z.ai และ Fireworks ต่างก็มี endpoint ที่เข้ากันได้กับ OpenAI และ Anthropic
    • เปลี่ยน base URL ใน Claude Code และ Codex ไปยังผู้ให้บริการอนุมาน
    • ตั้งค่า API key
    • ระบุโมเดลที่จะใช้เป็น GLM 5.2
  • ในสถานการณ์ที่ Anthropic เคยประกาศแล้วถอนการเรียกเก็บค่าบริการ API สำหรับการใช้งานเอเจนต์แบบไม่โต้ตอบของ claude -p การใช้งานจำนวนมากสามารถเปลี่ยนไปใช้ GLM ได้
  • แม้แต่ในการใช้งานแบบโต้ตอบ หากไม่นับการไม่มี vision และความช้า ก็แทบสังเกตไม่ได้เลยว่ากำลังใช้โมเดลที่ไม่ใช่ Opus อยู่ใน Claude Code
  • การเปลี่ยนนี้ไม่ใช่การย้ายระบบแบบ Microsoft หรือ Salesforce ที่ต้องวางแผนกันหลายปี
    • ต้นทุนการเปลี่ยนต่ำ
    • อาจต่ำกว่าต้นทุนของการต้องคอยตามการเปลี่ยนนโยบายและข้อกำหนดของห้องแล็บ frontier
    • เป็นไปได้ว่า Claude Code อาจทำให้การใช้ผู้ให้บริการ third party ยากขึ้นในอนาคต
    • แต่ก็มีทางเลือกโอเพนซอร์สที่ดีมากมาย รวมถึง Codex และ OpenCode

การนำไปใช้ในองค์กร: การคุ้มครองข้อมูลและตัวเลือกการติดตั้ง

  • ความกังวลที่พบบ่อยในองค์กรคือ ความเป็นส่วนตัวและความปลอดภัยของข้อมูล
  • API ทางการและแพ็กเกจสมัครสมาชิกของ Z.ai อาจเป็นตัวเลือกที่ยากสำหรับองค์กร เนื่องจากข้อกำหนดที่อ่อนและความเชื่อมโยงอย่างลึกกับจีนแผ่นดินใหญ่
  • โมเดล open weights เปิดทางให้เลือกผู้ให้บริการรายอื่นได้
    • ในตลาดมีผู้ให้บริการจำนวนมากที่มีเงื่อนไขสัญญาเหมาะสมกว่า
    • หากจำเป็นก็สามารถโฮสต์แบบ on-premises ได้
  • การติดตั้งแบบ on-premises ทำให้สามารถนำข้อมูลที่อ่อนไหวมากกว่า ซึ่งก่อนหน้านี้ไม่อาจส่งให้บุคคลที่สามรายใดได้ ไปใช้กับเวิร์กโฟลว์เอเจนต์ระดับ Opus ได้

ราคาและแรงกดดันต่อมาร์จิน

  • ราคาปัจจุบันของ GLM 5.2 อยู่ที่ราว $4.40/MTok
    • ต่ำกว่า 20% ของราคา Opus แบบขายปลีก
    • ราว 15% ของต้นทุน GPT5.5
  • การเปรียบเทียบนี้ไม่ใช่การเทียบแบบ apples-to-apples เต็มรูปแบบ เพราะ GLM 5.2 ใช้โทเคนมากกว่าในงานเดียวกัน
  • ถึงอย่างนั้นก็มีแนวโน้มสูงว่าจะให้คุณภาพใกล้เคียงกันในเกือบทุกเวิร์กโฟลว์ ด้วยราคาที่ถูกกว่ามากกว่า 50%
  • Z.ai มีแพ็กเกจสมัครสมาชิก “coding plan” ที่คล้ายกับแผนของ Anthropic และ OpenAI พร้อมชูจุดเด่นเรื่องขีดจำกัดการใช้งานที่สูงกว่า
    • อย่างไรก็ดี ข้อกำหนดที่ผ่อนคลายในเรื่องการเทรนและการเก็บรักษาข้อมูล อาจทำให้ขายให้กับการใช้งานแบบมืออาชีพได้ยาก
    • หากห้องแล็บ frontier ปรับขึ้นราคาอย่างมาก มันอาจกลายเป็นตัวเลือกที่น่าเชื่อถือสำหรับผู้ใช้ที่ให้ความสำคัญกับงบประมาณ
  • คาดว่าต้นทุนของ GLM 5.2 จะลดลงอย่างมากในอีกไม่กี่เดือนข้างหน้าจากการปรับแต่ง serving stack
    • Wafer สรุปการรัน GLM 5.2 บนฮาร์ดแวร์ AMD
    • โดยระบุว่าการรันงานอนุมานบน AMD มีต้นทุนต่อโทเคนถูกกว่า Nvidia Blackwell ถึง 2.75 เท่า
  • Fireworks เคยมอบเครดิตฟรีสำหรับการทดลอง GLM

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 4 시간 전
ความคิดเห็นใน Hacker News

  • ผมไม่แน่ใจว่าต้นทุนเองสำคัญขนาดนั้นจริงหรือไม่

    1. หลังการมาของคลาวด์ ต้นทุนคอมพิวต์ ลดลงมาก แต่ hyperscaler ก็ยังรักษามาร์จิ้นสูงไว้ได้
    2. มีชุดโปรแกรมสำนักงานโอเพนซอร์สมากมาย แต่ก็แข่งกับความแพร่หลายของ G Suite หรือ Office ไม่ได้ และ GitHub กับ Slack ก็คล้ายกัน
    3. Windows กับ macOS ครองตลาดเดสก์ท็อปสำหรับบ้าน แม้จะมีทางเลือกฟรีมาตั้งนานแล้ว
    4. องค์ประกอบโครงสร้างพื้นฐานที่เคยเป็นโอเพนซอร์สอย่าง Redis และ Elastic Search ก็มีทางเลือกสาย Apache แต่ก็ยังทำมาร์จิ้นได้ดี
      ผมเข้าใจตรรกะเรื่องมาร์จิ้นพังทลาย แต่ไม่ค่อยเห็นกรณีเทียบเคียงในประวัติศาสตร์ บริษัทน่าจะยอมจ่ายแพงให้กับการรับประกันบริการ การผสานรวม และคู่สัญญาที่ฟ้องร้องได้ สุดท้ายเหมือนประโยค “ไม่มีใครถูกไล่ออกเพราะซื้อ IBM” จะเกิดซ้ำอีก
    • ผมว่าอุปมานี้ไม่ได้ชัดเจนขนาดนั้น อย่างแรก LLM มีอินพุต/เอาต์พุตเป็นข้อความ จึงแทบไม่มี lock-in effect และย้ายได้ง่าย อย่างที่สอง ดูเหมือนคุณประเมินขนาดบิลที่บริษัทต่าง ๆ จ่ายต่ำไป และฝ่ายการเงินก็ได้รับคำสั่งให้คุมรายจ่ายอยู่แล้ว แม้ในสถานการณ์ที่ยังมีเงินอุดหนุนจำนวนมาก
      อย่างที่สาม ยุทธศาสตร์ของสหรัฐฯ ดูเหมือนกำลังมุ่งไปทางจำกัดการเข้าถึงโมเดลทรงพลังอย่างจงใจ แต่ถ้าจีนยังเดินต่อในกระแสตอนนี้ ภายใน 6 เดือนก็น่าจะปล่อยโมเดลที่ดีพอ ๆ กับ Fable และจะไม่ปิดกั้นไว้ด้วย หากมีโมเดลที่ถูกกว่าและดีกว่าเปิดให้ใช้ แรงจูงใจในการย้ายจะมหาศาล และถ้าจีนกำลังชิงส่วนแบ่งตลาดอยู่ ก็มีแรงจูงใจน้อยกว่ามากที่จะขึ้นราคา ยุทธศาสตร์ AI ของ David Sacks และรัฐบาลสหรัฐฯ สายตาสั้นมาก จนน่าจะโดนแรงตีกลับ
    • เมื่อคิดถึงกรณีเทียบเคียงในประวัติศาสตร์ จะมี survivorship bias สูงมาก เพราะในกรณีที่มาร์จิ้นพังทลายและการแข่งขันทำให้อุตสาหกรรมกลายเป็นสินค้าโภคภัณฑ์ ชื่อใหญ่ ๆ ที่เคยผูกขาดในยุคนั้นก็ไม่ได้เหลืออยู่แล้ว
      ในทศวรรษ 1980 มาร์จิ้นของชิปหน่วยความจำพังทลาย จน Intel เลิกธุรกิจชิปหน่วยความจำไปทั้งหมด และตอนนั้น Intel เป็นที่รู้จักในฐานะบริษัทชิปหน่วยความจำมากกว่าบริษัทไมโครโปรเซสเซอร์เสียอีก มาร์จิ้นของเวิร์กสเตชันระดับสูงก็พังทลายต่อหน้าเครื่อง IBM PC compatible ราคาถูกและซอฟต์แวร์ MS Windows ที่เพิ่มขึ้นอย่างรวดเร็ว กลายเป็นสาเหตุโดยตรงที่ทำให้ SGI, Sun, Symbolics, Lucid, LMI ฯลฯ หายไป
      UNIX แบบ proprietary อย่าง HP-UX, IRIX, AIX, SCO Unix แทบจะหายไป และถูกแทนที่ด้วยระบบปฏิบัติการ proprietary ที่ถูกกว่าอย่าง Windows และ MacOS หรือทายาทโอเพนซอร์สอย่าง Linux และ BSD ผู้ให้บริการฐานข้อมูลเชิงพาณิชย์อย่าง Oracle, dBase, Sybase, FoxPro, SQL Server และ Access ของ Microsoft ก็เผชิญแรงกดดันด้านมาร์จิ้นอย่างหนักจาก PostGres, MySQL, SQLite โดย Oracle อยู่รอดได้เพราะฐานติดตั้งขนาดใหญ่และทีมกฎหมาย ส่วน Microsoft อยู่รอดได้เพราะใช้การอุดหนุนข้ามจากการผูกขาด OS และ Office แต่ dBase, Sybase, FoxPro หายไป
    • ต่างจากตัวอย่างเหล่านั้น การเปลี่ยน LLM นั้นถูกและง่าย ถึงขั้นที่พอมีโมเดลใหม่ออกมาทุก 3 เดือน ผู้คนก็เริ่มหยิบไปใช้ทันที
      ไม่ว่าผู้ให้บริการจะต่างกัน ประสบการณ์ผู้ใช้ก็เหมือนกัน คือส่งพรอมป์ไปแล้วได้คำตอบกลับมา กรณีอื่น ๆ ต้องยอมเสียการสนับสนุนหรือทนช่วงเปลี่ยนผ่านที่ยาก แต่ LLM แทบไม่มีการสนับสนุนตั้งแต่แรก และการย้ายก็อยู่ในระดับอัปเดต harness ปัจจุบันให้รู้จักโมเดลอื่นเท่านั้น
      การเปรียบเทียบที่เหมาะกว่าน่าจะเป็นการผงาดของ AMD แม้จะไม่ได้ถึงขั้นครองตลาด แต่ก็ทำให้เกิดรอยร้าวใหญ่ และปัจจัยสำคัญคือ AMD x86 ค่อนข้างใกล้เคียงและเข้ากันได้กับ Intel x86 แถมถูกกว่ามาก
    • สิ่งที่พวกเขาต้องการไม่ใช่แค่มาร์จิ้นดี ๆ แต่ต้องถอนทุน เกือบ 1 ล้านล้านดอลลาร์ ให้ได้ภายในไม่กี่ปี การเทียบกับ Elastic Search หรือ Redis จึงไม่ค่อยตรงนัก
      เหตุที่ hyperscaler ยังใช้ได้ผลคือมีคุณค่าจริงเมื่อเทียบกับทางเลือกฟรี และต้นทุนการย้ายผู้ให้บริการก็สูงมหาศาล Windows กับ macOS ก็มีต้นทุนในการเปลี่ยนไปใช้อย่างอื่นสูงมากเช่นกัน และหลายครั้งก็ทำไม่ได้ Office เองก็มีต้นทุนการย้ายสูงเพราะปัญหาความเข้ากันได้และการฝึกพนักงานใหม่
      สุดท้ายหัวใจคือ lock-in effect แต่เท่าที่ผ่านมา LLM ดูเหมือนจะไม่มีสิ่งนั้น ดังนั้นผมคิดว่าประเด็นข้างต้นจึงไม่ค่อยเข้ากับกรณีนี้
    • ผมคิดว่าสาเหตุที่ชุดโปรแกรมสำนักงานโอเพนซอร์สแข่งกับความแพร่หลายของ G Suite หรือ Office ไม่ได้ เป็นเพราะ การทำงานร่วมกัน แก้ให้ดีได้ยาก ถ้าไม่มีการทำงานร่วมกัน G Suite/Office ก็แทบไม่ได้ให้อะไรเลย
      Mac OS ก็ฟรีเหมือนกัน ฟรีในความหมายแบบฟรีเบียร์
      เรื่องที่บริษัทจะจ่ายแพงให้กับการรับประกันบริการ การผสานรวม และคู่สัญญาที่ฟ้องได้ ผมเห็นด้วย แต่ในภาพใหญ่ บริษัทอเมริกันร่ำรวยมหาศาล จึงอาจไม่ใช่ตัวอย่างที่ดีของผู้ใช้จ่ายอย่างมีเหตุผล

  • เดือนที่แล้วผมยกเลิกสมาชิก Claude Pro แล้วเอา 20 ดอลลาร์ นั้นไปซื้อเครดิต Openrouter คำถามส่วนใหญ่เกี่ยวกับการสำรวจความรู้ Gemma4 ก็ตอบได้ งานแก้โค้ดพื้นฐาน Qwen3.6 27b ก็พอ และงานที่ยากจริง ๆ GLM5.2 ก็ยังรับไหว
    ผมก็ไม่ได้ใช้ AI หนักมากอยู่แล้ว เลยประหยัดเงินได้มากกว่าด้วยวิธีใช้เครดิต API โดยเลือกโมเดลที่เล็กที่สุดเท่าที่เป็นไปได้ตามความซับซ้อนของงาน

  • เห็นด้วยจากอีกมุมหนึ่ง AI กำลังดูดกลืนงานของผมที่เป็นวิศวกรซอฟต์แวร์ระบบอาวุโสสาย C/C++ ไปเรื่อย ๆ แต่ตลอดหลายเดือนที่ใช้ gpt-5.5/5.6 กับ codex ผมจ่ายไปแค่ไม่กี่ร้อยดอลลาร์เอง
    ไม่รู้ว่าคนอื่นทำอะไรกันถึงเผา token เยอะขนาดนั้น แต่สำหรับผมมันถูกจนน่าขำ และทุกวันก็เจอฟีเจอร์ใหม่ ๆ ต่อให้ต้นทุนจะขึ้นหรือลง ก็ถูกเกินไปเมื่อเทียบกับสิ่งที่ได้มา เลยไม่สนใจ

    • เพราะเราจ่ายราคาผู้บริโภครายย่อย คือค่าสมัครสมาชิกนั่นเอง token ชุดเดียวกันถ้าเป็น การคิดเงินระดับองค์กร จะมีราคาหลายพันดอลลาร์
    • เวิร์กโฟลว์แบบเอเจนต์ ใช้เยอะมาก คือกรณีที่ลูปเอเจนต์อัตโนมัติเคลื่อนที่ไปสู่เป้าหมายอย่างต่อเนื่อง
      ถ้าใช้ LLM เป็นผู้ช่วยงานของตัวเอง จะไม่ได้ใช้ token เยอะขนาดนั้น แต่ถ้าให้เอเจนต์หลายตัวทำงานอย่างอิสระและตรวจงานกันเอง งบจะไหม้เร็วมากจริง ๆ
    • เป็นเพราะความไม่รู้ สุขอนามัยโค้ดที่แย่ และ prompt ที่ไม่ชำนาญ ในฐานะคนที่แทบเขียนโค้ดไม่เป็น ช่วงก่อนยุคเอเจนต์ ตอนที่ Gemini IDE แทบไม่มีข้อจำกัดการใช้งาน ผมมีโปรเจกต์เก่า ๆ ที่ทำด้วย vibe coding ไฟล์พองเป็นหลายพันบรรทัดขึ้นไป และ backlog ของบั๊กก็สะสม
      โมเดลโง่ ๆ เริ่มพังที่จุดนั้น และเพราะโปรเจกต์ยังพอใช้กับความต้องการของผมได้ ก็เลยหยุดไว้ ต่อมามี agent coding กับโมเดลที่ฉลาดพอจะแก้ปัญหาออกมา แต่ codebase รกเกินไปจนมันจัดการได้ไร้ประสิทธิภาพอย่างสุด ๆ ถึงขั้นใช้โควตา 5 ชั่วโมงหมดไปกับ prompt แค่ไม่กี่ครั้ง
      พอใช้เวลาหลายวันทำ agent.md ที่พอใช้ได้และรีแฟกเตอร์ codebase ตอนนี้ก็ใช้ token ทีละนิดเท่านั้น ผมคิดว่ายังมีคนจำนวนมากอยู่ในเรือลำเดียวกัน พวกเราหลายคนไม่รู้ best practice เลย และไม่รู้ด้วยว่าจะบอกเอเจนต์ให้ทำตัวอย่างไร
      มองย้อนกลับไป ผมน่าจะใช้เวลาสองสามวันเรียนพื้นฐาน แต่ปัญหาคือเราไม่รู้ว่าเราไม่รู้อะไร ผมไม่ค่อยเชื่อว่าบริษัทต่าง ๆ จะ prompt ให้เอเจนต์ทำตัวอย่างใส่ใจตอน onboarding ผู้ใช้ใหม่ และสำหรับพวกเขาแล้ว การทำให้คนแบบผมติดใจและใช้ token ให้มากที่สุดย่อมเป็นประโยชน์ ผมจ่ายเพิ่มไปอีกหลายร้อยดอลลาร์กับ subscription และ tier ที่ไม่จำเป็น แต่ตอนนั้นมันเป็นเงินเล็กน้อยเมื่อเทียบกับ productivity boost จาก 0 ไป 1
    • ประสบการณ์เหมือนกันเลย ผมไม่เข้าใจจริง ๆ ว่าคนอื่นเผา ปริมาณการใช้ token ได้มากอย่างที่อ้างกันอย่างไร
    • เคยนำการเขียน โค้ดขนาดประมาณ 500,000 บรรทัด มาแล้ว

  • ตัวโมเดลเองไม่มีความสามารถ vision แบบเนทีฟ จึงมี vision MCP มาช่วยเติมช่องว่างนี้: https://docs.z.ai/devpack/mcp/vision-mcp-server
    การค้นเว็บก็โดยรวมใช้ได้ดี ถ้าใช้ ZCode harness จะได้โควตา Coding Plan มากขึ้น: https://zcode.z.ai/en
    ลองใช้แป๊บหนึ่งแล้ว อยู่ประมาณกึ่งกลางระหว่าง OpenCode Desktop กับ Claude Desktop OpenCode Desktop ยังใหม่แต่ก็ใช้ได้ ส่วน Claude Desktop เวอร์ชันล่าสุดดี
    ในฐานะโมเดล GLM 5.2 โดยรวมพอใจเมื่ออยู่ในโหมดคิดสูงสุด อยู่ประมาณระหว่าง Sonnet 5 กับ Opus 4.8 และดีกว่า DeepSeek V4 Pro อย่างชัดเจน
    ด้านราคา subscription ดูไม่ได้ดีเท่าที่คาด ผมใช้ขีดจำกัดรายสัปดาห์ของแผน Pro ราคา 50 ดอลลาร์ไปประมาณ 60% ภายในวันเดียว และที่ได้แค่นั้นก็เพราะถูกจำกัดให้ใช้ได้เพียง 20% ต่อข้อจำกัด 5 ชั่วโมง ไม่อย่างนั้นคงเป็น 80–100% แล้ว งานที่ทำก็ไม่ได้บ้าคลั่งอะไรเป็นพิเศษ แค่ทำงานยาว ๆ สองโปรเจกต์ขนานกัน โดยมี cache hit rate ประมาณ 96% และ sub-agent รีวิวโค้ดแบบขนานสูงสุด 3 ตัว
    ถ้าเป็น subscription Max 100 ดอลลาร์ก็น่าจะอยู่ได้ทั้งสัปดาห์ แต่ Anthropic ก็ทำได้ด้วยเงินเท่ากัน และ OpenAI ก็น่าจะทำได้เช่นกัน ช่วงนอกพีกดีกว่า แต่คงนั่งดูดนิ้วเฉย ๆ ตั้งแต่ 9 โมงเช้าถึงบ่ายโมงตามเวลาท้องถิ่นไม่ได้
    การประหยัดที่เห็นผลจริงน่าจะต้องใช้แผน Max พร้อมจ่ายรายปี แต่นั่นยิ่งโน้มน้าวยากกว่า

  • สิ่งสำคัญคือบริษัทเหล่านี้ไม่สามารถฮั้วกันตรึงราคาได้ การมี จีนเป็นคู่แข่ง รับประกันเรื่องนั้น
    วิธีที่ง่ายที่สุดในการทำความเข้าใจเศรษฐศาสตร์ของ token ยังเป็นเศรษฐศาสตร์จุลภาคพื้นฐานอยู่ดี สิ่งนี้จะไม่เป็นตลาดแข่งขัน หรือก็คือตลาดที่กำไรไหลไปสู่ศูนย์ได้อย่างไร?
    ไม่ว่า A หรือ O จะทำอะไรเพื่อพยายามเหลือ margin มากขึ้น คู่แข่งก็สามารถลอกหรือกดราคาต่ำกว่าได้ และการลดราคาก็มีข้อดีคือช่วยเก็บข้อมูลฝึกได้ด้วย นอกจากการฮั้วหรือการตรึงราคาแล้ว มีอะไรที่จะหยุด gross margin ของ token ไม่ให้ไหลไปสู่ศูนย์ได้?

    • มีสิ่งหนึ่งที่ตกหล่นไป สิ่งที่จะหยุดมันคือ นโยบายอุตสาหกรรมของรัฐบาลกลาง
    • การดูเงื่อนไขภายในตลาดเดียวก็ยังเป็นเศรษฐศาสตร์จุลภาคอยู่ดี ผมเห็นด้วย แต่ยากที่จะเห็นว่าบริษัทต่าง ๆ จะได้อำนาจตลาดจากตรงไหน ดังนั้นกำไรน่าจะเข้าใกล้ศูนย์
      แต่ผมก็เคยคิดแบบเดียวกันกับ GPU และ Nvidia ก็ยังดูเหมือนไม่มีคู่แข่งที่แท้จริงในดาต้าเซ็นเตอร์อยู่ดี

  • อุปมาที่ผมชอบคือ AI จะ ถูกเท่ากับไฟฟ้า
    เวลาคุณใช้ไฟฟ้า คุณรู้ไหมว่าใครเป็นผู้จ่ายไฟ หรือมาจากโรงไฟฟ้าไหน? คงไม่รู้ ไฟฟ้าเป็นสินค้าโภคภัณฑ์อเนกประสงค์และระบบก็ลงตัวแล้วเป็นส่วนใหญ่ เพราะมีทรัพยากรพลังงานมากมาย มีพลังงานทางเลือก และมีเหมืองถ่านหินด้วย ทั้งหมดนี้แข่งขันกันในการซื้อขายอุปสงค์-อุปทานพลังงานที่เกิดขึ้นแบบเรียลไทม์ ให้นึกถึง OpenRouter ในจุดนี้
    สุดท้ายผู้บริโภคเป็นฝ่ายชนะเพราะความอุดมสมบูรณ์
    ตัวอย่างใหญ่ที่สุดที่จะโชว์ความอุดมสมบูรณ์ของปัญญาที่ถูกและไร้ขีดจำกัด อาจไม่ใช่ GLM5.2 แต่เป็น DeepSeek V4 Pro max ที่ราคา 0.435 ดอลลาร์ต่อ input 1 ล้าน token และ 0.87 ดอลลาร์ต่อ output 1 ล้าน token

  • ผมไม่เข้าใจประเด็นที่ว่า “การฝึกต้องใช้เงินลงทุนสูง แต่เป็นต้นทุนล่วงหน้าแบบคงที่ พอใช้เงินหลายร้อยล้านดอลลาร์ฝึกโมเดลแล้วก็จบ”
    ถ้ามีคู่แข่ง และผู้คนก็คาดหวังมากขึ้นเรื่อย ๆ จนต้องฝึกโมเดลใหม่ต่อไปเรื่อย ๆ และดูเหมือนว่าต้นทุนการฝึกจะสูงขึ้นเรื่อย ๆ เมื่อเทียบกับอัตราการปรับปรุง นี่ไม่ใช่ ต้นทุนประจำ ที่ต้องแบกรับต่อเนื่องหรอกหรือ? เชิงอรรถเหมือนจะบอกนัยถึงจุดนี้ แต่สุดท้ายก็ดูเหมือนปล่อยผ่านไปแบบคร่าว ๆ
    ผมสงสัยด้วยว่ามีต้นทุนการฝึกแบบค่อยเป็นค่อยไปเพื่อให้โมเดลยังมีความเกี่ยวข้องอยู่ตลอดหรือไม่ หรือว่าโมเดลรู้แค่เหตุการณ์จนถึงวันที่มันถูกฝึกเท่านั้น?

    • โมเดลเหล่านี้พึ่งพาความรู้ที่ฝังอยู่ใน weights เมื่อมีไลบรารีใหม่ออกมา มี Linux เวอร์ชันใหม่ออกมา หรือมีโปรโตคอลใหม่บางอย่างมาแทนของเดิม เราก็อยากให้ LLM รู้เรื่องนั้น
      แน่นอนว่าใส่ลงไปใน context window ได้ แต่นั่นก็มีปัญหาของมันเอง
      เว้นแต่งานวิจัยใหม่ที่ดูมีแนวโน้มบางชิ้นจะให้วิธีใหม่ ๆ ต้นทุนการฝึก ก็จะยังเป็นรูรั่วที่เงินไหลออกไปเรื่อย ๆ
      ยิ่งไปกว่านั้น ถ้าหยุดฝึก อีก 6 เดือนก็จะมีใครสักคนปล่อยโมเดล open weights ออกมา แล้วคุณก็ต้องแข่งกันเสนอผลิตภัณฑ์เดียวกันในราคาต่ำสุด
      อย่าลืมด้วยว่าธุรกิจนี้ไม่ใช่แค่เครื่องมือเทคโนโลยีธรรมดา แต่เป็นธุรกิจที่ต้องแทรกเข้าไปในตลาดแรงงานทั่วโลกให้ได้ หากจะทำให้มูลค่าประเมิน 1 ล้านล้านดอลลาร์สมเหตุสมผล โมเดลต้องดีกว่านี้มาก

  • บอกว่าเป็น “การเปลี่ยนแปลงที่กำลังมาถึงในเศรษฐกิจ AI ที่ถูกเข้าใจน้อยที่สุด” แต่กลับพูดเรื่องที่อยู่ในข่าว AI ทุกวัน เหมือนกับว่าไม่เคยได้ยินหรือว่าโมเดลโอเพนซอร์สกำลังถูกลงและคุณภาพดีขึ้น
    อย่างแรก GLM5.2 ไม่ได้ดีเท่า Opus ตามมาตรฐานใด ๆ
    อย่างที่สอง โมเดลโอเพนซอร์สจะกดดันมาร์จิ้นในที่สุดนั้นถูกต้อง และทุกคนก็รู้กันอยู่แล้ว แต่กำลังมองว่าโมเดลธุรกิจ AI วันนี้จะเหมือนเดิมในวันพรุ่งนี้ด้วยหรือ?

    • GLM-5.2 ไม่ได้ดีเท่า Opus แต่ดีกว่า คุณสามารถปลดข้อจำกัดของ GLM-5.2 แล้วเอาไปใช้กับโปรเจกต์ที่ Opus ปฏิเสธได้
    • ขึ้นอยู่กับว่าคุณทำอะไรอยู่ ถ้าเป็นงานซับซ้อนหรืองานที่นิยามไม่ชัด Opus น่าจะเหมาะกว่า แต่ถ้าเป็นงานค่อนข้างง่ายหรือกำหนดไว้ชัดเจนมาก GLM-5.2 ก็ดีพอ ๆ กัน และมักจะเร็วกว่าเยอะ
      บุคลิกก็เป็นกลางกว่าและโต้แย้งน้อยกว่า Opus ด้วย Opus มักให้ความรู้สึกว่า “ถ้าจะโต้แย้งประเด็นนั้น...” อยู่ตลอด ขณะที่ GLM ใกล้เคียงกับ “ครับ/ค่ะ เข้าใจแล้ว!” มากกว่า ผมใช้ทั้งคู่และมองว่าทั้งคู่ดี แต่ถ้า Opus หายไปพรุ่งนี้ ผมคงไม่ร้องไห้ แค่มี GLM-5.2 ก็ปรับตัวได้ไม่นาน

  • มีคนบอกว่าความสามารถในการค้นเว็บของ GLM 5.2 แย่ แต่ผมว่าเป็น ความรับผิดชอบของ harness
    ผมรันอินสแตนซ์ SearXNG เองบน VPS แล้วรวมเข้ากับ Pi พร้อมเครื่องมือ webfetch และจนถึงตอนนี้ GLM 5.2 ก็หาของให้ได้ดี ผมขอข่าวล่าสุดจากหนังสือพิมพ์ออนไลน์ออสเตรียที่แยกวิเคราะห์ได้ยากเพราะมีโฆษณา overlay ก้าวร้าว แอปแชตพื้นฐานของ ChatGPT และ Claude ล้มเหลวทั้งคู่ GLM 5.2 ใน Pi ฉลาดพอที่จะค้นหา RSS feed และให้ภาพรวมละเอียดมาได้
    การไม่มี vision น่าเสียดายจริง ๆ ผมทำทางเลี่ยงไว้ใน Pi แล้ว และก็พอใช้ได้ แต่ไม่ได้ดีขนาดนั้น และประสบการณ์โดยรวมก็แปลก ๆ

  • ดูเหมือนเป็นบทความที่ค่อนข้างไร้ความหมาย เพราะมองแต่ในมุม output token
    ใน agentic coding cached input token คือ 90% ของ “ต้นทุน” API ไม่ต้องใช้การคำนวณบน GPU และ DeepSeek แสดงให้เห็นแล้วว่าสามารถประมวลผลให้ถูกลง 50–100 เท่าด้วย MLA/CSA/HCA และดิสก์จำนวนมาก สิ่งนี้ต่างหากที่จะทำให้มาร์จิ้นพัง

    • ห้องแล็บ AI ในสหรัฐฯ ไม่ได้กำลังพยายามอย่างสุดชีวิตเพื่อหาตลาดอื่นนอกเหนือจาก agentic coding อยู่หรอกหรือ?
    • MLA/CSA/HCA ทั้งหมดเป็นเทคนิค การบีบอัดแบบสูญเสียข้อมูล ไม่ใช่หรือ? ผมสงสัยว่านั่นเป็นหนึ่งในเหตุผลที่คนบ่นเรื่องคุณภาพตกเมื่อ context size ใหญ่ขึ้นหรือเปล่า
    • ความเห็นอันดับต้น ๆ ปัจจุบันใน https://lobste.rs/s/ua1gxl/glm_5_2_coming_ai_margin_collapse ชี้เรื่อง cached input token ได้ตรงจุด แต่กลับได้ข้อสรุปตรงกันข้าม
      เนื้อหาคือ “จ่ายเดือนละ 100 ดอลลาร์ แต่ได้ปริมาณการใช้ API มูลค่า 3,600 ดอลลาร์ น่าจะเป็นเพราะ Anthropic พบวิธีฉลาด ๆ ในการทำ model routing และ input caching และใช้เงินนักลงทุนอุดหนุน รวมถึงยอมรับการขาดทุนของ operating margin ได้”
      การตีความของผมคือ นี่คือภาพที่ Anthropic อยากให้ทุกคนเชื่อจริง ๆ ความจริงคือ 90% ของ 3,600 ดอลลาร์นั้นเป็น cached input token และอย่างที่ DeepSeek แสดงให้เห็น มันทำให้แทบฟรีได้