เหตุผลที่โมเดลแบบเปิดให้ความรู้สึกปลดปล่อยเกินคาด

 (matthewsaltz.com)
1 คะแนน โดย GN⁺ 2 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • แม้จะใช้ Claude และ ChatGPT มาประมาณ 2 ปี แต่เมื่อเชื่อมต่อ opencode เข้ากับ endpoint สำหรับ inference ของตัวเอง กลับรู้สึกปลดปล่อยมากกว่าที่คาด
  • เมื่อข้อมูลไหลเวียนเฉพาะระหว่างแล็ปท็อปกับ endpoint ที่ตนเองเป็นเจ้าของ ความรู้สึกถึง การควบคุมและความเป็นเจ้าของ ก็เพิ่มขึ้น
  • แทนที่จะอัปเกรดแพ็กเกจ Claude หรือ ChatGPT สำหรับใช้งานส่วนบุคคล ตัดสินใจใช้ Kimi K3 ที่ Modal เปิดตัวในรูปแบบ managed endpoint สำหรับโปรเจกต์เสริม
  • ตั้งค่าและรัน opencode ให้ใช้ Modal endpoint ของตัวเองได้ในเวลาประมาณ 5 นาที
  • ให้ความรู้สึกเรียบง่ายเหมือนตอนเปิด vim แทน editor ขนาดใหญ่ที่หวือหวา และให้ความรู้สึกเป็นอิสระราวกับหลุดจากการเชื่อมต่อที่เคยถูกผูกไว้กับผู้ให้บริการรายอื่น

จุดเริ่มต้นที่เลือก endpoint ของตัวเอง

  • ไม่มีแพ็กเกจ Claude หรือ ChatGPT ที่เหมาะกับบัญชีส่วนบุคคล จึงมองหาทางเลือกอื่นแทนการอัปเกรดแพ็กเกจเพื่อทำโปรเจกต์เสริม
  • Modal ซึ่งเป็นที่ทำงาน ได้เปิดตัว Kimi K3 บน managed endpoint และเป็นที่รู้กันว่าประสิทธิภาพใช้ได้ จึงตัดสินใจลองใช้เอง
    • ไม่เคยใช้มาก่อน เพราะไม่ได้มีส่วนร่วมโดยตรงในการพัฒนาฟีเจอร์นี้

ประสบการณ์ใช้งานที่เปลี่ยนไปเมื่อเชื่อมต่อ opencode

  • เชื่อมต่อ opencode เข้ากับ Modal endpoint ของตัวเองและรันได้ในเวลาประมาณ 5 นาที
  • โครงสร้างที่ข้อมูลไหลเวียนระหว่างแล็ปท็อปกับ endpoint ที่ตนเองเป็นเจ้าของ ช่วยเพิ่ม ความรู้สึกควบคุมและความเป็นเจ้าของ
  • หน้าจอเริ่มต้นที่ว่างและเรียบง่ายของ opencode ให้ความรู้สึกคล้ายกับการเปิด vim หลังจากใช้ editor ขนาดใหญ่มานาน
  • ความรู้สึกเป็นอิสระ ราวกับการเชื่อมต่อที่เคยผูกไว้กับผู้ให้บริการรายอื่นถูกตัดขาด เป็นการเปลี่ยนแปลงที่ไม่คาดคิดมาก่อน

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2 시간 전
ความเห็นจาก Hacker News

  • เหตุผลที่ Claude Code ได้รับความนิยมคือ แค่ขอแบบกำกวมอย่าง “ช่วยสร้าง SaaS มูลค่าล้านดอลลาร์ให้หน่อย” ก็สามารถสร้างโค้ดหลายพันบรรทัด พร้อมการจัดการข้อยกเว้นเชิงผิวหน้าและฟีเจอร์ต่าง ๆ ได้ในคราวเดียว
    โมเดลขนาดเล็กและโมเดลเปิดนั้นไม่เก่งงานแบบนี้ แต่การพัฒนาจริงไม่ได้เป็นการขอทั้งแอปในครั้งเดียวแล้วจบ หากปรับปรุงฟังก์ชันเล็ก ๆ ที่เจาะจงแบบวนซ้ำเหมือนการพัฒนาแบบดั้งเดิม GLM ก็ทำได้ดีพอ ๆ กับ Claude หรืออาจดีกว่าด้วยซ้ำ และถ้าให้บริบทอย่างชัดเจนเหมือน rubber duck debugging ส่วนใหญ่ก็ให้ผลลัพธ์ที่สะอาดมาก

    • ส่วนตัวแล้วพบว่า DeepSeek v4 Flash มีประโยชน์พอ ๆ กับ Opus ถ้ามีความเข้าใจทางเทคนิคพอที่จะขอการเปลี่ยนแปลงที่ต้องการอย่างเจาะจงด้วยคำศัพท์ที่ถูกต้อง แทนการสาธิตเทคนิคแบบครั้งเดียวก็เพียงพอแล้ว และหลังเติมเงินใน OpenRouter ก็ใช้เวลานานมากกว่าจะใช้จ่ายถึง 1 ดอลลาร์
    • โมเดลแนวหน้า อย่าง Opus 5 ก็ยอดเยี่ยมมากเช่นกันในการผสานองค์ประกอบจากหลายสาขาวิชา และบางครั้งสามารถสร้างผลวิจัยใหม่ที่ถึงขั้นตีพิมพ์ได้จากคำขอที่กำกวมและอาศัยการคาดเดา
      แม้แต่วิธีที่มีคนรู้จักอยู่แล้ว ก็สามารถนำมาสร้างได้ในเวลาประมาณ 1 ใน 100 ของการทำด้วยมือ ช่วยสำรวจไอเดียได้รวดเร็ว และบางครั้งยังเขียน implementation ตั้งแต่ต้นโดยแทบไม่พึ่ง dependency ภายนอกนอกจาก NumPy หรือ SciPy ทำให้ทั้งความชัดเจนและประสิทธิภาพดีขึ้น
    • เครื่องมือพวกนี้ช่วยลด กำแพงการเข้าสู่สายงานของคนที่ไม่ใช่วิศวกรซอฟต์แวร์ ได้มาก ในฐานะนักวิทยาศาสตร์ข้อมูลด้านสิ่งแวดล้อม ผู้เขียนมีประสบการณ์ฝั่งฟรอนต์เอนด์จำกัด แต่ก็ใช้ Claude อยู่หลายสัปดาห์จนทำแอป Android สำหรับช่วยคู่ชีวิตจัดการการพูดได้เสร็จ และตอนนี้กำลังทดสอบอยู่
      ตอนวางแผนได้ระบุบริการและฟีเจอร์ที่จะใช้ไว้อย่างละเอียดหลายวัน แต่ก็มีฟีเจอร์ที่ไม่ได้ระบุชัดในคำขอหลุดหายไป เช่น ตอนขอให้ทำ X แต่ลืมฟังก์ชันแก้ไขและลบ แม้จะมี proof of concept ของฟังก์ชันหลักอยู่แล้ว แต่ก่อนหน้านี้ไม่มีอินเทอร์เฟซที่ใช้งานง่าย และ Claude ก็ช่วยให้ทำแอปเฉพาะทางได้อย่างรวดเร็วแม้มีเวลาจำกัด ถ้าทำคนเดียวคงใช้เวลาเกิน 1 ปีแม้ผลลัพธ์จะขัดเกลาน้อยกว่านี้
    • กับคำขอเพี้ยน ๆ อย่าง “ช่วยสร้างโปรแกรมมาแทน Microsoft Word” นั้น ChatGPT อธิบายเรื่องการจัดการข้อยกเว้น การแก้บั๊ก ฟีเจอร์หายาก และเวิร์กโฟลว์ที่สั่งสมมาหลายสิบปี พร้อมถามกลับว่าแน่ใจหรือว่าต้องการแบบนั้นจริง ๆ ขณะที่ Claude กลับลงมือทำทันทีราวกับจะสร้างมันจริง ๆ ซึ่งน่าทึ่งมาก
    • ถ้าโมเดลเปิดสามารถสร้างทั้งแอปได้ในครั้งเดียวเมื่อไร ทุกคนน่าจะลืม “วิธีพัฒนาซอฟต์แวร์” แบบเดิมกันอย่างรวดเร็ว

  • ประสิทธิภาพของ DeepSeek V4 Flash ดีเกินคาดมาก ปกติใช้ Claude Code ที่อิง Claude 5 Opus และ Codex ที่อิง GPT-5.6 Sol เป็นหลัก แต่ DS V4 Flash ก็ไม่ได้ให้ความรู้สึกว่าด้อยกว่ามาก และเมื่อใช้ร่วมกับ oh-my-pi หรือ pi พื้นฐานก็ถือว่ายอดเยี่ยมทีเดียว
    โมเดลแนวหน้าเก่งเรื่องการเรียกใช้เครื่องมือมากกว่า จึงได้เปรียบในงานแบบ assistant flow แต่พอปรับสภาพแวดล้อมการรันให้เหมาะ เช่น เขียนเครื่องมือใหม่ให้เข้ากับวิธีเดาของโมเดล DS V4 Flash ก็ทำงานได้ดีพอเช่นกัน โมเดลเล็กยังมี เวลาแฝงก่อนโทเค็นแรกและจำนวนโทเค็นต่อวินาที ดีกว่ามาก จึงแข่งขันได้ในหลายงาน และให้ความรู้สึกคล้าย Sonnet ช่วงปลายปีที่แล้ว ถือว่าเก่งมาก

    • ช่วงสุดสัปดาห์ได้ทำระบบอย่าง OpenClaw ใช้เอง โดยใช้ DeepSeek v4 Flash กับ Qwen เป็นผู้ช่วยบน Matrix และมีค่าใช้จ่ายราว 2 ดอลลาร์ต่อเดือน ควบคุมเครื่องมือที่เข้าถึงได้ทั้งหมดเอง จึงมีประโยชน์กว่า ChatGPT
      สามารถถ่ายบันทึกการรักษาแล้วเพิ่มลงตารางเวลา หรือแท็กและทำ OCR ให้ PDF เพื่อเก็บถาวรได้ รวมถึงค้นหาอินเทอร์เน็ตและดึงข้อมูลจาก Google Maps ได้ด้วย และยังเชื่อมกับ Home Assistant และระบบคล้าย Alexa แบบโอเพนซอร์ส เพื่อคุยกับเอเจนต์ด้วยเสียงได้

  • โดยเนื้อแท้แล้วมันคือ โฆษณาแฝงแบบแนบเนียน แต่บังเอิญเป็นสแต็กที่กำลังสนใจอยู่พอดี เนื้อหาเลยถือว่าโอเค อย่างไรก็ตามควรมีตัวชี้วัดด้านต้นทุนเพื่อให้ประเมินได้ว่าต้องยอมจ่ายเพิ่มเท่าไรเพื่อไม่ส่งบทสนทนาไปถึง NSA โดยตรง
    มีข้อมูลกันว่า Claude กับ OpenAI ได้รับการอุดหนุนไม่น้อย จึงสงสัยว่าการใช้ Kimi K3 บน private endpoint จะถูกหรือแพงกว่า

    • ถ้าอยากรู้ว่าในต้นทุนระดับหนึ่งใช้ coding agent แบบ “ฟรี” ได้มากแค่ไหน ก็มีผลสำรวจของ Fable: https://claude.ai/public/artifacts/2c9a5001-0b7e-4944-beb1-9...
    • บน OpenRouter หน้าของแต่ละโมเดลจะแสดงราคาแยกตามผู้ให้บริการและไอคอนว่ามีการไม่เก็บข้อมูลหรือไม่ และยังตั้งกฎป้องกันทั้งบัญชีเพื่อบล็อกการ route ไปยังผู้ให้บริการที่ไม่ใช่ ZDR ได้ด้วย

  • บทความนี้คือ โฆษณาสินค้าของตัวเอง แม้ผู้เขียนจะมีส่วนร่วมมานานและเขียนอย่างตรงไปตรงมา แต่โพสต์แนว “ฉันลองใช้สินค้าของตัวเองแล้วมันดีมาก” ก็ไม่ต่างจากการโปรโมตตัวเอง

    • ถึงโพสต์จะโดนรายงานไปแล้วและคงไม่ต่างมากนัก แต่จริง ๆ แล้วไม่มีเจตนาโฆษณาเลย ไม่ใช่โพสต์ที่มีคนขอให้เขียนหรือวางแผนไว้ล่วงหน้า แค่พอเริ่มมีแรงทำอะไรที่บ้าน ก็เลยต้องการทั้ง LLM ที่ช่วยพัฒนาและ LLM ที่จะใช้ในผลิตภัณฑ์ภายใน จึงลองใช้ Modal endpoint ที่นึกขึ้นมาได้
      ไม่ได้อยากอัปเกรดแพ็กเกจ Claude และถ้าไม่รู้สึกว่าน่าสนใจก็คงไม่เขียนโพสต์ด้วยซ้ำ สิ่งสำคัญที่ทำให้เขียนไม่ใช่ “Modal เจ๋งมาก” แต่เป็นความรู้สึกที่อธิบายในเนื้อหาต่างหาก ถึงขั้นกังวลว่าจะดูเหมือนโฆษณาเลยคิดจะลบลิงก์ด้วยซ้ำ และการที่บริษัทที่ตัวเองทำงานอยู่ทำอะไรเจ๋ง ๆ ก็เป็นแค่ข้อดีรองเท่านั้น
    • ใน HN มีโพสต์บล็อกที่โปรโมต Anthropic ขึ้นมาตลอด การบอกว่านั่นไม่ใช่โฆษณา แต่โพสต์นี้เป็นโฆษณา กลับฟังดูยากจะยอมรับ
    • ถ้าผลิตภัณฑ์ดีจริง ก็ไม่มีเหตุผลที่ นักพัฒนาจะโปรโมตเอง ไม่ได้
    • ถ้าจะคงโพสต์นี้ไว้ ก็ควรใส่ Show HN ไว้หน้าชื่อเรื่อง
    • หลายโพสต์ใน HN ก็เป็นการโปรโมตตัวเองอยู่แล้ว และความน่าสนใจหรือไม่น่าสนใจก็ถูกคัดกรองผ่านกระบวนการขึ้นหน้าแรก โพสต์โปรโมตตัวเองที่น่าสนใจก็ยังคงน่าสนใจอยู่ดี

  • GLM 5.2 ให้ความรู้สึกว่าดีกว่า Opus และ K3 ก็ดีพอ ๆ กับ Fable หวังว่าจะมีการกลั่น K3 ลงมาสู่ขนาดประมาณ Qwen 3.6 27b หรือ Poolside S 2.1 เพื่อให้มีตัวแทน Composer 2.5 แบบรันในเครื่องที่เร็วออกมา

  • เมื่อเปลี่ยนจากโมเดลแนวหน้าขนาดใหญ่ไปใช้โมเดลที่คล่องตัวแบบ Composer บางครั้งให้ความรู้สึกคล้ายกับการเปิด vim แทนที่จะใช้เอดิเตอร์ที่หวือหวาแต่หนัก
    กับโมเดลที่เร็ว วงจรการคิดและถามตอบจะลื่นไหลกว่า คล้ายกับจังหวะการสลับไฟล์อย่างรวดเร็วใน vim

  • ชอบอินเทอร์เฟซที่ดูโล่งของ OpenCode มันสะอาด เบา และทำงานแบบไม่ยัดเยียด ให้ความรู้สึกด้านความเร็วที่ต่างจากเครื่องมืออินเทอร์เน็ตยุคนี้ซึ่งดูดีแต่ช้า

    • Pi Agent ให้ความรู้สึกเบากว่านั้นอีก น่าลองทดสอบดู

  • บทความนี้ดูเหมือน โฆษณาให้ Modal และถ้าเป็นแค่การเช่าฮาร์ดแวร์ ก็ยังสงสัยว่าจะเรียกว่าเป็นอินฟราของตัวเองได้จริงหรือไม่

  • ไม่ว่าผลิตในจีนหรือไม่ สิ่งที่ควรกังวลคือการใช้ โมเดลที่โฮสต์ไว้ โดยไม่รู้ว่าความลับทางการค้าถูกส่งไปที่ไหน
    ลองใช้โมเดลรันในเครื่องแล้ว แต่บน MPB M5 16GB รุ่นพื้นฐานมันช้า และก็ยังไม่มีแผนอัปเกรดโน้ตบุ๊กในเร็ว ๆ นี้