- โมเดลแบบ Open Weight ที่มีประสิทธิภาพและความสามารถในการพกพาเพียงพอ สามารถกลายเป็นรากฐานที่นักพัฒนา คลาวด์ และองค์กรต่าง ๆ ขยายต่อร่วมกันได้ และสร้างระบบนิเวศนวัตกรรมที่ผู้ให้บริการรายเดียวไล่ตามได้ยาก
- เช่นเดียวกับที่ Kubernetes ดึงเครื่องมือด้านเครือข่าย สตอเรจ และ observability เข้ามารวมบนอินเทอร์เฟซร่วม ในวงการ AI ก็มี สแต็กสำหรับโปรดักชัน ที่เติบโตต่อเนื่อง ตั้งแต่ model serving, fine-tuning, agent runtime ไปจนถึงการประเมินผล
- โมเดลสาธารณะบน Hugging Face มีมากกว่า 2 ล้านโมเดลแล้ว และ GLM-5.2 ทำคะแนนในการประเมิน SWE-bench Pro ของตนเองได้ 62.1% สูงกว่า GPT-5.5 ที่ 58.6% ขณะที่ Kimi K3 ก็ทำคะแนนในการประเมินอิสระได้ใกล้เคียงกับ Opus 4.8 และ GPT-5.5
- หากมีการแบนโมเดล Open Weight จากจีนในวงกว้าง การพัฒนาทั่วโลกจะยังคงเดินหน้าต่อไป แต่จะมีเพียงนักวิจัยและบริษัทในสหรัฐฯ ที่ถูกกันออกจากระบบนิเวศ และนวัตกรรมอาจสะสมอยู่รอบโมเดลจีน ซึ่งคิดเป็น 41% ของยอดดาวน์โหลดบน Hugging Face ในปีที่ผ่านมา
- สหรัฐฯ ควรแข่งขันด้วยการเปิดเผยโมเดลแนวหน้าที่ใช้งานเชิงพาณิชย์ได้ การจัดซื้อจัดจ้างภาครัฐที่ให้ความสำคัญกับความสามารถในการพกพาและการทำงานร่วมกัน การสร้างชั้นเครื่องมือและปฏิบัติการทั้งหมด และ การทดสอบความปลอดภัยกับมาตรฐานโดยหน่วยงานอิสระ มากกว่าการสั่งแบน
พลังของแพลตฟอร์มเปิดที่ Kubernetes แสดงให้เห็น
- Mesosphere พัฒนาซอฟต์แวร์โอเพนซอร์สแบบ cloud native บนพื้นฐานของ Apache Mesos แล้วสร้าง DC/OS รอบ ๆ เพื่อทำเป็นผลิตภัณฑ์เชิงพาณิชย์ในรูปแบบดิสทริบิวชันสำหรับองค์กรที่รวมการสนับสนุนและฟีเจอร์กรรมสิทธิ์
- ต่อมา Kubernetes ซึ่งเป็นโครงการโอเพนซอร์สที่ใหม่กว่าและสมบูรณ์กว่า ได้รวบรวมชุมชน cloud native และเขย่า Mesosphere
- วิศวกรระบบกระจายศูนย์และโครงสร้างพื้นฐานระดับโลกฝากเส้นทางอาชีพไว้กับ Kubernetes และสมาชิกชุมชนที่ภักดีต่อ Mesosphere บางส่วนก็ย้ายตามไป
- เมื่อศูนย์กลางของนวัตกรรมย้ายไปที่ Kubernetes องค์ประกอบที่ยังขาดอยู่ เช่น เครือข่าย สตอเรจ observability เครื่องมือ deploy และ policy engine ก็ถูกพัฒนาอย่างรวดเร็ว
- เมื่อสตาร์ทอัพจำนวนมากและผู้ให้บริการเดิมเข้ามามีส่วนร่วม องค์ประกอบเกือบทั้งหมดที่จำเป็นต่อการใช้งาน Kubernetes ในโปรดักชันก็มีให้ใช้งานแบบโอเพนซอร์ส
- ผู้ให้บริการคลาวด์ รวมถึง Mesosphere/D2iQ, Rancher, Red Hat และ Nutanix สร้างธุรกิจโดยเน้นการผสานรวม ฟีเจอร์สำหรับองค์กร การสนับสนุน และการปฏิบัติการ
- ความสำเร็จของ Kubernetes ไม่ได้เกิดจากการเปิด repository เพียงอย่างเดียว
- มันกลายเป็น รากฐานที่เป็นกลาง ซึ่งวิศวกร ผู้ให้บริการคลาวด์ และผู้ให้บริการระดับองค์กรสามารถขยายตามความต้องการของลูกค้าได้
- อินเทอร์เฟซร่วมและธรรมาภิบาลที่เป็นกลางต่อผู้ให้บริการทำให้ผู้เข้าร่วมเชื่อมั่นว่าสามารถสร้างผลิตภัณฑ์ในระยะยาวได้
- เมื่อแพลตฟอร์มเปิดที่ปรับแต่งได้กลายเป็นศูนย์กลางของอุตสาหกรรม ผู้ให้บริการรายเดียวก็ยากที่จะตาม ความเร็วของนวัตกรรมรวม ของทั้งระบบนิเวศได้ทัน
ความแตกต่างระหว่าง Open Weight กับ Open Source AI
- โมเดลส่วนใหญ่ที่มักเรียกว่าโอเพนซอร์ส จริง ๆ แล้วคือโมเดลแบบ Open Weight
- สามารถดาวน์โหลดและแก้ไขพารามิเตอร์ที่ฝึกมาแล้วได้ แต่โดยมากข้อมูลฝึกและกระบวนการฝึกทั้งหมดไม่ได้ถูกเปิดเผย
- ดังนั้นจึงยังไม่ถึงระดับ นิยาม Open Source AI ของ Open Source Initiative
- แม้จะไม่ใช่โอเพนซอร์สเต็มรูปแบบ แต่ระบบนิเวศก็สามารถก่อตัวรอบผลลัพธ์ที่ผู้ใช้รันและแก้ไขได้
- โครงสร้างของ Kubernetes กับ AI ก็มีความแตกต่างสำคัญเช่นกัน
- ผู้ร่วมพัฒนา Kubernetes สามารถตรวจสอบและแก้ไขซอร์สโค้ดจริง แล้วส่งการปรับปรุงกลับเข้าไปในโปรเจกต์ upstream ที่ใช้ร่วมกันได้
- ผลลัพธ์จากการ fine-tuning โมเดลโดยทั่วไปไม่ได้ถูกแชร์ในลักษณะเดียวกัน
- แม้จะดาวน์โหลดน้ำหนักของโมเดลแนวหน้าได้ การรันก็อาจต้องใช้ฮาร์ดแวร์ราคาแพง
- ใน AI ยังไม่มี องค์กรแบบ CNCF ที่ให้ธรรมาภิบาลเป็นกลางและอินเทอร์เฟซร่วม
- จุดร่วมของทั้งสองระบบนิเวศคือ รากฐานที่มีประสิทธิภาพและความสามารถในการพกพาเพียงพอจะดึงดูดนวัตกรรมเสริมที่เกินกว่าผู้สร้างดั้งเดิมจะทำได้เพียงลำพัง
จาก Self-hosting สู่แพลตฟอร์มโมเดล
- เหตุผลแรกในการนำโมเดล Open Weight มาใช้คือ self-hosting
- องค์กรต้องการรันโมเดลบนคลาวด์หรือดาต้าเซ็นเตอร์ของตนเอง พร้อมควบคุมข้อมูลโดยตรง
- เมื่อปริมาณการใช้งานและต้นทุน inference เพิ่มขึ้น ความต้องการควบคุมต้นทุนโดยตรงก็เพิ่มตาม
- ความต้องการเหล่านี้ทำให้เกิด สแต็ก model serving แบบโอเพนซอร์ส เช่น vLLM, SGLang, llama.cpp, Ollama และ MLX
- Open Weight ทำได้มากกว่า self-hosting โดยช่วยให้นักพัฒนาปรับแก้และเผยแพร่โมเดลเองได้
- บน Hugging Face มี โมเดลสาธารณะมากกว่า 2 ล้านโมเดล ลงทะเบียนอยู่
- รอบตระกูลโมเดลยอดนิยมอย่าง Qwen และ Gemma มีผลลัพธ์ต่อยอดหลากหลายรูปแบบเกิดขึ้น
- น้ำหนักที่ผ่านการ quantization และ conversion สำหรับสถาปัตยกรรมชิปและขนาดโมเดลต่าง ๆ
- โมเดล fine-tuned และ LoRA adapter สำหรับงานเขียนโค้ด การแพทย์ กฎหมาย คณิตศาสตร์ และ agent workflow
- การ merge โมเดลที่รวมผลลัพธ์จากการ fine-tuning ต่าง ๆ
- เวอร์ชันดัดแปลงของโมเดลสำหรับ runtime ต่าง ๆ เช่น TensorRT-LLM, vLLM และ MLX
แนวหน้าและช่องว่างประสิทธิภาพที่แคบลง
- ในอดีต โมเดลเปิดมักถูกตัดออกจากการแข่งขันระดับแนวหน้าได้ง่าย เพราะประสิทธิภาพพื้นฐานยังไม่เพียงพอสำหรับงานเขียนโค้ดและงาน agent ที่ยากที่สุด แต่ช่องว่างนี้กำลังแคบลงอย่างรวดเร็ว
- Z.ai เปิดตัว GLM-5.2 พร้อมน้ำหนักแบบเปิดภายใต้ไลเซนส์ MIT
- คะแนน SWE-bench Pro จากการประเมินของตนเองอยู่ที่ 62.1% สูงกว่า GPT-5.5 ที่ 58.6%
- อย่างไรก็ตาม ผลลัพธ์อาจแตกต่างกันตาม benchmark และ agent harness
- Moonshot ระบุว่า Kimi K3 เข้าใกล้โมเดลแนวหน้าแบบปิดในการทำงานเขียนโค้ดระยะยาว และให้คำมั่นว่าจะเปิดน้ำหนักในวันที่ 27 กรกฎาคม
- ใน การประเมินอิสระของ Artificial Analysis Kimi K3 ก็ได้คะแนนใกล้เคียงกับ Opus 4.8 และ GPT-5.5
- เมื่อประสิทธิภาพของโมเดลพื้นฐานดีพอ agent runtime, coding harness, sandbox, การประเมินผล, observability และโครงการ fine-tuning เฉพาะทางก็สามารถเติบโตต่อเนื่องเป็นลูกโซ่ได้
- องค์ประกอบเหล่านี้รวมกันเป็น สแต็กเปิดระดับโปรดักชัน ที่ปรับให้เข้ากับ workload ฮาร์ดแวร์ และโครงสร้างต้นทุนของทีมได้
- เป็นโครงสร้างที่รันโมเดล Open Weight บนซอฟต์แวร์โอเพนซอร์ส
- ไม่ได้หมายความว่าจะชนะโมเดลแบบปิดทุกตัวในทุก benchmark
- AI แนวหน้าเป็นการแข่งขันด้านบุคลากร และระบบนิเวศแบบเปิดให้เหตุผลแก่คนเก่งทั่วโลกในการพัฒนาบนรากฐานเดียวกัน
ผลกระทบของการแบนโมเดลจีนต่อสหรัฐฯ
- หลังจากโมเดลจีนที่แข็งแกร่งอย่าง Kimi K3 ปรากฏขึ้น มีรายงานว่ารัฐบาลทรัมป์กำลัง พิจารณาข้อจำกัดต่อโมเดล Open Weight จากจีน
- มาตรการแบนที่เป็นไปได้จะมีรูปแบบอย่างไรยังไม่ชัดเจน
- หากแบนการใช้โมเดล Open Weight จากจีนในวงกว้าง นักวิจัยและบริษัทสหรัฐฯ อาจแยกตัวเองออกจากระบบนิเวศที่รวมนักวิจัยและวิศวกร AI ระดับโลก
- ระบบนิเวศนี้มีนักวิจัยชาวจีนจำนวนมากเข้าร่วมด้วย
- กิจกรรมการพัฒนาทั่วโลกจะยังดำเนินต่อไป แต่จะเกิดผลลัพธ์ที่มีเพียงนักพัฒนาสหรัฐฯ เท่านั้นที่เข้าถึงไม่ได้
- รอบ Qwen ก็เห็นแนวโน้มเดียวกันแล้ว
- จากข้อมูลของ Hugging Face ในปีที่ผ่านมา โมเดลจีนคิดเป็น 41% ของยอดดาวน์โหลดโมเดลทั้งหมด
- หากโมเดลพื้นฐาน Open Weight ที่ดีที่สุดยังคงมาจากจีน ก็อาจมี เครื่องมือและนวัตกรรม สะสมอยู่รอบโมเดลเหล่านั้น เช่นเดียวกับยุค Kubernetes
สี่วิธีที่สหรัฐฯ ควรใช้ในการแข่งขัน
-
เปิดโมเดลสหรัฐฯ ระดับแนวหน้า
- ห้องแล็บในสหรัฐฯ ควรเปิด โมเดล Open Weight ระดับแนวหน้า ภายใต้ไลเซนส์ที่สตาร์ทอัพสามารถนำไปสร้างผลิตภัณฑ์จริงได้
- เริ่มมีความคืบหน้าบางส่วนแล้ว
- NVIDIA Nemotron สามารถใช้งานเชิงพาณิชย์ได้ภายใต้ไลเซนส์แบบอนุญาตกว้างของ NVIDIA
- Inkling ของ Thinking Machines, gpt-oss ของ OpenAI และ Gemma 4 ของ Google เปิดภายใต้ Apache 2.0
- อย่างไรก็ตาม โมเดลที่แข็งแกร่งที่สุดของแล็บแนวหน้าสหรัฐฯ ส่วนใหญ่ รวมถึงโมเดลประสิทธิภาพสูงสุดของ OpenAI และ Google ยังคงเป็นแบบปิด
-
สร้างตลาดเปิดผ่านการจัดซื้อจัดจ้างภาครัฐ
- การจัดซื้อจัดจ้างภาครัฐควรสร้างอุปสงค์ให้ระบบที่มี ความสามารถในการพกพาและการทำงานร่วมกัน มากกว่าระบบที่ต้องพึ่งพาผู้ให้บริการ API รายเดียวอย่างถาวร
- กระทรวงกลาโหมสหรัฐฯ ใช้แนวทางที่คล้ายกันอยู่แล้ว
- Platform One ให้บริการเครื่องมือโอเพนซอร์สและผลิตภัณฑ์สำหรับองค์กรที่โครงการทางทหารหลายโครงการสามารถใช้เป็นฐานได้
- วิธีจัดซื้อจัดจ้างแบบเดียวกันสามารถเร่งนวัตกรรมรอบโมเดล Open Weight ได้
-
สร้างทั้งสแต็กนอกเหนือจากตัวโมเดล
- บริษัทสหรัฐฯ ต้องสร้างชั้นอื่น ๆ รอบโมเดลด้วย
- สตาร์ทอัพสามารถปรับแต่ง ขยาย และฝังโมเดลเข้าในผลิตภัณฑ์ได้
- ชั้น serving เครื่องมือ การสนับสนุน และการปฏิบัติการก็เป็นโอกาสทางธุรกิจเช่นกัน
- บริษัทชิปหลักของสหรัฐฯ ควรปรับปรุงฮาร์ดแวร์ต่อไป ขณะที่ hyperscaler และ neocloud สามารถให้บริการโมเดลและระบบนิเวศได้
-
ใช้การทดสอบและมาตรฐานแทนการแบน
- ความปลอดภัยเป็นเหตุผลที่แข็งแรงที่สุดในการสนับสนุนข้อจำกัด แต่ การแบนแบบครอบคลุมทั้งหมด กว้างเกินไปและยอมแลกแม้กระทั่งการเข้าถึงทั้งระบบนิเวศ
- แนวทางที่ดีกว่าคือจัดให้มีการทดสอบและมาตรฐานโดยหน่วยงานอิสระสำหรับโมเดลแนวหน้า
- การทดสอบความสอดคล้องของ Kubernetes ตรวจสอบความเข้ากันได้ ไม่ใช่ความปลอดภัย จึงไม่ใช่กรณีที่เทียบกับ AI ได้โดยตรง
- อย่างไรก็ตาม เกณฑ์และโมเดลธรรมาภิบาลที่เป็นอิสระสามารถใช้เป็นแนวอ้างอิงได้
- Demis Hassabis เสนอ องค์กรกำหนดมาตรฐานอิสระที่นำโดยสหรัฐฯ ในลักษณะคล้ายกัน
กลยุทธ์การแข่งขันในระบบนิเวศ AI แบบเปิด
- สหรัฐฯ ควรรัน วิเคราะห์ภายใน benchmark และปรับปรุงโมเดลจีนโดยตรง แทนที่จะสร้างกำแพงรอบนักพัฒนาของตนเอง
- พร้อมกันนั้นควรสร้างทางเลือกจากสหรัฐฯ ที่ดีกว่า และทำให้สแต็ก AI ของสหรัฐฯ เป็นตัวเลือกที่นำไปใช้ได้ง่ายที่สุดในโลก
- สหรัฐฯ ดึงดูดบุคลากรด้านเทคโนโลยีที่ดีที่สุดของโลกและมอบพื้นที่ให้พวกเขาพัฒนามานานหลายทศวรรษ
- หากเปลี่ยนความสามารถในการแข่งขันนี้ให้เป็น ระบบนิเวศแบบปิด ในขณะที่ประเทศอื่น ๆ นำสแต็กที่เปิดกว่ามาเป็นมาตรฐาน สหรัฐฯ ก็จะสละสถานะผู้นำด้าน AI ด้วยตัวเอง
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
การแบนโมเดลจีน ดูเหมือนเป็นไปไม่ได้ในทางเทคนิค เพราะ weights เป็นเพียงตัวเลข จึงแยกไม่ได้ว่าเป็นของสหรัฐฯ หรือจีน และการแบนตามแหล่งที่มาก็เลี่ยงได้ง่าย
สุดท้ายคงต้องกำกับดูแลโมเดลแบบเปิด weights ทั้งหมด และมีรายงานจาก Axios ด้วยว่า แล็บ AI รายใหญ่หรือผู้เกี่ยวข้องได้เสนอให้รัฐบาลแบนโมเดลโอเพนซอร์สทุก ๆ 3–5 เดือน
อาจบังคับใช้ระบบไลเซนส์คล้าย DRM เพื่อให้รันได้เฉพาะโมเดลสหรัฐฯ ที่ผ่านการรับรองบนเซิร์ฟเวอร์ของตนเอง แต่ก็จะมอบสิทธิผูกขาดให้แล็บขนาดใหญ่และปิดกั้นการเผยแพร่โมเดลอนุพันธ์ด้วย การบังคับใช้ในต่างประเทศทำได้ยาก จึงมีโอกาสสูงที่ท้ายที่สุดจะจำกัดได้แค่คนอเมริกัน
แต่สามารถห้ามการจ่ายเงินค่าบริการ inference หรือบริการ AI ให้บริษัทจีนหรือผู้ประกอบการที่บริษัทจีนเป็นเจ้าของได้
หนึ่งในเรื่องที่แปลกที่สุดของวงการ AI คือ ระบบคิดราคาตามโทเคน ไม่ชัดเจนว่าทำไมช่วงต้นปี 2023 GPT-4 ถึงแพงมาก แต่ 6 เดือนต่อมากลับใช้ inference ได้ปริมาณมากในราคา 20 ดอลลาร์ และราคาของหลายแล็บกับผู้ให้บริการก็ขึ้นลงมาหลายปีโดยไม่มีเหตุผลที่เห็นชัด
โมเดลเปิด weights อย่างน้อยก็ให้เส้นฐานของต้นทุน inference ช่วยให้ราคามีเหตุผลและคาดการณ์ได้มากขึ้น แม้ Kimi K3 จะออกมาแล้ว หากต้องการก็ยังใช้ K2 ต่อได้ ดังนั้นแรงกดดันด้านการแข่งขันและความต่อเนื่องจากโมเดลเปิดจึงมีประโยชน์ต่อผู้ใช้
หากคุ้นเคยกับตลาดที่เติบโตและเสถียรแล้วอาจดูสับสน แต่ ความผันผวนของราคาในตลาดเกิดใหม่ เป็นลักษณะที่พบได้ทั่วไป
แม้ชื่อจะมี
gpt-4เหมือนกันทั้งหมด ก็ไม่ได้หมายความว่าโมเดลภายในเหมือนกัน และอาจมีการเปลี่ยนแปลงไปมากเพื่อลดต้นทุนการให้บริการหากจะไปถึงตำแหน่งแบบเดียวกับ Kubernetes น่าจะต้องมีหลายบริษัทพัฒนา โมเดล AI ที่เปิดเผยข้อมูลฝึก ร่วมกัน เหมือนที่บริษัทต่าง ๆ ร่วมกัน contribute ให้ Linux โมเดล AI เป็นสิ่งจำเป็นต่อธุรกิจแต่พัฒนาเองแพงเกินไป ดังนั้นการใช้โมเดลเปิดและ contribute ฟีเจอร์ที่ต้องการกลับเข้าไปจึงอาจเป็นแนวทางที่สมเหตุสมผล
OpenAI เองก็เคยปล่อยโมเดลโอเพนซอร์สสองตัวที่ถือว่ายอดเยี่ยมตามมาตรฐานตอนนั้น โมเดล 20B นั้นดีมากสำหรับใช้ที่บ้านเพื่อตรวจทานข้อความหรือร่าง Bash script แต่ 120B รันบนฮาร์ดแวร์ผู้บริโภคให้ได้ความเร็วโทเคนต่อวินาทีที่ใช้งานจริงได้ยาก
อย่างไรก็ดี อยากให้ OpenAI อัปเดตบ่อยกว่านี้
gpt-oss-120bรันบน Strix Halo ได้มากกว่า 30 โทเคนต่อวินาที และบน MacBook Pro M5 Max 128GB ได้มากกว่า 75 โทเคนต่อวินาทีผู้สืบทอดทางจิตวิญญาณดูเหมือนจะเป็นสาย Nemotron 3 แต่ตัวนี้ก็ค่อนข้างเก่าแล้ว: https://research.nvidia.com/labs/nemotron/Nemotron-3/
ยังมี Gemma 4 ที่ใหม่กว่า: https://huggingface.co/collections/google/gemma-4
หรือเลือก Qwen3.6 ก็ได้: https://huggingface.co/collections/Qwen/qwen36
จีนปล่อยโมเดลเปิดเพื่อยกระดับเทคโนโลยี แต่ความแตกต่างคือ OpenAI กับ Sam เปิดโมเดลด้วย เป้าหมายเพื่อกดคู่แข่ง
สำหรับสตาร์ทอัพที่ต้องการโมเดลแนวหน้าจากแล็บสหรัฐฯ รอบการปล่อยรุ่น ปัจจุบันไม่ยั่งยืน หากสหรัฐฯ ไม่อยากยกตลาดนี้ให้คนอื่นทั้งหมด OpenAI และรายอื่น ๆ ต้องเร่งความเร็วขึ้นอย่างรวดเร็ว
จนกว่าจีนจะขยายการผลิตฮาร์ดแวร์ การรันเองก็ยังไม่คุ้มในเชิงเศรษฐกิจ แต่การที่โมเดลแบบเปิดกดดันห้องแล็บต่าง ๆ ถือเป็นเรื่องบวก ท้ายที่สุดเมื่อโทรศัพท์มือถือสามารถรันโมเดลที่ดีพอสำหรับงานส่วนใหญ่ได้ ก็มีโอกาสสูงที่ Apple จะเป็นผู้ชนะ
อีกทั้งไม่จำเป็นต้องใช้กระบวนการผลิตเซมิคอนดักเตอร์ระดับล้ำสุด จึงลดต้นทุนได้มาก
หากคิดเทียบกับค่าสมัคร Claude Code 7 เดือนต่อหนึ่งโหนด จะคืนทุนใน 28 เดือน และถ้าคิดค่าเสื่อมราคา 5 ปี ก็จะจัดคลัสเตอร์ได้เกือบถึงจุดคุ้มทุนสองชุดเพื่อรองรับคำขอพร้อมกันสองสาย
ฮาร์ดแวร์รุ่นถัดไปประกาศแล้วและน่าจะออกหลังจากวัฏจักรกฎของมัวร์อีกประมาณสองรอบ โดยราคาที่นิ่งแล้วมีแนวโน้มจะต่ำกว่า 1,400 ดอลลาร์ตามมูลค่าปี 2024 และเร็วกว่าเดิม
เมื่อฟองสบู่การเงินแตกและห้องแล็บหยุดซื้อฮาร์ดแวร์สำหรับดาต้าเซ็นเตอร์ การอนุมานแบบโลคัล จะถูกกว่าการสมัครสมาชิกและใช้งานได้จริงมาก อยากรู้เหมือนกันว่าในตอนนั้น UNIX Surplus จะขายเซิร์ฟเวอร์ inference แบบถูก ๆ เหมือนหลังฟองสบู่ดอตคอมแตกหรือไม่ หรือความต้องการด้านไฟฟ้าจะเฉพาะทางเกินไปสำหรับการใช้ในบ้าน
แนวทางที่ให้รัฐบาลจัดซื้อ ระบบที่ย้ายข้ามได้และทำงานร่วมกันได้ เพื่อสร้างดีมานด์ แทนที่จะผูกติดถาวรกับผู้ให้บริการ API รายใดรายหนึ่ง มีคุณค่า ไม่ใช่แค่รัฐบาลกลางเท่านั้น รัฐอย่าง California, Colorado, Illinois, New York ก็ทำได้เช่นกัน
อยากรู้การตั้งค่าจริงสำหรับการทำ agentic coding ด้วยโมเดลแบบเปิดเวท ใช้เครื่องมือรันและโมเดลอะไร ค่าใช้จ่ายต่อเดือนเท่าไร และเมื่อเทียบกับแพ็กเกจราคาที่เหมือนมีการอุดหนุนอย่าง Claude Code และ Pro แล้วเป็นอย่างไร
อยากตรวจสอบว่าคำกล่าวที่ว่าโมเดลเปิดราคาถูกและมีประสิทธิภาพนั้นจริงหรือไม่
ใช้โมเดลโลคัลสามตัวใน Zed: Qwen 3.6 27B บริบท 128K บน
llama.cppด้วย RTX 3090 หนึ่งใบ ได้ราว 50 โทเค็นต่อวินาที, Qwen 3.6 35B-A3B บริบทเต็มบนllama.cppด้วย Titan V หนึ่งใบและ GTX 1080 Ti สองใบ ได้ราว 30 โทเค็นต่อวินาที, ส่วน GPT-OSS 120B รันช้าบน CPUใช้เอเจนต์แบบขนานของ Zed เพื่อสลับงาน และถ้าโมเดลติดขัดก็หยุดแล้วแก้โค้ดเอง ด้วยวิธีนี้สามารถรักษาสมาธิ สร้างโค้ดที่บำรุงรักษาได้ และไปถึงเป้าหมายได้ประมาณ 80%
มีประสบการณ์ 30 ปีและพยายามทำความเข้าใจเสมอว่าโค้ดทำงานอย่างไร จึงได้รับประโยชน์ระยะสั้นส่วนใหญ่โดยไม่ต้องพึ่งพาบุคคลที่สามให้เดินหน้าโค้ดแทน ถ้าใช้ GTX 5060 Ti 16GB สองใบซึ่งเป็นการ์ดที่หาได้ทั่วไป น่าจะทำ Qwen 3.6 35B-A3B ได้ราว 100 โทเค็นต่อวินาที
โมเดลคลาวด์ล่าสุดใช้โทเค็นร่าง ฯลฯ จึงยอดเยี่ยมสำหรับการเขียนโค้ดทั่วไป แต่ประสิทธิภาพลดลงในงานเฉพาะโดเมน ขนาดของโมเดลร่างมีเพียง 10–20% ของโมเดลพื้นฐาน และแม้แต่ GPU Blackwell ระดับสูงสุดก็ถูกจำกัดไว้ราว 250 โทเค็นต่อวินาที ดังนั้นการขยายประสิทธิภาพระดับโมเดลพื้นฐานจึงต้องใช้ MoE หรือโมเดลร่าง
แต่กรณีใช้งานของผมเป็นปัญหานอกการกระจาย (OOD) หรือปัญหาที่มีตัวอย่างน้อยในคอร์ปัสฝึก ทำให้การปรับแต่งเหล่านี้เสียเปรียบ มันใกล้เคียงกับสถานการณ์ที่ ต้องการมินิแวนมากกว่า Lamborghini
qwen 3.6 35B unsloth 4 bitที่บริบท 10K ได้การสร้างราว 40 โทเค็นต่อวินาทีและ prefill ราว 500 โทเค็นต่อวินาที ส่วนที่บริบท 100K ได้การสร้างราว 25 โทเค็นต่อวินาทีและ prefill ราว 400 โทเค็นต่อวินาที
มักให้ GPT หรือ Claude ทำแผนแบบละเอียดเป็นขั้นตอนก่อน แล้วให้ Qwen ทำตาม ไม่แน่ใจว่าคุ้มทางเศรษฐกิจหรือไม่ แต่มีฮาร์ดแวร์อยู่แล้ว และไฟฟ้าก็ไม่ใช่ปัญหาใหญ่นักเพราะมีโซลาร์บนหลังคา
ข้อดีที่ใหญ่ที่สุดคือมั่นใจได้ว่าการประมวลผลทั้งหมดเกิดขึ้น แบบโลคัลอย่างสมบูรณ์ และเครื่องมือรันไม่อัปโหลดหรือส่ง telemetry
ไม่ได้ลองเทียบกับแบบสมัครสมาชิก เพราะไม่ชอบข้อจำกัดและวิธีการทำงานของแพ็กเกจเหล่านั้น ช้ากว่า Fable, Opus, Gemini อย่างเห็นได้ชัด แต่ถูกกว่าค่า API ของพวกนั้นมาก
ที่ทำงานมี Claude ให้ใช้ และได้รับรายงานว่าค่าใช้ Opus อยู่ที่ 75 ดอลลาร์ต่อชั่วโมงทำงาน
GLM 5.2 awq4ใน OpenCode ดีกว่า Sonnet 4.8 ที่บริษัทชอบใช้ และด้อยกว่า Opus 4.8 เล็กน้อย แต่เพียงพอสำหรับงานส่วนใหญ่ที่ทีมพัฒนาต้องการ ด้อยกว่า Sonnet 5 แต่โทเค็นไม่หมดในทางกลับกันต้องใช้ H200 สี่ใบ เพื่อรัน และด้วยคอนฟิกนี้มีผู้ใช้ได้เพียงประมาณสามคนที่สามารถแคชบริบทได้
กำลังรอให้อุปกรณ์ Blackwell มาถึงและหวังว่าเวทของ Kimi 3 จะเปิดจริง เมื่อถึงจุดที่นักพัฒนาต้องใช้เงินเดือนส่วนใหญ่ไปกับโทเค็น การซื้อเซิร์ฟเวอร์ DGX แพงลิบมาติดตั้งและดูแลเองในแร็กกลับจะถูกกว่าเสียอีก
การตีความว่ารัฐบาลจีนสนับสนุนการฝึกและการเผยแพร่โมเดลระดับสูงสุดเพื่อสร้างแรงกดดันด้านการแข่งขันแบบเปิดต่อ OpenAI และ Anthropic นั้นเชื่อได้ยาก กลับดูเหมือนเป็นวิธีที่จะใช้ reinforcement learning ปรับโมเดลล้ำสมัยให้สอดคล้องกับ รูปแบบการเผยแพร่ข้อมูลที่รัฐบาลจีนอนุมัติ มากกว่า
หากต้องไว้วางใจระบบทึบแสงที่ตอบคำถาม ผมคงเลือกโมเดลของบริษัทจดทะเบียนแสวงหากำไรในสหรัฐฯ ที่อยู่ภายใต้แรงกดดันของตลาด มากกว่าโมเดลที่รัฐบาลจีนอนุมัติและอุดหนุนเงินจำนวนมาก
การทุ่มตลาดสินค้าจริงมีอุปสงค์จำกัดและต้นทุนด้านสิ่งแวดล้อมสูง แต่ความต้องการซอฟต์แวร์แทบไม่มีขีดจำกัด และต้นทุนด้านสิ่งแวดล้อมเมื่อเทียบกับต้นทุนการผลิตก็ต่ำกว่า จึงอาจเป็นไปได้ที่จะ ใช้ AI dumping ย้อนศร
สมมติฐานที่ว่าจีนจะยังคงอัปโหลดน้ำหนักของโมเดลแนวหน้าลง Hugging Face ต่อไปถูกมองราวกับเป็นกฎธรรมชาติ แต่ ช่วงเวลา Mythos ของจีนกำลังจะมาถึงในอีกไม่กี่เดือน และจากรายงานหลายแห่ง จีนก็น่าจะตอบสนองในลักษณะคล้ายกัน
ยากที่จะเชื่อว่าจีนจะอัปโหลดภาคต่อของ Mythos ลง Hugging Face แล้วเปิดให้ทุกคนถอดมาตรการป้องกันออกได้ สถานการณ์ไม่ได้ดำเนินไปตามที่ OpenAI และ Anthropic คาดไว้ และก็ไม่ได้เป็นไปตามที่จีนคาดไว้เช่นกัน