ไม่มีใครรู้มูลค่าที่แท้จริงของคลัสเตอร์ GPU มือสอง

 (substack.com/ciphertalk)
2 คะแนน โดย GN⁺ 2 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • หาก xAI ผิดนัดชำระหนี้ กลุ่มเจ้าหนี้สามารถเข้ายึด Colossus ที่ประกอบด้วย GPU 200,000 ตัวแล้วนำไปปล่อยเช่าได้ แต่ในความเป็นจริงมูลค่าของมันขึ้นอยู่กับ สภาพการปฏิบัติงานและความรู้ฝังลึกของทีม มากกว่าตัวอุปกรณ์
  • การเงินแบบ ใช้ GPU เป็นหลักประกัน แพร่หลายขึ้นโดยมี xAI และ CoreWeave เป็นศูนย์กลาง แต่โครงสร้างพื้นฐานสำหรับการกำหนดราคายังไม่เพียงพอ จึงสะท้อนความเสี่ยงที่วัดได้ยากไว้ในอัตราดอกเบี้ยเงินกู้ซึ่งสูงกว่าอัตราอ้างอิงราว 8.5 จุดเปอร์เซ็นต์
  • ค่าเช่า H100 ลดลงจากราว 8 ดอลลาร์ต่อชั่วโมงในต้นปี 2024 เหลือ 1.70 ดอลลาร์ในเดือนตุลาคม 2025 ก่อนเด้งกลับเป็น 2.35 ดอลลาร์ในเดือนมีนาคม 2026 ทำให้ มูลค่าคงเหลือและรายได้ค่าเช่าในอนาคต คาดการณ์ได้ยาก
  • แม้อายุการใช้งานของ GPU รุ่นเดียวกัน CoreWeave ก็คิดไว้ 6 ปี ขณะที่ Nebius ใช้ 4 ปี และวงจรผลิตภัณฑ์ของ NVIDIA ก็สั้นลงจาก 2 ปีเหลือ 1 ปี จึงอาจทำให้ช่องว่างระหว่าง มูลค่าทางบัญชีกับมูลค่าที่กู้คืนได้ กว้างขึ้น
  • หลักประกันที่เป็น GPU มีมูลค่าหลายแบบ ทั้งมูลค่าหน้าบัญชี ราคาขายฉุกเฉิน และมูลค่าเมื่อเดินระบบตามปกติ และหาก การส่งมอบงานปฏิบัติการล้มเหลว ก็ยากจะรักษาคลัสเตอร์ที่รับมาตามสัญญาให้เป็นสินทรัพย์ที่สร้างรายได้ต่อไปได้

มูลค่าหลักประกันเปลี่ยนไปเมื่อทีมปฏิบัติการจากไป

  • ต่างจากอาคาร คลัสเตอร์ GPU มีมูลค่าขึ้นอยู่กับว่า ทีมปฏิบัติการยังอยู่หรือไม่ เพราะทีมนี้รู้วิธี provision สภาพประสิทธิภาพปัจจุบัน และลักษณะเฉพาะของอุปกรณ์
  • รายงานทางเทคนิค Llama 3 ของ Meta ระบุว่าระหว่างการฝึก 54 วันด้วย H100 จำนวน 16,384 ตัว มีการหยุดชะงักที่ไม่คาดคิด 419 ครั้ง
    • ในจำนวนนี้มีความขัดข้องของ GPU 148 ครั้ง และความขัดข้องของหน่วยความจำ HBM3 72 ครั้ง โดยคำนวณได้ว่าอัตราความขัดข้องรายปีของ GPU ในดาต้าเซ็นเตอร์สมัยใหม่อยู่ที่ราว 9%
    • ในระดับ 200,000 GPU จะมีอุปกรณ์เสียเฉลี่ยราว 50 ตัวต่อวัน และในระดับ 1 ล้านตัวตามเป้าหมายของ xAI นั้น Epoch AI คาดว่าจะเกิดความขัดข้องหนึ่งครั้งทุกประมาณ 3 นาที
  • ในมุมความเสี่ยงด้านเครดิต สิ่งสำคัญไม่ได้มีแค่ความเสียหายที่มองเห็นชัด
    • Silent data corruption (SDC) ทำให้ GPU สร้างผลลัพธ์ผิดโดยไม่หยุดทำงาน และอาจทำให้น้ำหนักโมเดลเสียหายได้แม้จะฝึกเสร็จตามปกติหลังผ่านไปหลายวัน
    • ความขัดข้องแบบลูกโซ่ที่ GPU เพียงตัวเดียวทำให้งานฝึกซึ่งพาดผ่านอุปกรณ์หลายพันตัวหยุดลง อาจทำให้สูญเสียงานคำนวณไปหลายวัน
    • ปัญหาอย่าง thermal throttling, ข้อผิดพลาดหน่วยความจำ ECC, ความไม่เสถียรของ NVLink และปัญหา GPU หายไปจากบัส ก็เกิดขึ้นอย่างต่อเนื่อง
  • NVIDIA NVSentinel ถูกออกแบบมาเพื่อรับมือข้อจำกัดของระบบมอนิเตอร์แบบเดิมที่ตรวจพบปัญหาแต่แก้ไม่ได้ ขณะที่ Crusoe AutoClusters ช่วยลดเวลารอคิวซึ่งเป็นตัวแปรที่ควบคุมได้ใหญ่ที่สุดของ throughput ที่ใช้งานได้จริงของคลัสเตอร์
    • หากไม่มีเครื่องมือเหล่านี้ การกู้คืนอาจใช้เวลาตั้งแต่หลายชั่วโมงจนถึงหลายวัน
  • ทีมปฏิบัติการรู้ว่าแร็กไหนร้อนเกินไปในฤดูร้อน วงจรทำความเย็นใดไม่เสถียรหลังอัปเดตเฟิร์มแวร์ และงานใดควรถูกเบี่ยงออกจากโหนดที่ประสิทธิภาพตกก่อนจะเสียเต็มตัว
    • ความรู้นี้มักคงอยู่เป็น ความรู้ฝังลึกภายในทีม มากกว่าอยู่ในเอกสาร จึงไม่ถูกรวมอยู่ในงบดุลหรือขอบเขตการเข้าถึงของเจ้าหนี้

โครงสร้างการเงินที่ให้ GPU เองกลายเป็นหลักประกัน

  • ในช่วง 18 เดือนที่ผ่านมา การเงินสำหรับโครงสร้างพื้นฐาน AI ได้เปลี่ยนจากหนี้ที่อิงเครดิตองค์กรไปสู่ หนี้ที่ใช้ GPU เองเป็นหลักประกัน
  • SPV ของ xAI Colossus 2 ประกอบด้วยทุนราว 7.5 พันล้านดอลลาร์ และหนี้ 1.25 หมื่นล้านดอลลาร์
    • NVIDIA ลงทุนในส่วนทุนสูงสุด 2 พันล้านดอลลาร์ และ Valor Equity Partners เป็นผู้นำการลงทุนฝั่งทุน
    • Apollo และ Diameter เข้าร่วมใน tranche ฝั่งหนี้
    • SPV ซื้อ GPU ของ NVIDIA แล้วปล่อยเช่าให้ xAI เป็นเวลา 5 ปี โดยหนี้ค้ำด้วย GPU ไม่ใช่งบดุลทั้งหมดของ xAI
  • สัญญาเงินกู้ 5 พันล้านดอลลาร์ของ xAI ที่ Morgan Stanley จัดในเดือนมิถุนายน 2025 ให้สิทธิกลุ่มเจ้าหนี้ในการเข้ายึด คลัสเตอร์ Colossus 200,000 GPU นอกเมือง Memphis หากเกิดการผิดนัด และนำไปปล่อยเช่าให้บริษัท AI รายอื่นเพื่อกู้คืนเงินกู้
  • ต้นทุนระดมทุน 5 พันล้านดอลลาร์ของ xAI สูงสุดอยู่ที่ 12.5% และดีลที่ใช้ GPU เป็นหลักประกันของ CoreWeave ก็เคยตั้งราคาไว้สูงกว่าอัตราอ้างอิงราว 8.5 จุดเปอร์เซ็นต์ก่อนเงื่อนไขจะดีขึ้น
  • CoreWeave มีหนี้ที่ใช้ GPU เป็นหลักประกันรวม 18.8 พันล้านดอลลาร์ ผ่าน SPV หลายแห่ง
  • สัญญา 5 หมื่นล้านดอลลาร์ระหว่าง FluidStack และ Anthropic ใช้โครงสร้างอีกแบบที่ Google ค้ำประกันการจ่ายค่าเช่า แต่ตรรกะพื้นฐานยังเหมือนกัน คือการทำให้สินทรัพย์โครงสร้างพื้นฐาน AI และกระแสเงินสดจากค่าเช่ากลายเป็นผลิตภัณฑ์ทางการเงิน
  • Neo-cloud และห้องแล็บ AI รายใหญ่ส่วนมากกำลังระดมทุนด้วยวิธีลักษณะนี้

การขาดการค้นหาราคาและเครื่องมือป้องกันความเสี่ยง

  • เครื่องบิน เรือ รถยนต์ อสังหาริมทรัพย์เชิงพาณิชย์ และน้ำมัน ต่างมี โครงสร้างพื้นฐานสำหรับการค้นหาราคา ที่สั่งสมมาหลายทศวรรษ
    • ฝั่งเครื่องบินมีผู้ประเมินมูลค่าที่ได้รับการรับรองจาก ISTAT ทะเบียนระดับโลก บันทึกการบำรุงรักษาที่เป็นมาตรฐาน นักบินรับส่งเครื่อง และตลาดมือสองที่ก่อตัวมาตั้งแต่ทศวรรษ 1970
    • ฝั่งเรือมี BICA รถยนต์มี NADA และอาคารสำนักงานเกรด A ก็มีข้อมูลอัตรา capitalization มาตรฐานและข้อมูลเปรียบเทียบพื้นที่ว่าง
    • น้ำมันมีเส้นโค้งราคาฟิวเจอร์ตั้งแต่ต้นทศวรรษ 1980
  • สำหรับตลาด GPU สิ่งที่มีอยู่แทบมีเพียง Silicon Data’s H100 Rental Index ที่เปิดบน Bloomberg Terminal ในปี 2024 และ Ornn AI ที่ระดมทุน 5.7 ล้านดอลลาร์ในเดือนตุลาคม 2025 เพื่อสร้างตลาดซื้อขายที่มีการกำกับดูแลแห่งแรกสำหรับอนุพันธ์ด้าน GPU compute
  • ค่าเช่า H100 ต่อชั่วโมงลดจากราว 8 ดอลลาร์ในต้นปี 2024 ลงไปที่ 1.70 ดอลลาร์ในเดือนตุลาคม 2025 ก่อนจะ เด้งกลับ 40% ไปถึง 2.35 ดอลลาร์ในเดือนมีนาคม 2026 จากอุปสงค์ด้าน inference ที่ไม่คาดคิด
  • ในสินเชื่อเครื่องบินหรือเรือ เป็นเรื่องยากที่จะรับหนี้อายุ 5 ปีโดยใช้สินทรัพย์ที่ราคาผันผวนแบบนี้เป็นหลักประกันโดยไม่มีเครื่องมือป้องกันความเสี่ยง
  • เงินกู้ของ CoreWeave ที่ใช้ GPU เป็นหลักประกันมีส่วนต่างจากอัตราอ้างอิงราว 8.5 จุดเปอร์เซ็นต์ ขณะที่สินเชื่อเครื่องบินทั่วไปอยู่ราว 1–2 จุดเปอร์เซ็นต์ และสินเชื่อจำนองเชิงพาณิชย์มักต่ำกว่านั้น
    • ส่วนเพิ่มอีกราว 6–7 จุดเปอร์เซ็นต์คือราคาของความเสี่ยงที่เจ้าหนี้ต้องรับ เมื่อยังไม่มีตลาดฟิวเจอร์ส GPU เส้นโค้งมูลค่าคงเหลือมาตรฐาน และเครื่องมือสำหรับล็อกค่าเช่าในอนาคต
  • หากตลาดเติบโตจนมีผลิตภัณฑ์ป้องกันความเสี่ยง เส้นโค้งมูลค่าคงเหลือมาตรฐาน และตลาด GPU มือสอง ส่วนต่างดอกเบี้ยและต้นทุนเงินทุนของโครงสร้างพื้นฐาน AI ก็อาจลดลง
    • เมื่อถึงตอนนั้น บริษัทที่ได้เปรียบอาจไม่ใช่บริษัทที่หา GPU ได้ถูกที่สุดในวันนี้ แต่เป็นบริษัทที่เข้าถึง หนี้ต้นทุนต่ำ ได้หลังโครงสร้างพื้นฐานทางการเงินเติบโตเต็มที่

ความไม่แน่นอนรอบอายุการใช้งานของ GPU

  • CoreWeave คิดค่าเสื่อม GPU เป็นเวลา 6 ปี แต่ Nebius ซึ่งใช้โมเดลธุรกิจและฮาร์ดแวร์แบบเดียวกัน ใช้ระยะเวลา 4 ปี
  • AWS, Microsoft และ Google ขยายอายุการใช้งานของเซิร์ฟเวอร์จาก 3–4 ปีเป็น 6 ปีในปี 2023
    • เมื่ออิงกับงบลงทุนรวม 3 แสนล้านดอลลาร์ ทำให้ค่าเสื่อมราคาที่รายงานต่อปีลดลงราว 1.8 หมื่นล้านดอลลาร์
  • CoreWeave ก็ใช้การเปลี่ยนแปลงทางบัญชีแบบเดียวกันในเดือนมกราคม 2023 ก่อนเข้าตลาดหลักทรัพย์ ทำให้ค่าใช้จ่ายที่รายงานต่อปีลดลงหลายร้อยล้านดอลลาร์
  • NVIDIA ประกาศว่าตั้งแต่ปี 2025 จะลดรอบการออกผลิตภัณฑ์จาก 2 ปีเหลือ 1 ปี ทำให้ GPU ที่ใช้ค้ำหนี้กลายเป็นของรุ่นเก่าเร็วขึ้นเป็นสองเท่า
  • Michael Burry มองว่า hyperscaler จะบันทึกค่าเสื่อมราคาต่ำเกินจริงสะสมราว 1.76 แสนล้านดอลลาร์ในช่วง 2026–2028
    • เขาคำนวณว่าภายในปี 2028 กำไรของ Oracle จะสูงเกินจริงราว 27% และของ Meta ราว 21%
  • หากอายุการใช้งานจริงของ GPU สำหรับการฝึกระดับล้ำหน้าที่สุดอยู่ใกล้ 2–4 ปี แต่ในบัญชีกลับบันทึกไว้ 6 ปี ก็จะเกิดช่องว่างขนาดใหญ่ระหว่าง มูลค่าทางบัญชีกับมูลค่าที่กู้คืนได้
  • อย่างไรก็ดี หากอุปสงค์ด้าน inference ล่าสุดช่วยยืดอายุการใช้งานเชิงผลิตภาพของ H100 ออกไปหลังหมดบทบาทในงานฝึกระดับแนวหน้า ระยะ 6 ปีก็อาจไม่ผิด
    • แต่หากอุปสงค์อ่อนลงอีกครั้งในปี 2026 หรือ 2027 เจ้าหนี้ก็อาจต้องเผชิญการด้อยค่าพอดีกับช่วงที่จำเป็นต้องพึ่งมูลค่าหลักประกัน

มูลค่า 3 แบบที่อยู่ใน GPU ตัวเดียวกัน

  • มูลค่าหน้าบัญชี (face value) คือราคาซื้อที่ SPV บันทึกไว้ แล้วหักค่าเสื่อมแบบเส้นตรงตามตารางที่ผู้กู้เลือก
    • มูลค่านี้ใช้กำหนด covenant เรื่อง loan-to-value และขนาดหนี้ที่ดีลสามารถรองรับได้
  • มูลค่าชำระบัญชี (liquidation value) คือราคาที่ผู้ซื้อยอมจ่ายในสถานการณ์ผิดนัด
    • ในตลาดมือสองที่เป็นปกติ GPU ที่ใช้งานพอสมควรมา 2–3 ปี มักซื้อขายกันที่ 50–70% ของราคาสินค้าใหม่
    • แต่หาก neo-cloud หลายรายมีปัญหาพร้อมกัน อุปทานจะพุ่งขึ้นในขณะที่กลุ่มผู้ซื้อหดตัว ทำให้อัตรากู้คืนจากการขายฉุกเฉินอาจลดลงเหลือเพียง 30–50% ของมูลค่าหน้าบัญชี
  • มูลค่าแบบกิจการดำเนินต่อเนื่อง (going-concern value) คือมูลค่าเมื่อผู้เช่ารายถัดไปสามารถใช้เป็นสินทรัพย์ที่เดินระบบได้ตามปกติ ซึ่งขึ้นอยู่กับความสำเร็จของการส่งมอบงานปฏิบัติการทั้งหมด
  • เมื่อเจ้าหนี้ใช้สิทธิ step-in ก็เท่ากับต้องรับช่วงทั้ง facility แบบ colocation ของเจ้าของรายอื่น รวมถึงสัญญาและข้อจำกัดของสถานที่นั้นด้วย
    • หากทีมปฏิบัติการของผู้กู้ออกจากงานไป ความรู้เรื่อง credential และ topology ก็อาจหายไปพร้อมกัน
    • และยังต้องรับมือกับตลาดที่ค่าเช่าเคลื่อนตัวไปทิศหนึ่ง 60% ในช่วง 18 เดือน ก่อนจะเด้งกลับอีก 40% ในทิศตรงข้าม โดยไม่มีเครื่องมือป้องกันความเสี่ยง
    • รวมถึงยังต้องมีคนที่รู้ด้วยว่าในสภาพแวดล้อมที่ GPU เสียราว 50 ตัวต่อวันนั้น แร็กไหนมีปัญหาความไม่เสถียรเรื้อรัง
  • ช่องว่างระหว่างมูลค่าหน้าบัญชีกับมูลค่าแบบกิจการดำเนินต่อเนื่อง ยังคงเป็น ความเสี่ยงหลักที่ยังไม่ได้ป้องกัน ในโครงสร้างการเงินปัจจุบัน

นักลงทุนที่หลีกเลี่ยงการเงินแบบใช้ GPU เป็นหลักประกัน

  • KKR แม้จะลงทุนในดาต้าเซ็นเตอร์อย่างจริงจัง แต่เน้นที่อาคาร พลังงาน ระบบทำความเย็น และที่ดิน มากกว่าการเงินแบบใช้ GPU เป็นหลักประกัน
    • ร่วมกับ Global Infrastructure Partners เข้าซื้อ CyrusOne ในปี 2022 ด้วยมูลค่า 1.5 หมื่นล้านดอลลาร์
    • ลงทุน 1.5 พันล้านดอลลาร์ใน Global Technical Realty ในปี 2026
    • เข้าถือหุ้น 75% ใน STT GDC มูลค่า 5.1 พันล้านดอลลาร์ในเดือนกุมภาพันธ์ 2026
  • โครงสร้างพื้นฐานดิจิทัลของ KKR เป็นแกนหลักของธุรกิจสินทรัพย์จริงมูลค่า 1.86 แสนล้านดอลลาร์ แต่ไม่ได้เข้าร่วมทั้ง consortium AIP ที่ซื้อ Aligned Data Centers, SPV ของ xAI หรือวงเงินหนี้ของ CoreWeave
  • สินทรัพย์เหล่านี้คือ ชั้นโครงสร้างพื้นฐานฐานราก ที่ยังคงมีมูลค่าไม่ว่าห้องแล็บ AI ใดจะชนะ หรือ GPU รุ่นใดจะครองตลาด
  • Peter Thiel ขายหุ้น NVIDIA ทั้งหมดในไตรมาส 3 ปี 2025 แล้วโยกไปยัง Apple และ Microsoft

รากฐานที่ตลาดหลักประกัน GPU ยังต้องมี

  • เครื่องบินกลายเป็นสินทรัพย์ที่ใช้จัดหาเงินทุนได้เมื่อมีทะเบียน ผู้ประเมินมูลค่า และบันทึกการบำรุงรักษาที่พร้อม ส่วนเรือก็มีระบบอย่าง BICA รองรับ
  • พรีเมียมอัตราดอกเบี้ยที่สูงของเงินกู้แบบใช้ GPU เป็นหลักประกัน เกิดจากการที่เจ้าหนี้ยังตอบคำถามพื้นฐาน 2 ข้อไม่ได้

    • คลัสเตอร์ยังทำงานปกติอยู่ในตอนนี้หรือไม่

      • และอีก 3 ปีข้างหน้าจะยังทำงานปกติหรือไม่
      • หากการเงินสำหรับ GPU จะเติบโตเต็มที่ ก็จำเป็นต้องมีระบบที่สามารถวัดและถ่ายโอน ไม่ใช่แค่ราคาอุปกรณ์ แต่รวมถึงสภาพการปฏิบัติงาน ประวัติการบำรุงรักษา มูลค่าคงเหลือ และค่าเช่าในอนาคตด้วย

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2 시간 전
ความคิดเห็นจาก Hacker News

  • ตัวเลขที่ว่า “GPU ที่ใช้งานมา 2–3 ปีในสภาพปกติ ซื้อขายกันที่ 50–70% ของราคาของใหม่” เป็นกรณีของ Nvidia H100 สภาพดี และสะท้อนภาวะขาดแคลนซัพพลายในปัจจุบันด้วย
    ราคานั้นเป็นราคาหลังถอดออกมาแล้วทำความสะอาด ตรวจสอบ และปรับสภาพใหม่ ดังนั้นมูลค่าของอุปกรณ์ที่เพิ่งถอดออกมาจากสถานที่ของกิจการที่ปิดตัวน่าจะต่ำกว่านั้น บน eBay มีผู้ขายหลายรายใช้รูปของใหม่ในกล่องรูปเดียวกัน หรือถึงขั้นลงรูปที่มีโลโก้คู่แข่งติดอยู่ จึงดูเป็นสัญญาณอันตราย
    https://introl.com/blog/secondary-gpu-markets-buying-selling...
    https://www.ebay.com/shop/nvidia-h100-gpu?_nkw=nvidia+h100+g...

    • ในแผ่นดินใหญ่สหรัฐฯ ผู้ขายที่ เชื่อถือได้ ซึ่งขายอุปกรณ์เซิร์ฟเวอร์ดาต้าเซ็นเตอร์มือสองหรือปรับสภาพใหม่จำนวนมากผ่าน eBay น่าจะมีอย่างมากราว 30–40 ราย การซื้อ GPU มือสองหลายใบจากผู้ขายโนเนมที่มีรีวิวแค่ 14 รายการถือว่าเสี่ยงมาก
      ถ้าเป็นผู้ขายเซิร์ฟเวอร์อย่าง Dell R840 พร้อม RAM 768GB ที่มีรีวิวหลายพันรายการและคะแนนเกิน 98.5% ความเสี่ยงก็ดูจะต่ำกว่ามาก
    • น่าสงสัยว่าใครจะซื้ออุปกรณ์ที่มีโอกาสเสียสูงในราคา 70% ของราคาของใหม่ ถ้าเป็นอุปกรณ์จากแล็บวิจัยเล็ก ๆ ที่ปิดตัวเร็วก็อาจพอได้ แต่คลัสเตอร์ที่รันใกล้ขีดจำกัดความร้อนมาหลายปีไม่น่าจะขายมือสองได้ราคานั้น

  • Nvidia อาจทำ สัญญาซื้อคืน แบบ Ferrari กับลูกค้ารายใหญ่ เพื่อป้องกันไม่ให้ของที่อัปเกรดถูกปล่อยออกมาพร้อมกันจนราคาดิ่ง และรักษาความขาดแคลนไว้
    ถ้าไม่เป็นอย่างนั้น ก็หวังว่าจะหา H100 ได้ในตลาดเปิดในอีกไม่กี่ปีข้างหน้า

    • เคยทำงานในองค์กรที่มีดาต้าเซ็นเตอร์ GPU ภายในขนาดใหญ่ และในสัญญาเปลี่ยนรุ่นพร้อมส่วนลดจำนวนมากมีเงื่อนไขว่า ต้องส่งมอบฮาร์ดแวร์เดิมทั้งหมดและหยุดซื้อเพิ่ม รวมอยู่ด้วย
    • หาก A100 และ H100 กลายเป็นรุ่นล้าสมัยโดยสิ้นเชิงสำหรับการรันโมเดลล้ำสมัยอย่างมีประสิทธิภาพ และราคาดิ่งลง ในอีกไม่กี่ปีข้างหน้าอาจเปิด ยุคทองของการประมวลผล GPU อเนกประสงค์
      น่าจะเหมาะมากกับเอนจินคิวรีที่เร่งด้วย GPU, แมชชีนเลิร์นนิงแบบดั้งเดิม และงาน CPU สารพัดอย่างที่โยนไปให้ GPU ทำได้
    • ดาต้าเซ็นเตอร์จะปล่อย H100 ก็ต่อเมื่อชิปรุ่นใหม่มีประสิทธิภาพพลังงานดีกว่ามากจน ความคุ้มค่าทางการดำเนินงานหมดไป
      ตอนนั้น H100 จะกลายเป็นอุปกรณ์แบบ V100 มือสองในวันนี้ คือประสิทธิภาพต่อไฟแย่มาก ไม่มีรูปแบบข้อมูลและเอนจินคำนวณรุ่นล่าสุด อาจร้อนจนพังถ้าไม่มีอะแดปเตอร์ประหลาด ๆ กับพัดลมเซิร์ฟเวอร์เสียงดังสนั่น และการซัพพอร์ต CUDA ก็จบไปนานแล้ว มีโอกาสสูงว่าจะเกือบไร้ประโยชน์ เว้นแต่ไม่มีทางเลือกอื่นจริง ๆ
    • สัญญาแบบนั้นควรถูกทำให้ผิดกฎหมาย และฟังดูเหมือน แนวปฏิบัติทางธุรกิจที่หลอกลวง มาก
    • ถ้ามีตลาดผู้ใช้ H100 แบบงานอดิเรกก็คงแปลกพิลึก ธุรกิจที่ซื้ออุปกรณ์มือสองมาแล้ว ย้ายลงแชสซีใหม่ ก็ดูเป็นไปได้

  • หาก Huawei นำ แอ็กเซลเลอเรเตอร์ราคาถูก ออกสู่ตลาด บริษัท AI ในสหรัฐฯ ก็คงจะได้รู้มูลค่าจริงของสินทรัพย์ตนในไม่ช้า และมองว่าเหลือเวลาอีกประมาณ 6–9 เดือน

  • ข้อมูลอย่างแร็กที่ร้อนขึ้นในฤดูร้อน วงจรระบายความร้อนที่ไม่เสถียรหลังอัปเดตเฟิร์มแวร์ หรืองานที่ต้องย้ายออกจากโหนดที่ใกล้ล้มเหลว ทั้งหมดควรอยู่ใน ระบบมอนิเตอร์
    ถ้าเป็นอย่างนั้น โมเดลล้ำสมัยใด ๆ ก็สามารถทำความเข้าใจสถานการณ์ได้ในเวลาไม่นาน จึงดูเหมือนผู้เขียนยังไม่เข้าใจการเปลี่ยนแปลงที่ระบบซึ่งตนจัดการอยู่ได้นำมาอย่างเพียงพอ

    • ถ้าเป็นประโยคที่ generative AI สร้างขึ้น ผู้เขียนก็ไม่ได้เขียนเอง ดังนั้น ระดับความเข้าใจของผู้เขียน จึงไม่มีผลตั้งแต่แรก

  • ไม่เข้าใจว่าทำไมปัญหานี้ถึงพิเศษเฉพาะกับคลัสเตอร์ GPU โดยทั่วไป ผู้รับผิดชอบการพิจารณาและรับช่วงสินเชื่อไม่มีความสามารถในการดำเนินงานและบำรุงรักษาสินทรัพย์ที่ใช้เป็นหลักประกันอยู่แล้ว นั่นจึงเป็นเหตุให้บ้าน รถ และอุปกรณ์ถูกขายทอดตลาดในราคาต่ำกว่ามูลค่าจริงมาก และสถาบันปล่อยกู้ก็ทำประกันไว้

    • ไม่ใช่ปัญหาเฉพาะของคลัสเตอร์ GPU นี่ใกล้เคียงกับบทความยืดยาวของคนที่คิดว่าตัวเองค้นพบข้อคิดลึกซึ้งและเด็ดขาดมากกว่า
      เคยเห็นกระบวนการที่โรงเลื่อยขนาดใหญ่ผิดนัดชำระเงินกู้ก้อนโตจนถูกธนาคารยึด ธนาคารไม่อยากรับกิจการไว้ แต่เมื่อผู้ก่อตั้งเลิกทำก็ไม่มีทางเลือก แม้แต่ไม้แปรรูปสำเร็จในเตาอบก็ยังไม่รู้จะจัดการอย่างไร โครงสร้างพื้นฐานทั้งหมดของโรงเลื่อยยิ่งมืดแปดด้าน สุดท้ายหาผู้ซื้อไม่ได้จึงจ้างผู้ก่อตั้งเป็นที่ปรึกษาเพื่อชำระบัญชี ดาต้าเซ็นเตอร์ที่ถูกยึดก็คงเจอกระบวนการเดียวกัน
    • การประมูลอาจเป็น วิธีที่แย่มากในการซื้อสินทรัพย์ราคาแพงและเสี่ยง เพราะตรวจสอบได้ไม่เพียงพอเหมือนการซื้อขายปกติ ราคาประมูลจึงสะท้อนความเสี่ยงนั้น

  • การที่มูลค่า GPU ลดลงค่อนข้างช้าเป็น ผลจากข้อจำกัดด้านซัพพลาย หากสามารถเลือก Hopper กับ Rubin สำหรับ inference แบบ FP4 ได้อย่างเสรี ต่อให้ได้ฮาร์ดแวร์มาฟรีและจ่ายแค่ค่าไฟ Hopper ก็ไม่น่าสนใจเพราะประสิทธิภาพต่อวัตต์
    ตอนนี้ยังหา Blackwell ได้ยาก ไม่ต้องพูดถึง Rubin เลย จึงยังมีคนจ่ายเงินซื้อ H100 แต่เมื่อกำลังการผลิตของ fab ขยายตัว ปรากฏการณ์นี้จะอยู่ได้ไม่นาน

    • ด้วยข้อจำกัดทางฟิสิกส์ของลิโธกราฟี ความเร็วในการพัฒนาเทคโนโลยีก็ชะลอลงมากเช่นกัน จึงคงยากที่จะได้เห็นการกระโดดข้ามรุ่นแบบในอดีตอีก
      ที่แปลกยิ่งกว่าคือฮาร์ดแวร์จำนวนมหาศาลยังค้างอยู่ในคำสั่งซื้อ และอุปกรณ์ที่พร้อมใช้งานซึ่งจัดสรรไปแล้วก็ยังว่างอยู่เพื่อรอให้สถานที่สร้างเสร็จ การก่อสร้างสถานที่ล่าช้ามาหลายปีแล้ว และยังพัวพันกับเครดิตและ debt swap ต่าง ๆ ระหว่างบริษัทที่เกี่ยวข้อง จึงไม่ใช่แค่ฟองสบู่ธรรมดา แต่ใกล้เคียงกับ หอคอยไพ่ที่ตั้งอยู่บนลูกโป่ง
    • กำลังการผลิตของ fab ไม่สามารถเพิ่มได้ง่าย ๆ ทุกอย่างขึ้นอยู่กับ ASML ซึ่งผลิต เครื่อง EUV ได้เพียงไม่กี่สิบเครื่องต่อปี
    • ยังน่าสงสัยด้วยว่า fab จะขยายกำลังการผลิตจริงหรือไม่ ในเชิงธุรกิจ การไม่ขยายและ คงราคาไว้สูง อาจได้เปรียบกว่า
    • อยากรู้ว่าหลังยุคตื่นทองซาลง ราคาพลั่วเป็นอย่างไร ช่างตีเหล็กคงได้ เศษเหล็ก ไหลมาเท่าที่ต้องการ

  • จากสิ่งที่เรียนรู้ในตลาดคริปโต สาเหตุหลักที่ GPU หมดอายุการใช้งานไม่ได้มีแค่การเสียเท่านั้น แต่เพราะมีทางเลือกที่ทำให้ ประสิทธิภาพพลังงานของอุปกรณ์รุ่นเก่าไม่คุ้มทางเศรษฐกิจ ภายใต้เงื่อนไขตลาดใหม่

    • อย่างไรก็ตาม การ์ด SXM ไม่มีตลาดมือสองที่เป็นเรื่องเป็นราว

  • Mac Studio 512GB กำลังขายบน eBay ในราคาสองเท่าของราคาของใหม่เมื่อต้นปี

    • เข้าใจยากว่าทำไม ทั้งที่ไม่ใช่ HBM และก็ไม่ใช่ GPU จริง ๆ โมเดลอาจพออัดลงหน่วยความจำได้เฉียดฉิว และสำหรับคนที่เคยใช้แต่ MacBook ก็อาจรู้สึกเหมือนเป็นเซิร์ฟเวอร์ที่เปิดทิ้งไว้ได้ตลอด แต่การรันเอเจนต์เขียนโค้ดที่มีความสามารถด้วยความเร็วที่ใช้งานจริงได้ก็ยังดูยากอยู่ดี
      ถ้าจะจ่ายเท่าราคารถใหม่ดี ๆ คันหนึ่ง สร้างเวิร์กสเตชันจริงจังไปเลยน่าจะดีกว่า คอมพิวเตอร์ขนาดเท่า Apple TV ไม่น่าจะเหมาะกับประสิทธิภาพต่อราคาที่ดีที่สุด และสงสัยว่านี่ถูกปั่นให้ร้อนแรงกันเองในหมู่ ว่าที่ผู้ก่อตั้งสายไวบ์ ที่มีเงินเหลือหรือเปล่า
    • ใน https://news.ycombinator.com/item?id=49005798 มีข้อความว่า “อยากขาย M3 Ultra Mac Studio หน่วยความจำ 512GB” และระบุว่า ราคามากกว่า 20,000 ดอลลาร์
    • ในประเทศที่ผมอยู่ ผลิตภัณฑ์คล้าย DGX Spark ก็ขายกันเกือบสองเท่าของราคาซื้อ โลกนี้ช่างน่าขันจริง ๆ
    • อะไรก็ตามที่มี RAM กลายเป็น สินทรัพย์ที่มูลค่าเพิ่มขึ้น ไปแล้ว

  • บทความบรรยายคลัสเตอร์ GPU ราวกับเป็นวิทยาศาสตร์จรวด แต่ถ้าเปลี่ยนเป็นโรงไฟฟ้า คำถามก็ไม่ได้ต่างไปเลย ทั้งสองอย่างซับซ้อน มีตัวแปรมาก ต้องการเอาต์พุตปัจจุบัน การบำรุงรักษาตามรอบ และบุคลากรที่มีทักษะ
    สุดท้ายก็ต้องแก้เองหรือทำสัญญากับบริษัทที่แก้ได้ และในความเป็นจริงคงมีหลายบริษัทที่อยาก เช่าคลัสเตอร์แบบนี้ไปใช้กับ AI

  • มีสัญญาณเพียงพอว่าอีกไม่นาน GPU ที่ถูกยึด จะออกสู่ตลาดจำนวนมาก ช่วงหนึ่งคงวุ่นวาย แต่ถ้าหา GPU มือสองได้ง่าย ก็จะเปิดความเป็นไปได้มากมาย

    • ฟังดูคล้ายตลาดอาวุธหลังสหภาพโซเวียตล่มสลาย คงไม่มีช่วงไหนเหมาะกว่านั้นสำหรับการหารถถังที่ยังใช้งานได้หรือชิ้นส่วนอาวุธนิวเคลียร์
    • สงสัยว่าจะเอา GPU จำนวนมากขนาดนั้นไปทำอะไร ทุกคนอาจได้มีพีซีเล่นเกมดี ๆ กันหมดก็ได้
      ในความเป็นจริง ฟาร์มขุดคริปโตอาจกลับมาเพิ่มขึ้นอย่างรวดเร็วและกดราคาคริปโตลง แต่ก็สงสัยว่า ซัพพลาย GPU ราคาถูกจำนวนมาก จะทำให้เกิดการเปลี่ยนแปลงอะไรได้อีกบ้าง