Meta นำ RAM เก่ากลับมาใช้กับเซิร์ฟเวอร์ใหม่ด้วยชิปบริดจ์ CXL แบบปรับแต่งเอง

 (theregister.com)
1 คะแนน โดย GN⁺ 3 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Meta นำ หน่วยความจำ DDR4 ที่อาจถูกทิ้งไปมาเชื่อมต่อกับเซิร์ฟเวอร์ DDR5 รุ่นใหม่ เพื่อลดจำนวนเซิร์ฟเวอร์ที่ต้องใช้สำหรับเวิร์กโหลดอนุมานแบบแยกส่วนบางประเภทได้สูงสุด 25%
  • ประมาณ 40% ของฟลีตเซิร์ฟเวอร์ ไม่สามารถเพิ่มหน่วยความจำได้ ขณะที่หน่วยความจำมีอายุการใช้งานยาวนานกว่าเซิร์ฟเวอร์ ทำให้การนำ DIMM กลับมาใช้ใหม่เป็นวิธีลดต้นทุน
  • ASIC แบบกำหนดเองชื่อ Vistara เชื่อม DDR4 เข้ากับอินเทอร์เฟซ PCIe Gen5 x16 ที่เข้ากันได้กับ CXL 2.0/1.1 เพื่อหลีกเลี่ยงข้อจำกัดของอุปกรณ์ CXL เดิมในการนำ DDR4 กลับมาใช้ใหม่
  • MemServer ที่ใช้ Vistara รวม AMD Turin, DDR5 ขนาด 768GB และ DDR4 ขนาด 256GB เข้าด้วยกัน และแสดง DDR4 ให้ระบบปฏิบัติการเห็นเป็น NUMA node แยกต่างหากที่ไม่มี CPU
  • หน่วยความจำที่ขยายผ่าน CXL ช่วยลดโอเวอร์เฮดจากงานล้มเหลวและการเริ่มงานใหม่เพราะ OOM รวมถึงการแตกกระจายของทรัพยากรได้ 33% ช่วยลดภาระในการปฏิบัติการโครงสร้างพื้นฐานขนาดใหญ่

เหตุผลที่นำ DDR4 กลับมาใช้อีกครั้ง

  • Meta นำ DDR4 DIMM ที่ถอดมาจากเซิร์ฟเวอร์รุ่นเก่ามาติดตั้งในเซิร์ฟเวอร์ใหม่ เพื่อสร้างเป็นพูลหน่วยความจำที่แชร์ได้
  • ในฟลีตเซิร์ฟเวอร์มีประมาณ 40% ที่ไม่สามารถเพิ่มหน่วยความจำได้ ทำให้รองรับเวิร์กโหลดบางประเภทได้ยาก
  • อายุการใช้งานที่คาดไว้ของเซิร์ฟเวอร์อยู่ที่ 3~5 ปี ขณะที่หน่วยความจำยังใช้งานได้อย่างมีประโยชน์นาน 7~10 ปี
  • ความต่างของอายุการใช้งานนี้ทำให้การนำหน่วยความจำจากเซิร์ฟเวอร์เก่ามาใช้ซ้ำในระบบใหม่กลายเป็นแนวทางเพิ่มประสิทธิภาพโครงสร้างพื้นฐาน
  • สัดส่วนเซิร์ฟเวอร์ที่เพิ่มหน่วยความจำไม่ได้: {p:40}

ข้อจำกัดของการนำ CXL มาใช้ และบทบาทของ Vistara

  • CXL ช่วยให้แชร์หน่วยความจำระหว่างโฮสต์หลายเครื่องได้ แต่ในสภาพแวดล้อม production ภาระจากแบนด์วิดท์ต่ำ, latency สูง และโอเวอร์เฮดเพิ่มเติมในการจัดการลำดับชั้นหน่วยความจำ อาจเป็นปัจจัยถ่วง
  • ข้อจำกัดเหล่านี้อาจเห็นได้ชัดยิ่งขึ้นเมื่อรวมเทคโนโลยีหน่วยความจำที่ต่างกันไว้ในระบบเดียว
  • Meta ต้องการผสมหน่วยความจำหลายประเภทไว้ในเครื่องเดียว แต่อุปกรณ์ CXL สำเร็จรูปไม่ตรงกับความต้องการ
    • โซลูชัน CXL ส่วนใหญ่ผูก DRAM กับคอนโทรลเลอร์ไว้ด้วยกัน ทำให้ การนำ DIMM กลับมาใช้ใหม่ ทำได้ยาก
    • หลายกรณีไม่รองรับ DDR4 จึงไม่เหมาะกับการรีไซเคิลหน่วยความจำรุ่นเก่า
    • การใช้พลังงานและต้นทุนก็ลดความน่าสนใจในการนำมาใช้งาน
  • เพื่ออุดช่องว่างนี้ Meta จึงพัฒนา ASIC แบบกำหนดเองชื่อ Vistara

โครงสร้างของ Vistara ASIC

  • Vistara ทำหน้าที่เป็น CXL bridge เชื่อมหน่วยความจำ DDR4 เข้ากับโฮสต์โปรเซสเซอร์
  • อินเทอร์เฟซหลักคือ PCIe Gen5 x16 ที่เข้ากันได้กับ CXL 2.0/1.1
  • Vistara ASIC แต่ละตัวมีองค์ประกอบดังนี้
    • ช่องสัญญาณหน่วยความจำ DDR4 แบบ 72 บิตอิสระ 2 ช่อง
    • รองรับความเร็วสูงสุด 3,200 MT/s
    • รองรับได้สูงสุด 256GB ต่อชิป เมื่อใช้ DIMM ขนาด 64GB
  • ในการขับเคลื่อน ASIC ใช้ โปรเซสเซอร์ RISC-V แบบกำหนดเอง 2 ตัว

ฮาร์ดแวร์และซอฟต์แวร์ของ MemServer

  • ฮาร์ดแวร์ Vistara ถูกติดตั้งอยู่ในอุปกรณ์ที่ Meta เรียกว่า MemServer
  • MemServer แต่ละเครื่องประกอบด้วย
    • โปรเซสเซอร์ AMD Turin
    • 158 คอร์, 316 เธรด
    • หน่วยความจำ DDR5 ขนาด 768GB
    • DDR4 ขนาด 256GB ที่เชื่อมผ่าน Vistara ASIC
  • การ์ด Vistara CXL ติดตั้งในสล็อตที่เข้าถึงได้จากด้านหลังภายในแชสซีของ MemServer โดยเฉพาะ
  • เพื่อรองรับภาระความร้อนจากหน่วยความจำความหนาแน่นสูงและอุปกรณ์ CXL แชสซีจึงใช้พัดลมกำลังสูงและการไหลเวียนอากาศแบบกำหนดทิศทางเพื่อส่งลมเย็นไปยังโมดูล Vistara โดยตรง
  • ในฝั่งซอฟต์แวร์ DDR4 จะถูกแสดงให้ระบบปฏิบัติการเห็นเป็น NUMA node แยกต่างหากที่ไม่มี CPU และแยกจาก local DRAM node ที่เชื่อมต่อกับโปรเซสเซอร์โดยตรง
  • แพลตฟอร์มของ Meta จะใช้ local DDR4 ที่พร้อมใช้งานก่อน แล้วจึงใช้หน่วยความจำบน CXL เมื่อต้องการ
  • โค้ด Linux CXL driver ที่ใช้กับ Vistara มีอยู่แล้วใน upstream kernel หรือกำลังอยู่ระหว่างกระบวนการรวมเข้ากับ upstream

การใช้งานจริงใน production และผลต่อการปฏิบัติการ

  • Meta นำโครงสร้าง CXL ที่ใช้ Vistara ไปใช้ในโครงสร้างพื้นฐาน hyperscale ระดับ เซิร์ฟเวอร์หลายล้านเครื่อง
  • เวิร์กโหลดที่นำไปใช้มีดังนี้
    • ML inference แบบแยกส่วน รวมถึง embedding table ของระบบแนะนำ
    • การประมวลผลบิ๊กดาต้า
    • ฐานข้อมูล
    • distributed cache
    • ระบบ build สำหรับ CI/CD
  • เครื่องมือบิ๊กดาต้าอย่าง Spark และ Hive จัดการกับชุดข้อมูลระดับเทราไบต์ถึงเพตะไบต์ และอาจต้องใช้หน่วยความจำหลายร้อย GB ต่องาน
  • หากเกิด เหตุการณ์ OOM ในเวิร์กโหลดเหล่านี้ อาจทำให้การวิเคราะห์ทางธุรกิจสำคัญและ ML pipeline หยุดชะงักได้
  • หน่วยความจำสำรองที่ขยายผ่าน CXL ช่วยลดความเสี่ยงจาก OOM ทำให้โอเวอร์เฮดที่เกี่ยวข้องกับงานล้มเหลว การเริ่มงานใหม่ และการแตกกระจายของทรัพยากร ลดลง 33%
  • สำหรับงานอนุมานแบบแยกส่วน พบว่าสามารถ ลดจำนวนเซิร์ฟเวอร์ได้สูงสุด 25%
  • Meta ยังได้ประโยชน์จากการหลีกเลี่ยงราคาหน่วยความจำที่สูงอีกด้วย
  • การลดโอเวอร์เฮดในการปฏิบัติการ: {p:33}
  • การลดจำนวนเซิร์ฟเวอร์สำหรับงานอนุมานแบบแยกส่วน: {p:25}

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 3 시간 전
ความคิดเห็นบน Hacker News

  • ในช่วงต้นของ Neuromancer ของ William Gibson ตัวเอกพยายามขาย RAM 3MB ในตลาดใต้ดิน ซึ่งมักถูกยกเป็นตัวอย่างว่าหนังสือเล่มนี้ไม่อาจทนต่อกาลเวลาได้
    แต่ถ้าดูทิศทางของตลาดหน่วยความจำในตอนนี้… บางทีเราอาจยังไปไม่ถึงจุดนั้นก็ได้

    • นักวิทยาการคอมพิวเตอร์ยุคแรก ๆ มองโลกในแง่ดีมากจริง ๆ พวกเขาเชื่อว่าถ้ามี RAM ไม่กี่ KB กับ CPU ไม่กี่ MHz ก็ทำได้ทุกอย่าง ตั้งแต่ปัญญาประดิษฐ์ สำนึก การเรียนรู้ของเครื่อง ภาษา ไปจนถึงการสังเคราะห์เสียง
      ตอนนี้เราใช้ RAM ระดับ GB กับแค่เว็บฟอร์มหนึ่งหน้า การที่ Gibson มองว่า RAM 3MB ก็เพียงพอสำหรับสำนึกหนึ่งในไซเบอร์สเปซนั้นถือว่ามองโลกในแง่ดีมาก แต่ก็เข้ากับบรรยากาศของยุคนั้นดี
    • ตั้งแต่เริ่มเฝ้ามองวงการคอมพิวติ้งอย่างมีสติ ผมเคยคิดหลายครั้งว่าสิ่งที่พัฒนาน่าประทับใจที่สุดคือ ความจุหน่วยความจำ เครือข่ายหรือ USB ก็เป็นความก้าวหน้าครั้งใหญ่เหมือนกัน แต่ไม่ได้ทำให้คอมพิวเตอร์ “เร็วขึ้น” ในแบบเดียวกัน
      ตอน Diablo II เพิ่งออกในปี 2000 ผมมีโอกาสยืมคอมพิวเตอร์ที่ใช้ Pentium III 450MHz กับ RAM 64MB มาใช้ ตอนนั้น RAM 64MB ถือว่าอยู่ระดับกลาง ๆ และไม่ใช่สเปกที่มีเป็นปกติ เท่าที่จำได้ Diablo II แนะนำ 64MB สำหรับเล่นคนเดียว และ 128MB สำหรับเล่นหลายคน
      คอมพิวเตอร์ที่ผมใช้เขียนข้อความนี้ตอนนี้มี RAM 64GB ซึ่งมากกว่า 1024 เท่า ในขณะที่ CPU เป็น Intel 20 คอร์ ความเร็วสูงสุดราว 3GHz ต่อให้สมมติว่าทุกคอร์ทำงานพร้อมกันที่ความเร็วสูงสุด การเพิ่มขึ้นของประสิทธิภาพ CPU ก็อยู่แค่ราว 133 เท่า
      เวลาอ่านของ NVMe อาจสำคัญพอ ๆ กับ หรือสำคัญกว่าการเพิ่มขึ้นของความจุหน่วยความจำด้วยซ้ำ แต่ในตารางสเปก PC มันไม่ได้ถูกดันขึ้นหน้าเท่าหน่วยความจำกับ CPU
      การเพิ่มขึ้นของความจุฮาร์ดดิสก์ก็น่าประทับใจพอ ๆ กับ RAM เช่นกัน ปี 2000 น่าจะอยู่ประมาณ 10–30GB แต่ตอนนี้ผมไม่ได้ใช้ดิสก์ 10TB เพราะไม่จำเป็น และ 1TB ก็พอแล้ว ดังนั้นส่วนตัวจึงรู้สึกได้ไม่แรงเท่าหน่วยความจำ
    • ในประวัติศาสตร์คอมพิวติ้งยุคแรก ๆ หน่วยของหน่วยความจำ ยังไม่ได้ถูกกำหนดชัดเจน และขนาด word ก็แตกต่างกันไปตามโครงสร้างฮาร์ดแวร์ อีกทั้งไม่จำเป็นต้องหารด้วย 8 ลงตัวเสมอไป
      ขนาดหน่วยความจำของเครื่องเหล่านี้แต่เดิมมักแสดงด้วยขนาด word เช่น “เครื่องนี้มี core memory 8 กิโลเวิร์ด” อะไรทำนองนั้น ดังนั้นเวลาเห็นความจุหน่วยความจำที่ดูผิดยุคในนิยายเก่า ๆ ผมก็คิดไปว่าเป็นเพียงเพราะผมไม่รู้ขนาด word ที่พวกเขาใช้
    • ถ้าเป็น RAM 3MB ที่ “ร้อน” และถูกเก็บไว้ในกระติกอุณหภูมิต่ำจัด นั่นก็ใกล้เคียงกับ cold boot attack และไม่ใช่การขาย RAM แต่เป็นการขายข้อมูล
    • การบอกว่างานชิ้นนั้นล้าสมัยด้วยเหตุผลนี้ถือว่าเป็นการจับผิดพอสมควร Hamlet ไม่มีมือถือ แต่ก็ยังเป็นบทละครที่ยอดเยี่ยมอยู่ดี
      ถึงแม้แค่ FaceTime เร็ว ๆ สักครั้งก็น่าจะป้องกันโศกนาฏกรรมได้ก็เถอะ

  • ไม่เข้าใจว่าทำไมไม่ลิงก์ไปยังบทความต้นทางที่ละเอียดกว่านี้โดยตรง
    https://www.theregister.com/systems/2026/06/29/zuck-saves-me...

    • ลิงก์งานวิจัยต้นฉบับคือ https://aisystemcodesign.github.io/papers/isca26/vistara_cam...
      ถ้ากวาดตาดูคร่าว ๆ มันพอจะคิดได้ว่าเหมือนเอา DDR4 จำนวนมากเสียบลงในการ์ด PCIe แล้วใช้เหมือน พื้นที่ swap จริง ๆ แล้วด้วยโปรโตคอล CXL มันซับซ้อนกว่านั้น แต่ถ้าจะเข้าใจจุดแลกเปลี่ยนก็มองแบบนั้นได้
      ดูเหมือนว่าจะมีการรองรับระดับระบบปฏิบัติการเพื่อย้ายหน้า hot/cold ระหว่าง DRAM หลักที่เร็วกับ DRAM ขยายที่มี latency สูงกว่า
      ประเด็นที่ว่า DRAM มีอายุการใช้งานค่อนข้างยาว มีคาร์บอนแฝงจากกระบวนการผลิตไปแล้วไม่น้อย และในขณะเดียวกันก็มีวิกฤตอุปทาน DRAM ใหม่ เป็นเรื่องที่สมเหตุสมผลมาก
    • น่าประหลาดใจที่เขียนราวกับว่านี่เป็นผลงานของ “Zuck” ทั้งที่จริง ๆ แล้วไม่น่าใช่ว่าเขาจะรู้เรื่องพวกนี้
    • ถ้าหมายถึง “บทความต้นฉบับ” น่าจะเป็นเว็บนี้ ซึ่งเป็นเว็บพี่น้องของ Register
      https://www.blocksandfiles.com/architecture/2026/06/26/panmn...

  • เคยสงสัยมานานแล้วว่าทำไมตลาด “การ์ด PCI/PCI-X/PCIe ราคาถูกที่เอา SIMM/DIMM เก่าหรือที่เหลือใช้ หรือหน่วยความจำรุ่นก่อนหน้าสักหนึ่งสองเจเนอเรชันมาเสียบเยอะ ๆ แล้วใช้เป็น swap/หน่วยความจำช้า/RAM disk” ถึงไม่เคยโตขึ้นมาจริง ๆ
    กรณีที่พื้นที่ address space ของเมนบอร์ดถูกใส่หน่วยความจำรุ่นใหม่จนเต็มนั้นพบไม่บ่อย และเคอร์เนลก็สอนได้ว่าจะให้ชอบหน่วยความจำใดมากกว่าตามความเร็ว มันจึงดูเหมือนว่าน่าจะทำได้อยู่แล้ว
    จำได้ลาง ๆ ว่าตลาดที่พยายามทำเรื่องคล้ายกันด้วยแฟลชสะดุดเพราะปัญหาสิทธิบัตร แต่รายละเอียดจำไม่ค่อยได้แล้ว ถึงอย่างนั้น flash cache อย่างน้อยก็กลายเป็นตลาดในฝั่งผู้เล่นรายใหญ่ บางทีที่นี่อาจเคยมีเรื่องคล้ายกัน หรืออาจเป็นแค่ช่องเฉพาะที่ผมสนใจในตอนนั้นก็ได้
    [1] รู้ว่ามีผลิตภัณฑ์ในสายนี้อยู่บ้าง แต่ความรู้สึกคือไม่ดังขึ้นมาจริง ๆ อาจจะผิดก็ได้
    [2] ใน NetBSD ทำได้แน่นอน เคยทำเองบนสถาปัตยกรรมอย่าง VMEbus ซึ่งมักมีทั้งหน่วยความจำออนบอร์ดขนาดเล็กแต่เร็ว และหน่วยความจำฝั่งบัสที่ใหญ่กว่าแต่ช้ากว่าอยู่ด้วยกัน คิดว่า Linux ก็น่าจะทำแบบนี้ได้จากงานสนับสนุน NUMA แต่ไม่เคยไปดูเอง

    • เหตุผลที่ไม่มีตลาดขนาดใหญ่คือ หน่วยความจำใหม่ไม่ได้แพงระดับห้ามแตะเมื่อเทียบกับต้นทุน ความเสี่ยง และข้อจำกัดของการใช้หน่วยความจำเก่าในเซิร์ฟเวอร์ใหม่
      ตอนนี้สถานการณ์เปลี่ยนไปแล้ว คนเลยเริ่มกลับมามองไอเดียนี้กันอีกครั้ง
    • ไม่ใช่แบบเดียวกันเป๊ะ แต่กำลังทำกล่อง NAS จากชิ้นส่วนเก่าอยู่ RAM ส่วนใหญ่ที่เหลือเป็น DDR4 SODIMM สำหรับโน้ตบุ๊ก เลยลองใช้ อะแดปเตอร์ SODIMM → DIMM เดสก์ท็อป แต่ใช้ได้ไม่ดี
      ระบบบูตได้ประมาณ 1 ใน 5 ครั้งเท่านั้น และไม่ว่าจะปรับการตั้งค่าความเร็วหน่วยความจำอย่างไรก็ไม่เสถียร
    • จำได้ว่าเมื่อ 30 ปีก่อนมีการ์ดแบบนี้ที่แปลงโมดูล SIMM 30 พิน 4 ตัวให้ใส่กับสล็อต SIMM 72 พินได้
      https://www.ebay.com/itm/383521792853
    • DIMM รุ่นเก่าไม่ได้ถูกขนาดนั้น และซัพพลายก็จำกัด เพราะผลิตภัณฑ์รุ่นเก่าถูกถอดออกจากสายการผลิตเพื่อกันกำลังผลิตไว้ให้ชิปใหม่
      DDR2 แพงกว่า DDR3 ไปแล้ว อาจเป็นเพราะไม่ได้ผลิตแล้ว แต่ยังมีความต้องการเปลี่ยนหรืออัปเกรดหน่วยความจำในฮาร์ดแวร์เก่าอยู่
    • ความแตกต่างใหญ่ในวันนี้ เท่าที่เข้าใจ คือ CXL เพิ่ม cache coherency ไว้บน PCIe อาจเข้าใจผิดก็ได้
      ถ้าไม่มี cache coherency ก็ต้องระวังมากขึ้นมากว่าจะใช้หน่วยความจำนั้นอย่างไร และเรื่องประสิทธิภาพก็ซับซ้อนขึ้น RAM บน CXL คงทำงานช้ากว่า RAM ที่ต่อกับ memory controller ของ CPU โดยตรง แต่ไม่น่ามีกับดักใหญ่ ๆ

  • ถ้าไม่อยากออกแบบชิปเอง ก็มีผลิตภัณฑ์มาตรฐานอย่าง ชิปขยายหน่วยความจำ CXL อยู่
    https://www.marvell.com/products/cxl.html

  • ส่วนที่น่าสนใจของ “วิกฤต RAM” ครั้งนี้คือ เมื่อเกิดปัญหาเหมือนในสาขาอื่น ๆ หลายฝ่ายก็เริ่มมองหาทางเลือก
    ผลคือหลังวิกฤต อาจมีไอเดียหรือทางอ้อมที่น่าสนใจพอจะก่อให้เกิด บูมด้านหน่วยความจำ ซึ่งหวังว่าจะนำมาใช้กับเครื่อง local ได้ด้วย
    อย่างแรก Apple กำลังพิจารณาผู้ผลิตจีนรายใหม่ ถ้าการประกันคุณภาพโอเค โครงสร้างอุปสงค์และอุปทานก็อาจเปลี่ยนได้ (https://www.ft.com/content/f4ac5c92-03be-4499-b16a-017a7e9ee...)
    อย่างที่สอง บริษัทต่าง ๆ กำลังหาทางอ้อมด้านประสิทธิภาพ อยู่ ๆ single channel ก็ “โอเค” แล้วงั้นหรือ? :)
    (https://www.gigabyte.com/press/news/2403)

    • RAM แบบ single channel ก็ยังดีกว่า swap บนดิสก์แน่นอน
    • คงจะดีถ้าเราเริ่มออกแบบซอฟต์แวร์โดยคำนึงถึง ข้อจำกัดของฮาร์ดแวร์ อีกครั้ง
    • สุดท้ายแล้ว ความจำเป็นคือแม่ของการประดิษฐ์ น่าจะเป็นหนึ่งในแนวคิดนามธรรมที่เก่าแก่ที่สุดในความคิดเชิงปัญญา
      ระหว่างการขาดแคลนทรัพยากรกับแรงจูงใจมีสายสัมพันธ์ที่แน่นมาก ความต้องการ RAM, SSD และ GPU ที่ frontier model ขนาดใหญ่ที่สุดกดดันอยู่ กลายเป็นแรงจูงใจโดยตรงให้สร้าง LLM ที่เล็กลง คล้ายกับแรงกดดันทางวิวัฒนาการที่ทำให้สัตว์เล็กลงและใช้ อาหารน้อยลง
      ต่อให้โมเดลเล็กเหล่านี้ประสบความสำเร็จ ยกเว้นงานประมวลผลวิดีโอคุณภาพสูงแล้ว ก็ยังมีแนวโน้มใช้ RAM, SSD และ GPU มากกว่าแอปพลิเคชันอื่น ๆ อยู่ดี LLM ขนาดเล็กกับงานวิดีโอขั้นสูงดูเหมือนต้องใช้ทรัพยากรใกล้เคียงกัน
      เพียงแต่เมื่อทรัพยากรถูกกระจายไปทั่วตลาดในรูปแบบดั้งเดิมมากขึ้น วัฏจักรอาจบ้าคลั่งน้อยลง
      ดังนั้นทางออกของวิกฤตวัฏจักรราคา RAM/SSD ที่ผู้ผลิตเจออยู่—คือราคาขึ้นลงระหว่างข้อจำกัดด้านซัพพลายกับอุปทานล้นจากกำลังผลิตใหม่—ดูเหมือนจะเป็นการให้ทุนวิจัย LLM ที่เล็กลง ยังไงก็จะขายผลิตภัณฑ์ได้ในปริมาณเกือบเท่าเดิม และอาจขายได้มากขึ้นด้วยซ้ำ

  • อยากให้ทำแบบนี้สำหรับผู้บริโภคด้วย มี RAM เก่าอยู่ค่อนข้างเยอะ

    • เมื่อก่อน Gigabyte เคยทำการ์ดเสริม RAM disk อยู่ ไม่ใช่แบบเดียวกันเป๊ะ แต่เพราะมันมองเห็นเป็นอุปกรณ์จัดเก็บข้อมูล จึงใช้เป็นพื้นที่ swap ของระบบปฏิบัติการได้
      https://en.wikipedia.org/wiki/I-RAM
    • การเพิ่ม RAM แบบนี้ไม่เหมือนกับการขยาย RAM หลักของระบบเป๊ะ ๆ เพราะ RAM เชื่อมต่อผ่าน ลิงก์ตระกูล PCIe จึงไม่ได้ทำงานเหมือน RAM หลัก
      โครงสร้างแบบนี้เหมาะกับ server farm ที่วิศวกรสามารถปรับแต่งและจูนให้เข้ากับสถาปัตยกรรมได้มากกว่า
      เคยมีการ์ดที่ใช้ RAM เป็นอุปกรณ์จัดเก็บข้อมูลด้วย แต่ต้องตั้งค่าเหมือนดิสก์ ทำให้การใช้งานจำกัดมากและไม่ได้รับความนิยม
    • ระบบสำหรับผู้บริโภคมีแบนด์วิดท์กลับไปยัง CPU ไม่มากนัก เลยให้ความรู้สึกต่างออกไป
      ถ้าดูราคา DDR4 มือสองตอนนี้ บางทีขายทิ้งแล้วไปซื้อไดรฟ์ NVMe อาจจะดีกว่า

  • ServeTheHome เคยพูดถึง CXL memory expansion controller ไปแล้วตั้งแต่เดือนธันวาคม
    https://www.servethehome.com/hyper-scalers-are-using-cxl-to-...

  • ใน论文ระบุไว้แบบนี้: “โซลูชัน CXL ของเราทำให้เกิดการปรับปรุงอย่างมากในเวิร์กโหลดหลากหลายแบบ และในงาน distributed ML inference ก็ลดจำนวนเซิร์ฟเวอร์ได้สูงสุด 25%”
    ใช้ RAM ที่แย่กว่า แต่ทำไมถึง ลดจำนวนเซิร์ฟเวอร์ลง 25% สำหรับเวิร์กโหลดเดียวกันได้ ผมไม่เข้าใจ

    • เพราะไม่ได้เอาไปแทนที่ RAM ที่ดีกว่า แต่เอาไปใช้เพิ่มต่างหาก
    • โดยพื้นฐานแล้ว CXL คือการเพิ่ม RAM ที่ “ช้ากว่า” ผ่าน PCIe ไม่ใช่การแทนที่

  • น่าสนใจว่าตลาด consumer electronics ในอีกไม่กี่ปีข้างหน้าจะเป็นอย่างไร บริษัทต่าง ๆ กำลังเดิมพันว่าผู้บริโภคจะยอมจ่ายแพงขึ้นเพราะตอนนี้ RAM ขาดแคลน
    แต่ในสถานการณ์ที่ต้นทุนอื่น ๆ ก็เพิ่มขึ้นด้วย ผมคิดว่าผู้บริโภคจำนวนไม่น้อยคงจะยังไม่ซื้ออุปกรณ์ใหม่ไปสักพัก นี่ไม่ได้อิงมาตรฐาน HN ต้องจำไว้ว่าทุกคนไม่ได้ได้เงินเดือนระดับคนในวงการเทคโนโลยี

    • ผมเองก็คงใกล้เคียงกับฝั่งนั้นเหมือนกัน แค่เลือกที่จะมีปฏิสัมพันธ์กับเทคโนโลยีน้อยลง
      ทุกอย่างเริ่มเป็นปฏิปักษ์มากขึ้นเรื่อย ๆ จนถึงจุดวิกฤตแล้ว
    • ผู้ผลิตระบบปฏิบัติการคงต้องรองรับฮาร์ดแวร์เก่าให้นานขึ้น
      Microsoft พยายามบังคับดันฮาร์ดแวร์ใหม่สำหรับ Win11 จน Win10 ก็ถูกขยายเวลาต่อไปอีก 1 ปีแล้ว

  • ดีเลย ทีนี้ ราคา RAM มือสอง ก็คงพุ่งทะลุฟ้าได้ด้วย
    ถ้าราคา PC กลับไปเท่ากับรถยนต์สักคันก็คงดี เพราะคงมีโอกาสทำเงินเยอะมาก

    • มันเป็นแบบนั้นไปแล้ว DDR4 มือสองอายุ 5 ปี ตอนนี้แพงกว่าราคาของใหม่เมื่อ 5 ปีก่อนอีก