NVIDIA เปิดตัว GPU H100 บนสถาปัตยกรรม Hopper

 (nvidianews.nvidia.com)
2 คะแนน โดย xguru 2022-03-23 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • เปิดตัวสถาปัตยกรรม Hopper™ รุ่นถัดไปและ H100 ที่สร้างบนสถาปัตยกรรมดังกล่าวในงาน GTC 2022
    → ตั้งชื่อตาม Grace Hopper และสืบทอดต่อจากสถาปัตยกรรม Ampere
  • นวัตกรรมทางเทคโนโลยี 6 ประการเพื่อเร่งความเร็ว AI ขนาดใหญ่และ HPC
    • รวมทรานซิสเตอร์ 80,000 ล้านตัวด้วยกระบวนการผลิต 4 นาโนเมตรของ TSMC รองรับ PCIe Gen5 และเป็น GPU รุ่นแรกที่ใช้หน่วยความจำ HBM3 (แบนด์วิดท์หน่วยความจำ 3TB/s)
    • Transformer Engine ใหม่ให้ความเร็วมากกว่ารุ่นก่อนหน้าถึง 6 เท่า
    • เทคโนโลยี Multi-Instance GPU - MIG ด้านความปลอดภัยรุ่นที่ 2 สามารถแบ่ง GPU หนึ่งตัวออกเป็นส่วนย่อยเพื่อรันงานแบบแยกจากกันได้ โดยสถาปัตยกรรม Hopper ปรับปรุง MIG ดีขึ้นกว่ารุ่นก่อนถึง 7 เท่า
    • ตัวเร่งความเร็ว Confidential Computing รุ่นแรก ช่วยปกป้องโมเดล AI และข้อมูลลูกค้าระหว่างการประมวลผล
    • NVIDIA NVLink รุ่นที่ 4 - เชื่อมต่อ GPU H100 ได้สูงสุด 256 ตัวด้วยแบนด์วิดท์สูงขึ้น 9 เท่า (เทียบกับ NVIDIA HDR Quantum InfiniBand เดิม)
    • ชุดคำสั่ง DPX ใหม่ช่วยเร่ง "dynamic programming" ที่ใช้ในอัลกอริทึม/การเพิ่มประสิทธิภาพเส้นทาง/จีโนมิกส์ เร็วกว่ารุ่นก่อนหน้า 7 เท่า และเร็วกว่า CPU 40 เท่า
  • รองรับโมเดลภาษา Megatron 530B ด้วยปริมาณงานสูงกว่ารุ่นก่อนหน้าสูงสุด 30 เท่า

บทความที่เกี่ยวข้อง