Jensen Huang ซีอีโอของ Nvidia เปิดตัวชิป AI รุ่นใหม่: "ต้องการ GPU ที่ใหญ่กว่าเดิม"

 (cnbc.com)
2 คะแนน โดย GN⁺ 2024-03-19 | 2 ความคิดเห็น | แชร์ทาง WhatsApp

Jensen Huang ซีอีโอของ Nvidia เปิดตัวชิป AI รุ่นใหม่: 'ต้องการ GPU ที่ใหญ่กว่าเดิม'

  • Nvidia เปิดตัวชิปรุ่นใหม่สำหรับปัญญาประดิษฐ์ (AI) และซอฟต์แวร์สำหรับรันโมเดล AI เมื่อวันจันทร์
  • ชื่อของกราฟิกโปรเซสเซอร์ AI รุ่นใหม่คือ 'Blackwell' และมีกำหนดเริ่มส่งมอบในช่วงปลายปีนี้
  • การประกาศครั้งนี้เกิดขึ้นในช่วงเวลาสำคัญสำหรับบริษัทและผู้พัฒนาซอฟต์แวร์ที่ยังคงเร่งหาชิปรุ่นใกล้เคียงกับ H100 รุ่นปัจจุบันมาใช้งาน

Blackwell ผู้สืบทอดของ Hopper

  • Nvidia อัปเดตสถาปัตยกรรม GPU ทุกสองปีเพื่อสร้างการก้าวกระโดดด้านประสิทธิภาพครั้งใหญ่
  • GB200 ซึ่งเป็นโปรเซสเซอร์ที่ใช้สถาปัตยกรรม Blackwell ให้สมรรถนะด้าน AI ที่ 20 เพตะฟลอปส์ เทียบกับ 4 เพตะฟลอปส์ของ H100 ทำให้บริษัท AI สามารถฝึกโมเดลที่ใหญ่และซับซ้อนยิ่งขึ้นได้
  • ชิปรุ่นนี้มี 'Transformer Engine' ที่ออกแบบมาโดยเฉพาะสำหรับรัน AI แบบ Transformer และรวมได 2 ชิ้นที่ผลิตโดย TSMC ให้เป็นชิปขนาดใหญ่ตัวเดียว

Nvidia Inference Microservice

  • Nvidia เพิ่มผลิตภัณฑ์ใหม่ชื่อ 'NIM' (Nvidia Inference Microservice) เข้าไปในแพ็กเกจสมัครใช้ซอฟต์แวร์ Nvidia Enterprise
  • NIM ช่วยให้กระบวนการอนุมาน (inference) สำหรับรันซอฟต์แวร์ AI บน GPU ของ Nvidia ที่มีอยู่เดิมทำได้ง่ายขึ้น และช่วยให้บริษัทต่าง ๆ ใช้งาน GPU ของ Nvidia หลายล้านตัวที่มีอยู่แล้วต่อไปได้
  • กลยุทธ์นี้มุ่งจูงใจให้ลูกค้าที่ซื้อเซิร์ฟเวอร์ที่ใช้ Nvidia สมัคร Nvidia Enterprise ซึ่งมีค่าลิขสิทธิ์รายปี GPU ละ 4,500 ดอลลาร์

ความเห็นของ GN⁺

  • การเปิดตัวชิป AI รุ่นใหม่ 'Blackwell' และซอฟต์แวร์ที่เกี่ยวข้องอย่าง 'NIM' ของ Nvidia เป็นสัญลักษณ์ของความก้าวหน้าทางเทคโนโลยีในวงการ AI และตอกย้ำความสำคัญของแพลตฟอร์มฮาร์ดแวร์และซอฟต์แวร์สำหรับการฝึกและการอนุมานของโมเดล AI
  • ประสิทธิภาพที่เพิ่มขึ้นของชิป Blackwell เปิดโอกาสให้นักวิจัย AI ทดลองกับโมเดลที่ใหญ่และซับซ้อนยิ่งขึ้น ซึ่งอาจมีบทบาทสำคัญต่อความก้าวหน้าของ AI
  • อย่างไรก็ตาม ราคาที่สูงของชิป AI สมรรถนะสูงอาจกลายเป็นอุปสรรคในการเข้าสู่ตลาดสำหรับบางบริษัทหรือสถาบันวิจัย และอาจจุดประเด็นถกเถียงเรื่องการทำให้เทคโนโลยีเข้าถึงได้อย่างทั่วถึง
  • บริษัทอื่นที่แข่งขันกับ Nvidia ก็กำลังพัฒนาผลิตภัณฑ์ที่มีความสามารถใกล้เคียงกัน เช่น AMD Radeon Instinct หรือ Google TPU ซึ่งเป็นอีกทางเลือกในตลาดฮาร์ดแวร์ AI
  • ปัจจัยที่ควรพิจารณาเมื่อเลือกใช้เทคโนโลยี AI ได้แก่ ต้นทุน ประสิทธิภาพ ความเข้ากันได้ และการสนับสนุนทางเทคนิค โดยเทคโนโลยีใหม่ของ Nvidia อาจให้ข้อได้เปรียบอย่างมากแก่บริษัทที่ต้องการองค์ประกอบเหล่านี้

บทความที่เกี่ยวข้อง

2 ความคิดเห็น

 
corelyai 2024-03-20
  • การประชุมนักพัฒนา Nvidia: เปิดตัวชิป Blackwell และเทคโนโลยีแห่งอนาคต
  • Nvidia เปิดตัว Blackwell ซึ่งเป็นแพลตฟอร์มล้ำสมัยที่มีทรานซิสเตอร์ 28 พันล้านตัวบนไดสองชิ้นที่วางติดกัน เพื่อสร้างชิปขนาดยักษ์เพียงชิ้นเดียวที่ส่งข้อมูลได้ 10 เทราไบต์ต่อวินาที พร้อมความเข้ากันได้กับ Hopper ในด้านรูปแบบและการเชื่อมต่อ
  • สวิตช์ลิงก์ MVY ของ Blackwell ที่บรรจุทรานซิสเตอร์ 50 พันล้านตัว ช่วยให้การสื่อสารระหว่าง GPU ทำได้ด้วยความเร็วสูงสุด จนสามารถสร้างระบบ AI ระดับเอกซะฟลอปส์ได้ภายในแร็กเดียว
  • Nvidia ประกาศว่ากำลังร่วมมือกับ AWS, Google, Oracle และ Microsoft เพื่อเร่งบริการ AI หลากหลายรูปแบบและผสานเทคโนโลยีของ Nvidia เข้ากับแพลตฟอร์มเหล่านั้น
  • Nvidia เปิดตัว AI Foundry ที่ร่วมมือกับบริษัทอย่าง SAP, ServiceNow, Cohesity, Snowflake และ Dell เพื่อสร้างโซลูชัน generative AI และโรงงาน AI
  • มีการสตรีม Omniverse Cloud ไปยัง Vision Pro เพื่อรองรับการผสานรวมและเวิร์กโฟลว์ที่ราบรื่นระหว่างเครื่องมือออกแบบหลากหลายประเภท และ Nvidia ยังเปิดตัว Project Groot, Isaac Lab และ OSMO สำหรับหุ่นยนต์ที่ขับเคลื่อนด้วย AI
  • หุ่นยนต์ bdx ของ Disney ที่ขับเคลื่อนด้วย Jetson ปรากฏตัวพิเศษและสาธิตความสามารถในการเรียนรู้ใน Isaac Sim

นี่คือเนื้อหาวิดีโอจาก CNET ที่สรุปโดย corely.ai (https://www.youtube.com/watch?v=bMIRhOXAjYk)
 
GN⁺ 2024-03-19
ความคิดเห็นจาก Hacker News

  • ยืนยันจากงานคอนเฟอเรนซ์ว่า Nvidia กำลังเดินหน้าในทิศทางของการซ้อนสแตกขึ้นไป

    • ในฐานะผู้จำหน่ายฮาร์ดแวร์ Nvidia ก็ยังคงสร้างของที่ใหญ่ขึ้นอย่างต่อเนื่องตามคาด
    • สิ่งที่น่าสนใจคือกำลังสร้าง NIM ซึ่งเป็นเหมือน "docker for llms"
    • NIM เป็นระบบคอนเทนเนอร์ที่ทำให้ปรับใช้บนฮาร์ดแวร์ของ Nvidia ได้ง่าย
    • น่าสนใจที่จะรอดูว่าจะส่งผลต่อสตาร์ตอัป AI อย่างไร

  • มองว่า Nvidia กำลังเปลี่ยนตัวเองไปเป็นผู้ให้บริการแพลตฟอร์ม

    • ดูเหมือนว่าจะทำกำไรได้ดีกว่าสำหรับ Nvidia ในฐานะแพลตฟอร์มบริการ AI
    • การรักษาสมดุลกับความร่วมมือกับ AWS และ Microsoft อาจเป็นเรื่องยาก
    • Nvidia ได้เปรียบเพราะ AI พึ่งพา CUDA สูง
    • สนใจว่าต่อจากนี้จะพัฒนาไปอย่างไร

  • สงสัยว่า FP4 คือเลขทศนิยมลอยตัว 4 บิตหรือไม่

    • กราฟเปรียบเทียบที่บอกว่าสูงกว่า Hopper 30 เท่าค่อนข้างทำให้เข้าใจผิดได้

  • Nvidia เข้าซื้อ Bright Cluster Manager เมื่อไม่กี่ปีก่อน

    • คนถัดไปที่จะถูกซื้อกิจการคือใคร ดูเหมือนมีเจตนาจะให้บริการทั้งสแตก

  • ถามว่าในกรณีนี้คำว่า "บริษัทแพลตฟอร์ม" หมายถึงมัลติชิปหรือไม่

    • การยัดทรานซิสเตอร์มากเกินไปลงในไดเดียวไม่สมจริง จึงเป็นเหตุผลที่การไปทางมัลติชิปฟังดูสมเหตุสมผล

  • มีการอ้างว่าลดการใช้พลังงานได้ 25 เท่า ซึ่งเข้าใจได้ยาก

    • ต้องการคำอธิบายว่าตัวเลขนี้มาจากไหน

  • มีการพูดถึงการผลิตจำนวนมากในระดับเพตะฟลอปสองหลัก

    • มีการประเมินหลากหลายแบบเกี่ยวกับพลังประมวลผลที่ต้องใช้เพื่อจำลองการทำงานของสมองมนุษย์
    • เพตะฟลอปคือ 10^15
    • ย้ำว่านี่เป็นยุคสมัยที่น่าทึ่ง

  • รายได้ดาต้าเซ็นเตอร์ของ Nvidia ทำสถิติสูงสุดที่ $18.4 พันล้านในไตรมาส 4 ปี 2023

    • เพิ่มขึ้น 27% จากไตรมาสก่อน และ 409% เมื่อเทียบกับปีก่อน
    • ชี้ให้เห็นว่ารายได้จากการทำ inference กำลังเพิ่มขึ้นอย่างมาก

  • การที่ FP8 สูงกว่า Hopper 2.5 เท่าถือว่าน่าผิดหวังเล็กน้อยเมื่อเทียบกับเวลาที่ผ่านไปนาน

    • เพราะเป็นชิปที่ฟิวส์รวมกัน 2 ตัว ผลที่แท้จริงจึงเพิ่มขึ้นเพียง 25%
    • ความก้าวหน้าส่วนใหญ่อยู่ที่แบนด์วิดท์หน่วยความจำและการใช้พลังงาน
    • สงสัยว่าความก้าวหน้าเหล่านี้จะส่งผลต่อฝั่งผู้บริโภคอย่างไร

  • มีการให้ลิงก์ข้อมูลเพิ่มเติมเกี่ยวกับรายละเอียดทางเทคนิค