gpudeploy - "Airbnb" สำหรับ GPU

 (gpudeploy.com)
1 คะแนน โดย GN⁺ 2024-05-06 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

ตลาด GPU

  • GPU Deploy ให้บริการเช่า GPU ตามความต้องการในราคาที่ประหยัดสำหรับงาน machine learning และ AI
  • ได้รับการตั้งค่าล่วงหน้าเพื่อใช้งาน machine learning ทำให้เริ่มอินสแตนซ์ GPU ได้ทันที

สเปกและราคาของ GPU ที่ให้บริการ

  • รองรับ GPU หลายรุ่น เช่น Nvidia H100, A100, GeForce RTX 4090/3060, Quadro RTX 6000 และอื่นๆ
  • GPU RAM มีตั้งแต่ 11GB ถึง 640GB
  • จำนวน CUDA Cores มีตั้งแต่ 3584 ถึง 116736
  • vCPU เลือกได้ตั้งแต่ 16 ถึง 242 คอร์
  • ราคาต่อชั่วโมงอยู่ในช่วง $0.06 ถึง $26.55 (ไม่รวมภาษีการขาย ราคาจริงมักจะถูกกว่านี้)

ข้อเสนอการใช้ GPU ที่ว่างอยู่

  • หากมี GPU ว่างอยู่ คุณสามารถเปิดเผยทรัพยากรคอมพิวติ้งผ่าน GPU Deploy ได้
    • หากคุณเป็นผู้ดำเนินการ GPU cluster คุณสามารถเช่าได้ตามมูลค่าการใช้งานที่ว่างเหลือ
    • หากคุณเป็นบริษัท AI คุณสามารถเช่าแหล่งคอมพิวติ้งที่ว่างได้
    • แม้ผู้ใช้รายบุคคลก็สามารถเข้าร่วมได้หากมี GPU ของตัวเอง

มุมมองของ GN⁺

  • ค่าใช้จ่ายในการใช้งาน GPU แบบออนไดแมนด์ค่อนข้างสูง จึงเป็นตัวเลือกที่น่าดึงดูดเพราะสามารถใช้ GPU ได้ในต้นทุนที่ประหยัดเมื่อจำเป็น
  • อย่างไรก็ตาม หากใช้งานระยะยาว การมีเซิร์ฟเวอร์ GPU ของตัวเองอาจคุ้มค่ากว่าอย่างมาก
  • สำหรับบุคคลหรือธุรกิจขนาดกลางและขนาดเล็ก อาจเป็นทางเลือกที่ดีในการนำ GPU แหล่งทรัพยากรมาใช้งาน
  • สำหรับองค์กร ควรพิจารณาทั้งต้นทุนการสร้างเซิร์ฟเวอร์ GPU และค่าใช้จ่ายในการดำเนินงานเพื่อประเมินการนำไปใช้ทั้งระยะสั้นและระยะยาว
  • บริการให้เช่า GPU ที่คล้ายกันรวมถึง AWS, GCP, MS Azure โดยต้องตรวจสอบและเปรียบเทียบสเปก GPU และนโยบายราคาแต่ละบริการอย่างละเอียด
  • การใช้ GPU ที่ว่างอยู่เป็นข้อเสนอที่น่าสนใจ แต่มีความเสี่ยงด้านความปลอดภัยและการจัดการทรัพยากรที่ควรพิจารณา

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-05-06
ความคิดเห็นบน Hacker News
  • สิ่งที่ควรพิจารณาเมื่อให้ทรัพยากร GPU แก่บุคคลที่สาม:
    • เรื่องความเป็นส่วนตัว - ผู้โจมตีอาจติดตั้ง GPU honeypot และเก็บข้อมูลได้
    • การคำนวณ GPU ปลอม - ผู้โจมตีอาจใช้ GPU เทียมเพื่อลดภาระการคำนวณและส่งข้อมูลจำลองกลับมา
    • GPU ที่มีข้อบกพร่อง - แม้ไม่ใช่เจตนาร้าย แต่ GPU ที่เสียอาจให้ผลลัพธ์ผิด
  • ต้องยอมรับข้อกำหนดการให้บริการและนโยบายความเป็นส่วนตัว และลิงก์กลับไปที่หน้าว่างเป็นพฤติกรรมที่แปลก
  • คอนเซ็ปต์นี้ดีมาก เป็นแนวทางแบบ "Airbnb สำหรับ GPU" คล้าย Vast.ai แต่สงสัยว่าเซอร์วิสนี้ต่างจากมันตรงไหนและดีกว่ายังไง
  • คิดว่า "การให้บริการ GPU แบบสั่งจองได้" จะเข้าใจง่ายกว่า "Airbnb สำหรับ GPU"
  • เป็นไอเดียที่ดี ขอให้โชคดี! โครงการ Akash Network ดูน่าสนใจ เพราะมีทั้ง demand และกรณีใช้งานที่ถูกกฎหมายรองรับ
  • ยังไม่ค่อยเข้าใจเนื้อหาว่า Stability AI มีการ provision hardware มากเกินไปหรือไม่ คงเป็นเพราะถูกกระแส AI hype หลอกตา
  • ไอเดียดีมาก! ความปลอดภัยของผู้ให้บริการดูแลอย่างไร? เมื่อให้เช่า GPU cluster ควรให้สิทธิ์เข้าถึงอะไรกับผู้เช่า? มีแค่การส่งเฉพาะ GPU kernel หรือให้สิทธิ์เข้าใช้งานผู้ใช้แบบจำกัดด้วย? ผู้ให้บริการเคยคิดจะเพิ่มเข้า private network เพื่อประสบการณ์ที่ไหลลื่นโดยไม่ให้ผู้ดูแลระบบต้องเปิดพอร์ตบน router หรือไม่?
  • ถ้าต้องการดูราคา ให้เช็ค GPUMonger.com ดูได้ บริการนี้ดูลึกและจริงจังกว่ามาก แต่ถ้าต้องการเปรียบเทียบราคาอย่างเดียว GPUMonger ก็ดูเหมาะกว่า
  • เราเห็นบริษัทลักษณะนี้เกิดเพิ่มขึ้นมากจากการแก้ปัญหาคอมพิวติงด้านฮาร์ดแวร์ ดูเหมือนพลังคอมพิวติงที่ใช้ได้ส่วนใหญ่ถูกจองไปหมดแล้วจึงอาจต้องเพิ่มผู้ให้บริการมากขึ้น อยากรู้ว่าทำไม Y Combinator ถึงยังลงทุนซ้ำในบริษัทแนวเดียวกันอีกที และ Shadeform.ai ก็เป็นตัวอย่างอีกอัน
  • ความคิดเห็นบางข้อ:
    • จาก source ของสคริปต์ติดตั้ง เห็นว่าไม่ได้เริ่มด้วย set -e จึงอาจเกิดการติดตั้งไม่ครบถ้วน
    • ติดตั้งไบนารีชื่อ "instance-server" แต่ไม่รู้ว่ามันทำงานอะไร ควรเชื่อถือได้บน server/เครือข่ายของตัวเองหรือไม่?
    • น่าจะเป็นเฉพาะ Nvidia เท่านั้น จึงอาจยังไม่รองรับ AMD GPU ในตอนนี้
    • รู้สึกเหมือนแบบ MVP ลองดูว่ามันจะเติบโตต่อไปยังไง
  • ถ้า RTX 4090 อยู่ในโหมดว่าง ๆ จะได้กำไรเท่าไร?