7 คะแนน โดย GN⁺ 2023-10-13 | 5 ความคิดเห็น | แชร์ทาง WhatsApp
  • OpenAI มีปริมาณการใช้งานมากกว่าผู้ให้บริการโมเดลรายอื่นทั้งหมด รวมถึง Google และ Anthropic
  • บริษัทเหล่านี้เก็บรวบรวมข้อมูลจำนวนมหาศาล รวมถึงพรอมป์ต์ของผู้ใช้และฟีดแบ็กทั้งแบบชัดเจนและแบบแฝง เพื่อช่วยในการฝึกโมเดลในอนาคต
  • ข้อได้เปรียบสำคัญที่บริษัทเหล่านี้มีคือความสามารถในการขยายโครงสร้างพื้นฐานและคุณภาพของบริการ
  • ค่าใช้จ่ายในการใช้ OpenAI เพื่อทำ fine-tuning กับ GPT-3.5 ถูกกว่าการเช่า Amazon p4d.24xlarge อยู่ 3-8 เท่า
  • ต้นทุนของ OpenAI ครอบคลุมทั้งการฝึกและจัดเก็บค่าน้ำหนักของโมเดล การสร้างและบำรุงรักษาโครงสร้างพื้นฐานสำหรับ fine-tuning และความเชี่ยวชาญที่จำเป็นในการดูแล GPU หลายพันตัว
  • ประเด็นคือ สำหรับองค์กรส่วนใหญ่ การรันดีพลอยโอเพนซอร์ส LLM ของตนเองไม่สมเหตุสมผล เพราะต้องใช้ทั้งเวลา บุคลากร และเงินทุน
  • โมเดลโอเพนซอร์สจำเป็นต้องลดต้นทุน ความซับซ้อน และเวลาที่ต้องใช้ในการปรับแต่งและรันมันลงไปอีกเรื่อย ๆ
  • แม้ท้ายที่สุดราคาจะปรับขึ้น บริษัทผู้ให้บริการ LLM รายใหญ่เช่น OpenAI ก็มีแนวโน้มจะครองตลาด เพราะความสามารถในการให้บริการโมเดลด้วยการประหยัดต่อขนาดในระดับมหาศาล

5 ความคิดเห็น

 
pluvian 2023-10-13

ตอนแรกดูแค่หัวข้อก็นึกว่าหมายถึงเอาชนะ OpenAI ในการแข่งขันได้ง่ายมาก แต่พอไปดูต้นฉบับแล้วกลับหมายถึงต้นทุนมันถูกเกินกว่าจะเอาชนะ OpenAI ในการแข่งขันได้นี่เอง.. 555

 
coolcpu 2023-10-14

ทั้งหัวข้อและเนื้อหากำลังพูดเรื่องที่ตรงกันข้ามกันอยู่เลย..ตีความแบบนั้นได้อย่างไรครับ?

 
xguru 2023-10-14

AI แปลออกมาแปลก ๆ เลยแก้ด้วยมือไว้เล็กน้อยแล้ว

 
phizk 2023-10-14

เดิมทีใช้ชื่อว่า 'สิ่งที่เอาชนะ OpenAI ได้นั้นราคาถูกเกินไป'

 
bichi 2023-10-16

555555