KubeAI - รัน Private AI บน Kubernetes

 (github.com/substratusai)
10 คะแนน โดย xguru 2024-11-13 | ยังไม่มีความคิดเห็น | แชร์ทาง WhatsApp
  • ให้บริการ HTTP API ที่เข้ากันได้กับ OpenAI
  • ปรับขนาดอัตโนมัติตามภาระงาน
  • สามารถเสิร์ฟโอเพนซอร์ส LLM บน CPU/GPU ได้
  • ไม่มีการพึ่งพาเพิ่มเติม (เช่น Istio, Knative)
  • มี Chat UI ในตัว

บทความที่เกี่ยวข้อง

ยังไม่มีความคิดเห็น

ยังไม่มีความคิดเห็น