• สร้างโมเดล Whisper ที่ผ่านการฟाइनจูนแล้วให้เป็น HTTP API ที่สามารถโฮสต์เองได้
    • Whisper.cpp + Python + Uvicorn
  • มีระบบจัดการผู้ใช้ผ่าน API คีย์ (ควบคุมปริมาณการใช้งาน)
  • ปรับแต่งโมเดลควอนไทซ์เพื่อการอนุมานที่รวดเร็วและมีประสิทธิภาพ

ยังไม่มีความคิดเห็น

ยังไม่มีความคิดเห็น