Whisper API - โอเพนซอร์สที่ทำให้ Whisper ASR ใช้งานเป็น API ได้
(github.com/innovatorved)- สร้างโมเดล Whisper ที่ผ่านการฟाइनจูนแล้วให้เป็น HTTP API ที่สามารถโฮสต์เองได้
- Whisper.cpp + Python + Uvicorn
- มีระบบจัดการผู้ใช้ผ่าน API คีย์ (ควบคุมปริมาณการใช้งาน)
- ปรับแต่งโมเดลควอนไทซ์เพื่อการอนุมานที่รวดเร็วและมีประสิทธิภาพ
ยังไม่มีความคิดเห็น