Tabby - ผู้ช่วยเขียนโค้ด AI โอเพนซอร์สที่โฮสต์เองได้
(github.com/TabbyML)- ทางเลือกแบบ On-Prem แทน GitHub Copilot
- สามารถใช้งานได้โดยไม่ต้องมี DBMS และคลาวด์
- มีเว็บ UI สำหรับตั้งค่าและแสดงผลโมเดลและ MLOps
- อินเทอร์เฟซ OpenAPI เชื่อมต่อกับโครงสร้างพื้นฐานเดิมได้ง่าย
- รองรับ GPU สำหรับผู้บริโภคทั่วไป (โหลดค่าน้ำหนัก FP-16 ผ่านการปรับแต่งประสิทธิภาพ)
ยังไม่มีความคิดเห็น