FauxPilot - เซิร์ฟเวอร์ GitHub CoPilot แบบโอเพนซอร์ส
(github.com/moyix)- ความพยายามในการสร้าง CoPilot ที่โฮสต์บนเครื่องโลคัล
- ใช้โมเดล SalesForce CodeGen: NVidia Triton Inference Server + FasterTransformaer Backend
- ข้อกำหนด: Docker, docker-compose >= 1.28, NVIDIA GPU (ต้องมี VRAM เพียงพอสำหรับรันโมเดล)
ยังไม่มีความคิดเห็น