TurboPilot - โคลน Copilot ที่โฮสต์เองได้
(github.com/ravenscroftj)- ใช้
llama.cppเพื่อรันโมเดล Salesforce Codegen ขนาด 6B พารามิเตอร์บนแรม 4GiB - มีโมเดลที่แปลงไว้ล่วงหน้า (2B/6B) ให้ใช้ (ฝึกล่วงหน้าด้วย C/C++/Go/Java/JavaScript/Python) หรือจะแปลงเองก็ได้
- รันเซิร์ฟเวอร์ TurboPilot แบบไบนารีหรือรันด้วย Docker
- สามารถกำหนดได้ว่าจะใช้ CPU กี่คอร์จากหลายคอร์
- ใช้ปลั๊กอิน FauxPilot สำหรับ VSCode
ยังไม่มีความคิดเห็น