xturing - สร้างและควบคุม LLM ของคุณเอง
(github.com/stochasticai)- เครื่องมือโอเพนซอร์สสำหรับทำ fine-tuning ให้ LLM อย่าง LLaMA, GPT-J, GPT-2 ได้อย่างรวดเร็วและมีประสิทธิภาพ
- นำเข้าข้อมูลจากแหล่งที่มาหลากหลายและประมวลผลล่วงหน้าให้อยู่ในรูปแบบที่ LLM เข้าใจได้
- รองรับการใช้ GPU ตั้งแต่เดี่ยวไปจนถึงหลายตัวเพื่อการปรับจูนที่รวดเร็ว
- ลดค่าใช้จ่ายด้วยเทคนิคที่ใช้หน่วยความจำอย่างมีประสิทธิภาพ (เช่น LoRA)
- ประเมินวิธีการทำ fine-tuning ที่หลากหลายเพื่อค้นหาโมเดลที่เหมาะสมที่สุด
- ประเมินโมเดลที่ผ่านการ fine-tuning ด้วยเมตริกที่กำหนดไว้อย่างชัดเจน
ยังไม่มีความคิดเห็น