GGML·llama.cpp เข้าร่วมกับ Hugging Face
(huggingface.co)มีข่าวว่า Hugging Face ได้ Georgi Gerganov นักพัฒนาหลักของ llama.cpp และเอนจิน GGML เข้ามาร่วมทีม
ประเด็นสำคัญ: เมื่อเทคโนโลยีพื้นฐานของ llama.cpp (เอนจินมาตรฐานโดยพฤตินัยสำหรับการรัน LLM แบบโลคัล) และ GGML เข้ามาอยู่ภายใต้ Hugging Face แกนหลักสองส่วนของระบบนิเวศ AI แบบโลคัลโอเพนซอร์สก็ถูกรวมเข้าด้วยกัน
llama.cpp ยังคงเป็นโอเพนซอร์ส 100% และจะยังคงเน้นด้านประสิทธิภาพต่อไป
การเปลี่ยนแปลงสำคัญที่คาดไว้:
- โมเดลฟอร์แมต GGUF จะถูกแปลงและรองรับอัตโนมัติในไลบรารี transformers ได้ในระดับคลิกเดียว
- เมื่อมีโมเดลใหม่ появится ก็จะสามารถรันแบบโลคัลด้วยประสิทธิภาพสูงได้ทันทีโดยไม่ต้องปรับแต่งด้วยมือ
- แนวทางการปรับปรุงเครื่องมือ AI แบบโลคัลและสภาพแวดล้อมของผู้ใช้อย่างมาก
ความหมาย: โครงสร้างพื้นฐานที่ช่วยให้บุคคลและองค์กรสามารถรัน LLM คุณภาพสูงบนเครื่องของตนเองได้อย่างอิสระโดยไม่ต้องพึ่งพาเซิร์ฟเวอร์ส่วนกลาง ได้รับการเสริมความแข็งแกร่งขึ้นอีกขั้น
ยังไม่มีความคิดเห็น