Alpaca.cpp - รันโมเดลแบบ ChatGPT บนโน้ตบุ๊กส่วนตัว
(github.com/antimatter15)- เป็นการนำ LLaMA, Alpaca และ
llama.cppมาปรับแต่งรวมกัน แล้วเพิ่มอินเทอร์เฟซแชตเข้าไป - ใช้โมเดล Alpaca-7b-q4
- สร้างผลลัพธ์ได้ค่อนข้างเร็วแม้บน MacBook Air ชิป M2
llama.cpp มาปรับแต่งรวมกัน แล้วเพิ่มอินเทอร์เฟซแชตเข้าไป
ยังไม่มีความคิดเห็น