Alpaca.cpp - รันโมเดลแบบ ChatGPT บนโน้ตบุ๊กส่วนตัว
(github.com/antimatter15)- เป็นการนำ LLaMA, Alpaca และ
llama.cppมาปรับแต่งรวมกัน แล้วเพิ่มอินเทอร์เฟซแชตเข้าไป - ใช้โมเดล Alpaca-7b-q4
- สร้างผลลัพธ์ได้ค่อนข้างเร็วแม้บน MacBook Air ชิป M2
llama.cpp มาปรับแต่งรวมกัน แล้วเพิ่มอินเทอร์เฟซแชตเข้าไป
6 ความคิดเห็น
https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/…
เผื่อว่าจะมีคนกำลังหาตัวโมเดลนี้อยู่..
ช่วงนี้เหมือนเกิดสงครามกันจริง ๆ เลย ตามข่าวแทบไม่ทัน เลย
ว้าว~ดูเหมือนว่าช่วงเวลาแห่งซิงกิวลาริตีมาถึงจริง ๆ แล้ว....
สุดยอดมากเลย โอ้โห แล้วตอนนี้ Apple Silicon ก็กลายเป็นมาตรฐานของสเปกฮาร์ดแวร์ไปแล้วด้วย โอ้โห
ความเร็วระดับนั้นเมื่อเทียบกับโมเดล ChatGPT Turbo ก็แทบไม่เป็นรองเลยครับ น่าทึ่งมากจริง ๆ
โอ้โห มีอะไรใหม่ ๆ ทะลักออกมาทุกวันจริง ๆ
ช่วงเวลาแบบ Stable Diffusion กำลังมาถึงสำหรับ LLM