Dalai - วิธีที่ง่ายที่สุดในการรัน LLaMA บนคอมพิวเตอร์ของคุณ

• สามารถรันโมเดล LLaMA 7B แบบโลคัลได้ด้วยเพียง 2 บรรทัด
  npx dalai llama
npx dalai serve
• llama.cpp + llama-dl CDN
• มีเว็บแอปที่ปรับแต่งและแฮ็กต่อได้ในตัว (รวม JavaScript API และ Socket.io API)
  • เข้าใช้งานได้ที่ localhost:3000

[ragingwind]

พอมีตัวหนึ่งออกมา ก็มีอะไรตามกันออกมาเป็นพรวนเลย

[xguru]

ดาไล ลามะ เหรอ.. เซนส์การตั้งชื่อนี่มัน...
llama.cpp - รัน inference ของโมเดล LLaMA ของ Facebook ด้วย C/C++ ล้วน