OpenLLaMA - รุ่นจำลองแบบเปิดของ LLaMA
(github.com/openlm-research)- รุ่นจำลองของ LLaMA ที่สร้างขึ้นภายใต้ไลเซนส์ Apache เพื่อให้สามารถนำไปใช้ในวัตถุประสงค์อื่นได้
- ใช้ชุดข้อมูล RedPajama ที่เปิดตัวโดย Together
- ฝึกด้วย EasyLM ซึ่งเป็นไปป์ไลน์ที่ใช้ JAX เป็นพื้นฐาน
- เปิดเผย OpenLLAMA 7B ที่อิงกับโทเค็น 200B/300B
ยังไม่มีความคิดเห็น