MLC LLM - โอเพนซอร์สโซลูชันที่ช่วยให้สามารถนำโมเดล LLM ไปใช้งานได้บนทุกอุปกรณ์
(github.com/mlc-ai)- มีเป้าหมายเพื่อให้ทุกคนสามารถพัฒนาและปรับแต่งโมเดล AI แล้วนำไปใช้งานได้บนทุกอุปกรณ์
- ใช้ MLC (Machine Learning Compilation) และ Apache TVM Unity
- แพลตฟอร์มที่รองรับ
- iPhone/iPad/Android
- Metal GPU และ MacBook ที่ใช้ Intel และ ARM
- AMD/Intel และ NVidia GPU (Vulkan บน Windows/Linux)
- NVidia GPU (CUDA บน Windows/Linux)
- WebGPU ของเบราว์เซอร์
1 ความคิดเห็น
ดูเหมือนว่าความเป็นครอสแพลตฟอร์มกำลังได้รับความนิยมในหลายด้านเลยนะ