Carton - รันโมเดล ML จากหลายภาษาได้ผ่าน API เดียว
(carton.run)- Open-source API สำหรับทุกเฟรมเวิร์ก
- บีบอัดโมเดลพร้อมเมตาดาต้าเป็นไฟล์ Zip เดียว แล้วโหลดไฟล์นั้น
- โค้ดสำหรับการอนุมานสามารถทำงานได้โดยไม่ขึ้นกับเฟรมเวิร์ก เมื่อเรียก Carton API แล้ว Carton จะไปเรียกส่วนภายในของเฟรมเวิร์กให้
- พัฒนาด้วย Rust และมีไบนดิงสำหรับแต่ละภาษา
- รองรับ x86_64 Linux และ macOS, aarch64 Linux และ macOS, รวมถึง WebAssembly
- ต่างจาก ONNX ที่แปลงโมเดล Carton ไม่ได้แปลง แต่ทำเพียงการห่อหุ้ม (wrapping)
ยังไม่มีความคิดเห็น