เปรียบเทียบ Nvidia 4090 กับ M1/M2/M3 ด้วย Whisper บน MLX
(owehrens.com)- เบนช์มาร์กประสิทธิภาพของ MLX เฟรมเวิร์กแมชชีนเลิร์นนิงที่ Apple เปิดตัว
- ถอดเสียงไฟล์เสียงความยาว 10 นาทีด้วย Whisper
- M1 Pro (รุ่นปี 2021) + MLX + RAM 32GB: 216 วินาที
- I7 + 4090 + RAM 64GB: 186 วินาที
- GPU ราคา 2000€ เร็วกว่า M1 อยู่ 30 วินาที (16%)
- M2 Ultra (76 GPU): 95 วินาที
- M3 Max (40 GPU): 100 วินาที
- หากใช้ insanely-fast-whisper ที่ปรับแต่งมาสำหรับ Nvidia จะจบงานได้ใน 8 วินาทีบน 4090
- แต่ถ้านำโมเดลนี้ไปรันบน M1 จะใช้เวลานานขึ้นเป็น 359 วินาที
1 ความคิดเห็น
MLX - เฟรมเวิร์กอาร์เรย์ที่คล้ายกับ Numpy สำหรับ Apple Silicon