- Ollama Turbo คือโซลูชันใหม่ที่ช่วยให้รันโมเดล AI แบบโอเพนซอร์สขนาดใหญ่ได้อย่างรวดเร็วบน ฮาร์ดแวร์ศูนย์ข้อมูลประสิทธิภาพสูง (ราคา $20 ต่อเดือน)
- ให้วิธีใช้งาน แอป, CLI, API และไลบรารี JavaScript/Python ของ Ollama ได้ตามเดิม พร้อมกับยังสามารถรันโมเดลขนาดใหญ่ได้อย่างเร็วและมีประสิทธิภาพมากขึ้น
- ขณะนี้อยู่ในสถานะตัวอย่าง (preview) และรองรับโมเดล gpt-oss-20b และ gpt-oss-120b ของ OpenAI ที่เปิดให้ใช้งานได้สู่สาธารณะ
- เมื่อใช้ โหมด Turbo ประวัติการถามจะ ไม่ถูกจัดเก็บหรือบันทึกเป็นล็อก บนเซิร์ฟเวอร์
- ฮาร์ดแวร์ดำเนินการเฉพาะใน ศูนย์ข้อมูลภายในสหรัฐอเมริกา และมีการจำกัดการใช้งานตามเวลาและรายวัน โดยมีแผนในการนำระบบเรียกเก็บเงินตามการใช้งานมาใช้งานในอนาคต
ยังไม่มีความคิดเห็น