Ollama เปิดตัวไลบรารี Python & JavaScript
(ollama.ai)- Ollama เป็นโอเพนซอร์สที่ช่วยให้รัน LLM อย่าง Llama 2, Mistral เป็นต้น ได้ง่ายบนเครื่องโลคัล
- รองรับ Mac/Linux และ Windows จะใช้งานได้บน WSL2 ในเร็ว ๆ นี้
- ได้เปิดตัวไลบรารีเวอร์ชันเริ่มต้นสำหรับ Python และ JavaScript ของ Ollama ทำให้สามารถผสานแอปใหม่และแอปเดิมเข้ากับ Ollama ได้ด้วยโค้ดเพียงไม่กี่บรรทัด
- ใช้งานความสามารถและรูปแบบเดียวกับ Ollama REST API ได้ครบถ้วน
เริ่มต้นใช้งาน
- ใน Python สามารถติดตั้งผ่าน
pip install ollamaแล้วใช้import ollamaจากนั้นเริ่มแชตได้ด้วยฟังก์ชันollama.chat - ใน JavaScript สามารถติดตั้งผ่าน
npm install ollamaแล้วใช้import ollama from 'ollama'จากนั้นเริ่มแชตได้ด้วยฟังก์ชันollama.chat
กรณีการใช้งาน
- ทั้งสองไลบรารีรองรับชุดความสามารถทั้งหมดของ Ollama
- ตัวอย่างฝั่ง Python มีทั้งการสตรีม, มัลติโมดัล, การเติมข้อความให้สมบูรณ์, การสร้างโมเดลแบบกำหนดเอง และการตั้งค่าไคลเอนต์แบบกำหนดเอง
GitHub handle ใหม่
- ไลบรารีนี้และรีโพซิทอรีหลักของ Ollama ตอนนี้ถูกดูแลภายใต้องค์กร GitHub ใหม่ชื่อ
ollama - กล่าวขอบคุณสมาชิกชุมชนที่ช่วยดูแลไลบรารีสำหรับโต้ตอบกับ Ollama ในภาษาโปรแกรมหลากหลาย เช่น Dart, Swift, C#, Java, PHP และ Rust
1 ความคิดเห็น
API ของ Node ก็ทำงานได้ดีเหมือนกันครับ ครั้งนี้ผมใช้งานได้อย่างดีเลย