18 คะแนน โดย GN⁺ 2024-01-26 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • Ollama เป็นโอเพนซอร์สที่ช่วยให้รัน LLM อย่าง Llama 2, Mistral เป็นต้น ได้ง่ายบนเครื่องโลคัล
    • รองรับ Mac/Linux และ Windows จะใช้งานได้บน WSL2 ในเร็ว ๆ นี้
  • ได้เปิดตัวไลบรารีเวอร์ชันเริ่มต้นสำหรับ Python และ JavaScript ของ Ollama ทำให้สามารถผสานแอปใหม่และแอปเดิมเข้ากับ Ollama ได้ด้วยโค้ดเพียงไม่กี่บรรทัด
    • ใช้งานความสามารถและรูปแบบเดียวกับ Ollama REST API ได้ครบถ้วน

เริ่มต้นใช้งาน

  • ใน Python สามารถติดตั้งผ่าน pip install ollama แล้วใช้ import ollama จากนั้นเริ่มแชตได้ด้วยฟังก์ชัน ollama.chat
  • ใน JavaScript สามารถติดตั้งผ่าน npm install ollama แล้วใช้ import ollama from 'ollama' จากนั้นเริ่มแชตได้ด้วยฟังก์ชัน ollama.chat

กรณีการใช้งาน

  • ทั้งสองไลบรารีรองรับชุดความสามารถทั้งหมดของ Ollama
  • ตัวอย่างฝั่ง Python มีทั้งการสตรีม, มัลติโมดัล, การเติมข้อความให้สมบูรณ์, การสร้างโมเดลแบบกำหนดเอง และการตั้งค่าไคลเอนต์แบบกำหนดเอง

GitHub handle ใหม่

  • ไลบรารีนี้และรีโพซิทอรีหลักของ Ollama ตอนนี้ถูกดูแลภายใต้องค์กร GitHub ใหม่ชื่อ ollama
  • กล่าวขอบคุณสมาชิกชุมชนที่ช่วยดูแลไลบรารีสำหรับโต้ตอบกับ Ollama ในภาษาโปรแกรมหลากหลาย เช่น Dart, Swift, C#, Java, PHP และ Rust

1 ความคิดเห็น

 
joone 2024-01-29

API ของ Node ก็ทำงานได้ดีเหมือนกันครับ ครั้งนี้ผมใช้งานได้อย่างดีเลย