Token.js - เชื่อมต่อ LLM กว่า 200 รุ่นด้วย SDK เดียว

 (github.com/token-js)
13 คะแนน โดย xguru 2024-10-15 | 3 ความคิดเห็น | แชร์ทาง WhatsApp
  • เรียกใช้ LLM กว่า 200 รุ่นจากผู้ให้บริการ 10 รายด้วยฟอร์แมต OpenAI
    • AI21, Anthropic, AWS Bedrock, Cohere, Gemini, Groq, Mistral, OpenAI, Perplexity, OpenRouter
  • รองรับ Tools, เอาต์พุต JSON, อินพุตภาพ, สตรีมมิง และอื่น ๆ
  • ทำงานฝั่งไคลเอนต์เท่านั้นโดยไม่ต้องมีพร็อกซีเซิร์ฟเวอร์

บทความที่เกี่ยวข้อง

3 ความคิดเห็น

 
ragingwind 2024-10-15

ดูคล้ายกับที่ AI SDK ให้มาเลยนะ
 
kairess 2024-10-15

อยากได้แพ็กเกจ Python เลยนะ
 
wkbae 2024-10-16

ใน Python มี https://github.com/BerriAI/litellm อยู่