[โอเพนซอร์ส] ไคลเอนต์มัลติ LLM ที่รองรับ iOS และ macOS - LLM Bridge

ก่อนหน้านี้ผมเคยสร้างไคลเอนต์ LLM สำหรับ Ollama โดยเฉพาะ แยกระหว่างเวอร์ชัน iOS และ macOS แล้วเปิดซอร์สไว้ แต่ครั้งนี้ได้สร้างใหม่โดยรวมโค้ด iOS และ macOS ด้วย Swift/SwiftUI และเพิ่ม API ที่รองรับเข้าไปด้วย

• รองรับ Ollama และ LMStudio เป็น local LLM
  • หากเปิดพอร์ตออกภายนอกบนคอมพิวเตอร์ที่ติดตั้ง LLM ไว้ใน Ollama ก็จะสามารถใช้งาน LLM ฟรีจากระยะไกลได้
  • LMStudio เป็นโปรแกรมจัดการ local LLM ที่มี UI ของตัวเอง สามารถค้นหาและติดตั้งโมเดลจาก HuggingFace ได้ จึงทดลองใช้โมเดลที่หลากหลายได้
  • ใน LLM Bridge สามารถตั้งค่า IP, พอร์ต และใช้โมเดลที่ติดตั้งไว้เพื่อตอบคำถามได้
• รองรับ OpenAI
  • สามารถออก API key แล้วกรอกในแอป เพื่อใช้ ChatGtp ผ่านการเรียก API ได้
  • การใช้ API อาจใช้งานได้ถูกกว่าการจ่ายค่าสมาชิกรายเดือน(?)
• รองรับ Claude
  • ใช้ API Key
• สามารถส่งภาพสำหรับโมเดลที่รองรับภาพได้
• รองรับไฟล์ PDF, TXT
  • ดึงข้อความด้วย PDFKit แล้วส่งต่อ
  • รองรับไฟล์ข้อความ
• โอเพนซอร์ส
  • Swift/SwiftUI
• ลิงก์ซอร์ส
  • https://github.com/bipark/swift_llm_bridge