MirrorOn - ผมได้สร้างโปรแกรม multi-query สำหรับ LLM
(practical.kr)[LLM]
LLM (Large Language Model) ตอนนี้กลายเป็นสิ่งที่ถ้าขาดไปก็คงรู้สึกเสียดายแล้ว ในมุมของนักพัฒนา ผมใช้ Github Copilot เป็นผู้ช่วยเขียนโค้ดมาได้เข้าปีที่ 2 แล้ว แต่ตอนนี้ ChatGPT และ Claude สามารถสร้างโค้ดที่ดีกว่าได้ และช่วงหลังมานี้ Retrieval-Augmented Generation (RAG) ก็กลายเป็นคีย์เวิร์ดสำคัญสำหรับนักพัฒนา ทำให้ผมหลีกเลี่ยงการศึกษาทั้งโครงสร้างและ API ของ MML ไม่ได้ จึงเริ่มต้นเรียนรู้อย่างจริงจัง
ผมเชื่อมาตลอดว่าวิธีเรียนรู้ที่เร็วที่สุดคือการสอนหรือการลองสร้างอะไรขึ้นมาสักอย่าง ดังนั้นเวลาศึกษาอะไรใหม่ ๆ ผมมักจะเริ่มโปรเจกต์ใหม่สักชิ้นเพื่อนำสิ่งนั้นไปใช้จริง และโปรเจกต์ที่ผมสร้างขึ้นระหว่างเรียนรู้ LLM ครั้งนี้ก็คือ MirrorOn
[เครื่องมือถามหลาย LLM พร้อมกัน MirrorOn]
MirrorOn เป็นเครื่องมือสำหรับส่งคำถามครั้งเดียวแล้วรับคำตอบจาก LLM หลายตัว ชื่อนี้ได้แรงบันดาลใจมาจาก “กระจกวิเศษเอ๋ย~ กระจกวิเศษเอ๋ย~” ครับ ^^ พอเปิดกระจก (On!) มันก็จะบอกได้ว่าใครสวยที่สุดในโลก

ปัจจุบัน (V 0.1.0) รองรับ ChatGPT, Claude และ Ollama โดย ChatGPT และ Claude ต้องใช้ API key ผู้ใช้ต้องออก API key ด้วยตัวเอง แล้วกรอกคีย์ในหน้าตั้งค่า จากนั้นจึงสามารถป้อนคำถามและดูผลลัพธ์จาก API ได้ ตัวโปรแกรมถูกออกแบบมาให้สนทนาต่อเนื่องตามบริบทเดิมได้ และสามารถสั่งคัดลอก ลบ แชร์ ฯลฯ ผ่านเมนูได้
[LLM แบบโลคัล]
Ollama (https://ollama.com) เป็นโปรแกรมที่ช่วยให้สามารถรัน LLM บนคอมพิวเตอร์ของผู้ใช้ได้ ติดตั้ง Ollama จากลิงก์ แล้วติดตั้งโมเดลที่ต้องการ ก็จะสามารถถามคำถามได้ฟรี (!) และสามารถรันโมเดลได้หลากหลายเท่าที่ความจุเครื่องจะรองรับ
หากใช้ MirrorOn เป็น Ollama client ก็จะช่วยประหยัดค่าใช้จ่ายรายเดือนที่ต้องจ่ายให้ LLM ได้
[RAG – Retrieval-Augmented Generation]
ในมุมของนักพัฒนาแอปพลิเคชัน Retrieval-Augmented Generation (RAG) ดูจะเป็นความสามารถที่จำเป็นต้องมีในอนาคต MML ไม่สามารถรู้ทุกอย่างได้ แต่ความต้องการของผู้ใช้นั้นหลากหลาย และ RAG ก็คือวิธีที่จะตอบโจทย์สิ่งนั้น
ใน MirrorOn V0.1.0 ได้ทำฟังก์ชันพื้นฐานไว้ก่อนแล้ว ตอนนี้ยังอยู่ในระดับอัปโหลดเอกสาร PDF เพื่อสรุปและค้นหาได้เป็นหลัก แต่มีแผนจะเพิ่มความสามารถอย่างการทำ vectorization ในภายหลัง
นอกจากนี้ยังมีฟังก์ชันเฉพาะสำหรับการใช้งาน LLM เช่น การอัปโหลดรูปภาพเพื่อถามเกี่ยวกับเนื้อหา หรือการให้ instruction กับ LLM เป็นต้น รายละเอียดฟังก์ชันเพิ่มเติมดูได้จากลิงก์ด้านล่าง รองรับภาษาอังกฤษและภาษาญี่ปุ่น รวมถึงมีเอกสารประกอบด้วย
[คำอธิบายฟังก์ชันโดยละเอียด]
https://github.com/bipark/MirrorOn
[ดาวน์โหลด]
ตอนนี้มีเฉพาะเวอร์ชัน Mac เท่านั้น ผมพยายามอัปโหลดขึ้น Mac App Store อยู่หลายสัปดาห์ แต่ Apple ระงับการอนุมัติไว้เนื่องจากปัญหาเกี่ยวกับฟังก์ชันการกรอก API key จึงอัปโหลดให้ดาวน์โหลดผ่าน Git Release แทน หวังว่าในภายหน้าหากได้รับการอนุมัติจาก Apple ก็จะได้เห็นใน App Store เช่นกัน และตอนนี้ก็กำลังพัฒนาเวอร์ชันสำหรับ Windows อยู่
ยังไม่มีความคิดเห็น