- UI ที่ใช้งานง่ายสำหรับ QA บนพื้นฐาน RAG (Retrieval-Augmented Generation)
- ออกแบบมาสำหรับทั้งผู้ใช้ทั่วไปที่ต้องการทำ QA กับเอกสาร และนักพัฒนาที่ต้องการสร้าง RAG pipeline ของตนเอง
- รองรับ LLM ที่หลากหลาย: ผู้ให้บริการ LLM API เช่น OpenAI, AzureOpenAI, Cohere และรองรับ LLM ภายในเครื่อง (
ollama, llama-cpp-python)
- ติดตั้งง่าย: มีสคริปต์สำหรับเริ่มต้นใช้งานได้อย่างรวดเร็ว
- สามารถทดสอบ RAG pipeline ของตนเองได้ผ่าน UI ที่สร้างด้วย Gradio (มีธีมให้)
ฟีเจอร์หลัก
- โฮสต์เว็บ UI สำหรับ Document QA:
- รองรับการล็อกอินหลายผู้ใช้
- จัดระเบียบเอกสารเป็นคอลเลกชันส่วนตัว/สาธารณะ
- แชร์ประวัติการแชตและทำงานร่วมกันได้
- การจัดการ LLM และโมเดล Embedding:
- รองรับทั้ง LLM ภายในเครื่องและผู้ให้บริการ API ยอดนิยม เช่น OpenAI, Azure, Ollama, Groq
- Hybrid RAG pipeline:
- โดยค่าเริ่มต้นจะผสานตัวค้นหาแบบไฮบริด (ข้อความเต็มและเวกเตอร์) กับการจัดอันดับใหม่ เพื่อรับประกันคุณภาพการค้นคืนที่ดีที่สุด
- รองรับ Multimodal QA:
- สามารถตอบคำถามกับเอกสารหลายชุดที่มีแผนภาพและตารางได้
- เลือกตัวเลือกการแยกวิเคราะห์เอกสารแบบมัลติโหมดได้ใน UI
- การอ้างอิงขั้นสูงและการแสดงตัวอย่างเอกสาร:
- ให้ข้อมูลการอ้างอิงอย่างละเอียดเพื่อรับประกันความถูกต้อง
- สามารถดูการอ้างอิงและคะแนนความเกี่ยวข้องพร้อมไฮไลต์ได้ในตัวดู PDF บนเบราว์เซอร์
- แสดงคำเตือนเมื่อมีการส่งคืนเอกสารที่มีความเกี่ยวข้องต่ำ
- รองรับการให้เหตุผลที่ซับซ้อน:
- สามารถตอบคำถามที่ซับซ้อน/หลายขั้นตอนได้ผ่านการแยกคำถาม
- รองรับการให้เหตุผลแบบเอเจนต์โดยใช้
ReAct, ReWOO และเอเจนต์อื่น ๆ
- ปรับแต่ง UI การตั้งค่าได้:
- ปรับองค์ประกอบหลักของกระบวนการค้นคืนและสร้างคำตอบได้โดยตรงจาก UI (เช่น การตั้งค่า prompt)
- ขยายต่อได้:
- สร้างบนพื้นฐาน Gradio จึงสามารถปรับแต่งองค์ประกอบ UI ได้อย่างอิสระ
- มีแผนรองรับกลยุทธ์การทำดัชนีและการค้นคืนเอกสารที่หลากหลายเพิ่มเติม พร้อมยก
GraphRAG indexing pipeline เป็นตัวอย่าง
3 ความคิดเห็น
มีเฟรมเวิร์ก QA RAG เยอะมาก แล้วตัวนี้มีข้อดีอะไรบ้าง
ในสาขาการค้นคืนสารสนเทศและในคำอธิบาย QA ไม่ได้หมายถึง quality assurance แต่หมายถึง question answering
ชื่อน่าสนุกดีนะครับ จากการเดาแค่ดูชื่ออย่างเดียว ผมว่าน่าจะมาจาก คำตอบ(kotae) + โดราเอมอน(มง) เลยกลายเป็น โคตะเอมง หรือเปล่า