- แม้จะสามารถคิวรี LLM (โมเดลภาษาขนาดใหญ่) ด้วยภาษาธรรมชาติได้ แต่บางครั้ง LLM ก็อาจไม่เข้าใจเจตนาของมนุษย์ได้อย่างแม่นยำ
- นักวิจัยจาก SRIlab (Secure, Reliable, and Intelligent Systems Lab) แห่ง ETH Zürich ในสวิตเซอร์แลนด์ จึงนำเสนอแนวคิดที่ชื่อว่า LMP (Language Model Programming) เพื่อแก้ปัญหานี้
- ภาษาและแพลตฟอร์มที่นำแนวคิด LMP ไปใช้งานก็คือ LMQL (Language Model Query Language)
- ไวยากรณ์เชิงประกาศที่คล้ายกับคำสั่ง SQL
- ควบคุมวิธีการทำงานโดยกำหนดข้อจำกัดที่ชัดเจนให้กับผลลัพธ์เอาต์พุตของ LLM เพื่อป้องกันผลลัพธ์ที่ไม่คาดคิด
- พัฒนาด้วย Python จึงสามารถใช้ฟังก์ชันหรือ control flow ของ Python ในการคิวรี AI ได้
- รองรับการใช้งาน GPT-4 ผ่าน OpenAI API และโมเดล Transformer ที่โฮสต์ไว้ในเครื่อง
- ช่วยประหยัดการใช้โทเค็น จึงลดค่าใช้จ่ายของ API แบบเสียเงินได้ 26~85%
- บทความวิจัย: https://doi.org/10.48550/arXiv.2212.06094
- เอกสาร: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
ยังไม่มีความคิดเห็น