MemGPT - LLMs พร้อมหน่วยความจำที่แก้ไขได้เองเพื่อบริบทที่ไร้ขีดจำกัด

 (github.com/cpacker)
2 คะแนน โดย GN⁺ 2023-10-17 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • MemGPT เป็นระบบใหม่สำหรับจัดการลำดับชั้นหน่วยความจำของโมเดลภาษาขนาดใหญ่ (LLMs) ซึ่งมอบบริบทที่ขยายออกไปภายในหน้าต่างคอนเท็กซ์ที่มีข้อจำกัดของ LLM
  • มันสามารถระบุได้ว่าเมื่อใดควรบันทึกและดึงข้อมูลสำคัญจากเวกเตอร์ดาต้าเบส ทำให้สามารถสนทนาได้อย่างต่อเนื่องไม่รู้จบ
  • MemGPT สามารถใช้สร้างแชตบอตที่มีหน่วยความจำแบบแก้ไขได้เอง
  • ระบบ MemGPT สามารถทดสอบได้โดยส่งข้อความถึงบอต MemGPT ในช่อง #memgpt บน Discord
  • หากต้องการรัน MemGPT บนเครื่องโลคัล ผู้ใช้ต้องติดตั้ง dependencies เพิ่ม OpenAI API key เข้าไปใน environment และรัน main.py
  • ผู้ใช้สามารถสร้างผู้ใช้เริ่มต้นหรือเพอร์โซนาใหม่สำหรับ MemGPT ได้โดยสร้างไฟล์ .txt ใหม่ใน /memgpt/humans/examples หรือ /memgpt/personas/examples
  • MemGPT รองรับคำสั่ง CLI หลากหลาย เช่น /exit, /save, /load, /dump, /memory, /pop, /heartbeat, /memorywarning
  • โดยค่าเริ่มต้น MemGPT ใช้ gpt-4 ดังนั้นจึงต้องใช้ API key ที่มีสิทธิ์เข้าถึง gpt-4 API
  • สำหรับปัญหาหรือคำขอฟีเจอร์ แนะนำให้ผู้ใช้เปิด GitHub issue
  • ชุดข้อมูลที่ใช้ในงานวิจัย MemGPT สามารถดาวน์โหลดได้จาก HuggingFace

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-10-17
ความคิดเห็นจาก Hacker News
  • ผู้เขียน MemGPT ยินดีตอบคำถามเกี่ยวกับการติดตั้งใช้งาน
  • MemGPT มีบอต Discord ที่แสดงการแก้ไขหน่วยความจำแบบเรียลไทม์
  • โค้ดของ MemGPT เป็นโอเพนซอร์สและใช้งานได้บน GitHub
  • ผู้แสดงความคิดเห็นรายหนึ่งเสนอให้ทำคำขอหลายรายการแบบขนานไปยังเอเจนต์อื่นในขั้นตอนก่อนประมวลผลและหลังประมวลผล
  • ผู้แสดงความคิดเห็นอีกรายเสนอให้ใช้การสุ่มตัวอย่างตามไวยากรณ์เพื่อให้การเรียกใช้ฟังก์ชันมีรูปแบบทางไวยากรณ์ที่ถูกต้อง
  • ผู้แสดงความคิดเห็นบางส่วนแสดงความตื่นเต้นต่อโครงการนี้ และมองว่านี่เป็นคุณสมบัติพื้นฐานสำหรับแชตบอตในอนาคต
  • ผู้เขียนได้เปิดเผยแชตบอตถาวรบน Discord ที่สร้างขึ้นบน MemGPT
  • ผู้แสดงความคิดเห็นบางส่วนคิดว่าหน้าต่างคอนเท็กซ์คือข้อจำกัดที่ใหญ่ที่สุดของ LLMs
  • มีการถกเถียงเกี่ยวกับการเลือกชื่อเรื่องของผู้เขียน
  • ผู้แสดงความคิดเห็นรายหนึ่งวิจารณ์แนวทางนี้ โดยอ้างว่ามันตั้งอยู่บนสมมติฐานว่าคอนเท็กซ์ที่มีอยู่เดิมประกอบด้วยคอนเท็กซ์ที่มีเอนโทรปีต่ำซึ่งสรุปย่อได้ และทุกคำค้นหาพึ่งพาเพียงบางส่วนของประวัติเท่านั้น เขาเชื่อว่านี่ไม่ได้เป็นจริงเสมอไป โดยเฉพาะในคอนเท็กซ์ของการสร้างโค้ด