Maek, Local-first AI Memory Workspace ที่สร้างโดยทีมผู้ร่วมพัฒนา Lucene search core

 (maek.cognica.io)
1 คะแนน โดย timcognica 2 시간 전 | ยังไม่มีความคิดเห็น | แชร์ทาง WhatsApp

สวัสดีครับ/ค่ะ พวกเราคือทีม cognica ผู้พัฒนา search และ AI Memory Infrastructure

ขอแนะนำทีมสั้น ๆ: งานค้นหาแบบไฮบริดเชิงความน่าจะเป็น (probabilistic hybrid search) ที่อิง BB25 (Bayesian BM25) ซึ่ง cognica เสนอ ได้ถูกรวมเข้าใน Apache Lucene 10.5.0 core อย่างเป็นทางการเมื่อเร็ว ๆ นี้ (BayesianScoreQuery, LogOddsFusionQuery)

เรากำลังนำเทคโนโลยี search และ memory infrastructure นี้ไปสู่ผลิตภัณฑ์ที่ผู้ใช้จริงสัมผัสได้ และอยากแนะนำ Maek แอป AI สำหรับ macOS ซึ่งเป็นผลลัพธ์แรก พร้อมรับฟีดแบ็กจากทุกท่าน

ดาวน์โหลดและเว็บไซต์: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

1. ปัญหาที่ต้องการแก้: “แค่เพิ่ม context window ก็พอแล้วหรือ?”

เวลาใช้แชต AI มักมีความยุ่งยากที่ต้องอธิบายบริบทเดิมซ้ำ ๆ ในทุกบทสนทนา เช่น พื้นหลังของโปรเจกต์ การตัดสินใจที่ผ่านมา หรือเอกสารที่อ้างอิงบ่อย

เพื่อแก้ปัญหานี้ วิธีง่าย ๆ อย่าง “ยัดข้อความบทสนทนาเก่าทั้งหมดเข้าไปในพรอมป์” มีข้อจำกัดชัดเจน

  • สิ้นเปลือง Context Window และเพิ่มต้นทุน

  • Hate/Noise เพิ่มขึ้นจากการปะปนของเนื้อหาเก่าที่ไม่เกี่ยวข้อง

  • บริบทเก่าที่สำคัญจริง ๆ กลับสูญหายไป

Maek โฟกัสที่คำถามว่า “เมื่อมีคำถามเข้ามา จะประกอบ (Reconstruct) ความทรงจำที่จำเป็นต่อคำถามตอนนี้ให้อยู่ในรูปแบบที่เหมาะที่สุดได้อย่างไร?”

2. สถาปัตยกรรมหลัก: ข้อมูลที่แยกส่วน และ Retrieval บนฐาน Evidence

Maek จัดเก็บบทสนทนาและเอกสารไว้ใน local storage และเมื่อมีคำถามใหม่เข้ามา จะประกอบบริบทขึ้นใหม่ด้วยการผสมผสานสัญญาณต่อไปนี้

  • Messages : ประวัติแชตทั่วไป และเป็นเป้าหมายของการค้นหาด้วยคีย์เวิร์ด/เวกเตอร์

  • Document Chunks : ไม่ใช่พรอมป์ใช้แล้วทิ้งที่อ่านไฟล์ครั้งเดียวแล้วจบ แต่จะแบ่งไฟล์เป็นชิ้นเล็ก ๆ เก็บไว้ในเครื่อง และค้นหา/อ้างอิง (Citation) เป็นหลักฐานของคำตอบเมื่อจำเป็น

  • Graph : สกัดบุคคล องค์กร เหตุการณ์ การตัดสินใจ คำสัญญา ฯลฯ จากบทสนทนา แล้วจัดระเบียบเป็นรูปแบบความสัมพันธ์ (Connection) แม้ผู้ใช้จะจำคีย์เวิร์ดที่แน่นอนไม่ได้ ก็สามารถค้นพบผ่านบริบทที่เชื่อมโยงกันได้

  • Conversation State : กระดานสถานการณ์ที่บีบอัดสถานการณ์ปัจจุบัน เธรดที่ยังเปิดอยู่ โปรไฟล์บุคคล ฯลฯ (แต่หากขัดแย้งกับข้อความล่าสุดของผู้ใช้ ข้อความผู้ใช้จะมีลำดับความสำคัญสูงกว่า โดยทำหน้าที่เป็น “Memory Hint”)

  • การผสมผสานแบบไฮบริดบนฐาน Evidence: BM25, Vector Similarity, Graph และ Recency มีสเกลต่างกัน หากนำคะแนนมาบวกกันตรง ๆ สัญญาณบางตัวจะครอบงำมากเกินไป เราอาศัยความรู้ที่สั่งสมจากการ contribute BB25 เข้า Lucene core มองสัญญาณเหล่านี้เป็น “หลักฐาน (Evidence)” ที่จำเป็นต่อคำถามครั้งนี้ และผสมผสานอย่างละเอียดแม่นยำ

3. จุดเด่นหลัก: Inspectability และ Local-First

  • ทำให้เห็นหลักฐานของคำตอบ: ไม่ได้หยุดแค่ AI อ้างว่า “จำได้แล้วจึงตอบ” แต่ผู้ใช้สามารถตรวจสอบได้โดยตรงว่าในการสร้างคำตอบนั้น มีข้อความใด ชิ้นส่วนเอกสารใด Graph Hit ใด และข้อมูล State ใดถูกใส่เข้าไปในบริบท (ข้อมูล Reconstruction) เพราะหากต้องการเชื่อใจและแก้ไข AI ได้ เราต้องดีบักได้ว่า “ทำไมถึงจำได้” หรือ “ทำไมถึงหาไม่เจอ”

  • ความแตกต่างจาก ChatGPT Memory: หาก ChatGPT Memory เป็นฟีเจอร์หน่วยความจำส่วนบุคคลที่ผูกกับบริการ Maek คือเครื่องมืออิสระที่สะสมสินทรัพย์ของผู้ใช้ (บทสนทนา เอกสาร กราฟ สถานะ) ไว้ใน workspace ในเครื่อง แล้วประกอบบริบทใหม่ในทุก turn

  • ความโปร่งใสของ data flow: เมื่อใช้โมเดล local ทุกอย่างรวมถึงการ inference จะอยู่แบบออฟไลน์สมบูรณ์ แต่หากเชื่อมต่อโมเดล cloud อย่าง OpenAI/Claude อินพุตปัจจุบันและบริบท local ที่ค้นคืนได้จะถูกส่งไปยัง API นั้น ๆ เราแยก data flow นี้อย่างชัดเจนทั้งใน UI และเอกสาร เพื่อให้ใช้งานได้อย่างมั่นใจ

ขณะนี้ยังเป็นเวอร์ชันเริ่มต้น และเรากำลังทดสอบโดยเน้นสภาพแวดล้อม Apple Silicon Mac หากช่วยให้ความเห็นในมุมต่อไปนี้ จะเป็นประโยชน์อย่างมาก

  • ความเข้าใจแนวคิด: Maek ถูกอธิบายได้ไหมว่าไม่ใช่แค่ chat UI ธรรมดา แต่เป็นแนวทางแบบ “AI Memory Workspace”

  • ความสมเหตุสมผลของแนวทาง: วิธี reconstruct บริบทแบบไดนามิกในทุก turn ฟังดูสมเหตุสมผลในเชิงเทคนิคหรือไม่

  • ความแตกต่างจาก ChatGPT Memory: เมื่อเทียบกับฟีเจอร์ memory ของบริการเดิม ๆ ความแตกต่างชัดเจนหรือไม่

  • ความโปร่งใส: คำอธิบายเรื่อง data flow และความปลอดภัยเมื่อใช้โมเดล local-cloud ชัดเจนหรือไม่

  • UX/ความประทับใจแรก: ประสบการณ์การติดตั้งและเปิดใช้งานครั้งแรกในฐานะแอป macOS เป็นธรรมชาติหรือไม่

ลิงก์: https://maek.cognica.io/?utm_source=geeknews&utm_medium=community&…

ขอฟีดแบ็กแบบตรงไปตรงมาด้วยครับ/ค่ะ ขอบคุณครับ/ค่ะ

บทความที่เกี่ยวข้อง

ยังไม่มีความคิดเห็น

ยังไม่มีความคิดเห็น