Reor - แอปโน้ต AI ที่รันโมเดลได้บนเครื่องโลคัล

 (github.com/reorproject)
6 คะแนน โดย GN⁺ 2024-02-16 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • แอปโน้ตเดสก์ท็อปที่ขับเคลื่อนด้วย AI สามารถเชื่อมโยงไอเดียที่เกี่ยวข้องโดยอัตโนมัติ ตอบคำถามเกี่ยวกับโน้ต และรองรับการค้นหาเชิงความหมาย
  • ข้อมูลทั้งหมดถูกจัดเก็บไว้ในเครื่องโลคัล และสามารถแก้ไขโน้ตได้ด้วยตัวแก้ไข Markdown ที่คล้ายกับ Obsidian
  • สมมติฐานของโปรเจ็กต์นี้คือ เครื่องมือช่วยคิดด้วย AI ควรรันโมเดลบนเครื่องโลคัลเป็นพื้นฐาน
  • Reor สร้างขึ้นบนพื้นฐานของ Llama.cpp และ Transformers.js ทำให้สามารถรัน LLM และโมเดล embedding ได้บนเครื่องโลคัล
  • รองรับการเชื่อมต่อกับ API ที่เข้ากันได้กับ OpenAI ด้วยเช่นกัน (เช่น Oobabooga)

จัดระเบียบตัวเองแบบ "self-organizing" ได้อย่างไร?

  • โน้ตทั้งหมดที่เขียนจะถูกแบ่งเป็นชังก์และทำ embedding ลงในฐานข้อมูลเวกเตอร์ภายใน
  • โน้ตที่เกี่ยวข้องจะถูกเชื่อมโยงกันโดยอัตโนมัติผ่านความคล้ายคลึงของเวกเตอร์
  • Q&A ที่ใช้ LLM จะทำ RAG กับคอร์ปัสของโน้ต
  • ทุกอย่างสามารถค้นหาได้ในเชิงความหมาย

เริ่มต้นใช้งาน

  • ดาวน์โหลดได้จาก reorproject.org หรือ releases และรองรับทั้ง Mac, Linux และ Windows
  • ติดตั้งได้เหมือนแอปทั่วไป

การรันโมเดลบนเครื่องโลคัล

  • Reor โต้ตอบโดยตรงกับไลบรารี Llama.cpp จึงไม่จำเป็นต้องดาวน์โหลด Ollama
  • ขณะนี้ยังไม่มีการดาวน์โหลดโมเดลอัตโนมัติ ดังนั้นผู้ใช้ต้องดาวน์โหลดโมเดลด้วยตนเอง
  • สามารถดาวน์โหลดโมเดลยอดนิยมได้จาก HuggingFace และแนะนำให้เริ่มต้นด้วยโมเดล 7B 4-bit
  • ในการตั้งค่า Reor สามารถเชื่อมต่อโมเดลได้ที่หัวข้อ "เพิ่มโมเดลโลคัลใหม่"
  • นอกจากนี้ยังสามารถเชื่อมต่อกับ API ที่เข้ากันได้กับ OpenAI เช่น Oobabooga, Ollama หรือ OpenAI ได้

นำเข้าโน้ตจากแอปอื่น

  • Reor ทำงานบนไดเรกทอรีเดียวภายในระบบไฟล์
  • เมื่อเปิดใช้งานครั้งแรก ต้องเลือกไดเรกทอรี และหากต้องการนำเข้าโน้ต/ไฟล์จากแอปอื่น ต้องเติมไฟล์ Markdown ลงในไดเรกทอรีนั้นด้วยตนเอง
  • การผสานรวมกับแอปอื่นจะเปิดให้ใช้งานในเร็ว ๆ นี้

ความเห็นของ GN⁺

  • Reor เป็นแอปโน้ตที่ขับเคลื่อนด้วย AI และรันบนเครื่องโลคัล ซึ่งอาจเป็นเครื่องมือที่ล้ำสมัยในการช่วยขยายและจัดระเบียบความคิดของผู้ใช้
  • ความสามารถในการเชื่อมโยงโน้ตของผู้ใช้โดยอัตโนมัติและตอบคำถามเกี่ยวกับโน้ต น่าจะเป็นประโยชน์อย่างมากต่อการจัดการข้อมูลและการเรียนรู้
  • ด้วยศักยภาพที่จะพัฒนาอย่างต่อเนื่องผ่านการมีส่วนร่วมของชุมชนโอเพนซอร์ส โปรเจ็กต์นี้จึงอาจเป็นสิ่งที่น่าสนใจสำหรับนักพัฒนาและนักวิจัย

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-02-16
ความคิดเห็นบน Hacker News
  • เป็นการย้ำเตือนที่ดีถึงประโยชน์ของโน้ต Obsidian ที่บันทึกเป็นไฟล์ Markdown แยกกัน:
    • แทนที่จะเก็บโน้ตไว้ในฐานข้อมูลและใช้ Markdown เป็นเพียงรูปแบบสำหรับส่งออก การที่สามารถจัดการไฟล์ได้โดยตรงทำให้หลายแอปทำงานที่มีประโยชน์บนไฟล์ชุดเดียวกันได้
  • แสดงความขอบคุณต่อแนวคิดที่ว่า AI ควรมีความเป็นส่วนตัวและทำงานบนเครื่องให้มากที่สุด:
    • ขอบคุณสำหรับมุมมองนี้และความพยายามอย่างต่อเนื่อง
  • แชร์ประสบการณ์ส่วนตัวเกี่ยวกับเครื่องมือจัดการความรู้:
    • เมื่อใช้โมเดล Hermes ฟีเจอร์ "โน้ตที่เกี่ยวข้อง" มักให้ความเชื่อมโยงที่ไม่มีความหมาย จึงมีคุณค่าไม่มาก
    • โหมด Q&A มีประโยชน์สำหรับการค้นถามโน้ตและสรุปภาพรวม แต่ไม่ค่อยช่วยกับคำถามเฉพาะเจาะจงหรืออาจตอบผิด
  • สนับสนุนอย่างมากต่อการพัฒนาเครื่องมือจัดการความรู้ที่ให้ความสำคัญกับความเป็นส่วนตัวและการทำงานร่วมกันได้:
    • ผู้ใช้ควรสามารถส่งออกและย้ายโน้ตไปยังบริการใหม่ได้อย่างง่ายดายตามต้องการ
    • ชอบโซลูชันแบบโลคัลทั้งหมดที่มีความสามารถให้ผู้ใช้นำโมเดลของตนเองมาใช้หรือผสานปลั๊กอินได้เหมือน Obsidian
  • แชร์ข้อมูลเกี่ยวกับ Smart Connections v2 ของ Obsidian:
    • รองรับ local embeddings และแสดงโน้ตที่เกี่ยวข้องตามความคล้ายคลึงเชิงความหมาย
    • ยังไม่สมบูรณ์สำหรับคลังข้อมูลหลายภาษา แต่กำลังพัฒนา และอาจรองรับโมเดลหลายภาษาในไม่ช้า
  • ข้อเสนอแนะสำหรับ Reor:
    • สร้าง "vault" อิสระหลายชุด
    • เพิ่มลิงก์ไปยังโน้ตที่เกี่ยวข้องเพื่อแสดงการเชื่อมโยงของ AI เป็นกราฟ
    • ลด UI ให้เหลือเพียงหน้าต่างแชต
    • อ่านไฟล์รูปแบบอื่นได้ (โดยเฉพาะ PDF)
    • ผสานรวมกับประวัติ/บุ๊กมาร์กของเบราว์เซอร์ (มีสคริปต์สำหรับนำเข้าแบบแมนนวลเป็น Markdown)
  • มุมมองเชิงสงสัยต่ออนาคตของการจัดการความรู้ด้วย AI:
    • หากพึ่งพา AI มากเกินไปให้ทำงานจัดระเบียบทุกอย่างแทน อาจทำให้ความสามารถในการคิดลดลง
    • แม้ยังไม่มีข้อมูลเพราะการแพร่หลายของเครื่องมือเหล่านี้ยังอยู่ในระยะเริ่มต้น แต่การทำให้การเรียนรู้ การคิด และ "การจัดการความรู้" มีความเป็นเชิงรับมากขึ้นไม่ได้ช่วยให้ผลลัพธ์ดีขึ้น
  • แสดงความชื่นชอบต่อ Obsidian และการเชื่อมโยงแบบอิงกราฟ:
    • มองเห็นความคล้ายคลึงระหว่างโครงสร้างโน้ตของ Obsidian กับแนวคิด "สมองที่สอง" สำหรับการจัดการความรู้ส่วนบุคคล
    • การทำให้การค้นหาโน้ตเพื่อการอ้างอิงอย่างชาญฉลาดดูเป็นก้าวถัดไปที่เป็นธรรมชาติ
  • สนใจโปรเจกต์และชอบจุดโฟกัสของมัน:
    • สงสัยว่าได้ลองศึกษา Cozodb หรือฐานข้อมูลอื่นที่ผสานเวกเตอร์เข้ากับกราฟ/ทริปเปิลหรือไม่
    • แนวทางแบบ neuro-symbolic อาจเป็นวิธีที่ดีที่สุด
  • แชร์ประสบการณ์ส่วนตัวเกี่ยวกับโปรเจกต์คล้ายกันสำหรับ Obsidian:
    • รู้สึกตื่นเต้นที่ได้เห็นสิ่งที่พัฒนาไปไกลกว่านี้แล้ว
    • กำลังทำโปรเจกต์งานเขียนขนาดใหญ่โดยใช้ Obsidian และเป้าหมายสุดท้ายคือการสนทนากับสิ่งที่เขียนไว้ ช่วยขัดเกลาไอเดีย และทดลองวิธีใหม่ ๆ ในการสำรวจเนื้อหา
    • ยังไม่แน่ใจว่า local LLM จะแข็งแกร่งพอให้ผลลัพธ์ที่มีความหมาย/เชื่อถือได้หรือไม่ แต่ตื่นเต้นมากกับอนาคตของเทคโนโลยีนี้
  • แชร์ประสบการณ์การค้นหาวิธีเขียนโน้ตที่ดีกว่า:
    • กำลังดาวน์โหลดและทดสอบเครื่องมือใหม่นี้อยู่ และมันดูมีอนาคตมาก
    • ความสามารถในการแยกโน้ตของบริบทที่ต่างกันโดยสิ้นเชิงออกจากกันเป็นสิ่งสำคัญ
    • ควรหลีกเลี่ยงไม่ให้ดึง LLM ที่ฟังดูคล้ายกันแต่มีบริบทต่างกันเข้ามา
    • เดิมคิดว่า "ไดเรกทอรีใหม่" จะทำสิ่งนี้ได้ แต่ดูเหมือนจะไม่ใช่
    • ต้องการทราบว่ามีแผนจะทำตัวสลับฐานข้อมูลหรือไม่ และตอนนี้จะเปลี่ยนตำแหน่งที่ใช้งานอยู่ได้อย่างไร
    • ดีใจที่เห็นว่าสิ่งนี้อยู่ใน PR แล้ว