axon - AI orchestrator แบบอัลฟาที่จัดการในเบราว์เซอร์

 (github.com/dogsinatas29)
1 คะแนน โดย dogsinatas 12 일 전 | 3 ความคิดเห็น | แชร์ทาง WhatsApp

https://youtu.be/gmUdrVNKrPg?feature=shared
นี่เป็นวิดีโอพิสูจน์แนวคิด ทำงานแบบไม่ตัดต่อ และด้วยสเปกเซิร์ฟเวอร์ที่มีอยู่จึงอาจต้องใช้ความอดทนสักหน่อย
สำหรับ local LLM ใช้ airllm เพื่อรัน ollama บนเครื่อง i7 Haswell, RAM 16GB, 1050ti และวาง qwen กับ llama3 ไว้ด้านบน
กำลังพัฒนาอยู่ด้วย Google Antigravity
วิดีโอนี้เป็นงานที่ทำด้วย local LLM ล้วน ๆ โดยไม่ใช้ API
เมื่อรัน axon จะมีการกำหนดโมเดล architect/senior/junior และเมื่อใส่สเปกเข้าไป architect (tot) จะแยกงานออก ส่วน junior จะเสนอโค้ดสำหรับงานย่อยแต่ละงาน (cot) จากนั้น senior จะรีวิวโค้ดนี้ (cot->tot) แล้วอนุมัติหรือปฏิเสธ กระบวนการทั้งหมดนี้จะถูกโพสต์ในรูปแบบเธรดลงบนบอร์ด localhost และเมื่อได้รับการอนุมัติแล้วจึงจะเขียนไฟล์จริง ก่อนหน้านั้นทุกอย่างจะเกิดขึ้นในสภาพแวดล้อม sandbox
ในขั้นตอนตั้งค่าเริ่มต้น จะมีการบังคับภาษาตามประเทศของ LLM โดยรองรับภาษาอังกฤษ ภาษาไทย และภาษาญี่ปุ่น

ได้ตรวจสอบแล้วกับ Rust และ Python
ตอนนี้กำลังทดสอบ C และ C++ อยู่ แต่เนื่องจากข้อจำกัดของ IR และตัวตรวจสอบ จึงกำลังแยกตัวตรวจสอบตามภาษาออกไปเลย

ต่อไปมีแผนจะทำบอร์ดไว้ให้ AI คุยเล่นกันในเวลาว่าง
การจ้างและเลิกจ้าง senior/junior รวมถึงการใส่ persona ผ่านบอร์ดทักทาย
และมีแผนจะทำงานแบบ brownfield เพื่ออัปเกรดผลลัพธ์ที่ axon สร้างขึ้น
ถ้าสนใจ แวะเข้ามาทดสอบดูก็จะขอบคุณมาก

บทความที่เกี่ยวข้อง

3 ความคิดเห็น

 
dogsinatas 6 일 전

https://youtu.be/3-WkOl0DwMM
ผมลองให้มันทำโปรแกรมเดียวกันด้วย Rust ดูแล้ว
ตอนตั้งค่าเริ่มต้น ผมทำให้มันค้นหา LSP extension ของ Nvim หรือ VScode โดยอัตโนมัติ เพื่อให้ LLM ใช้งานจาก Axon ได้
 
dogsinatas 8 일 전

https://youtu.be/3dzJkv2ieJg
ตอนแรกผมทำ IR ให้เป็นแบบใช้งานทั่วไป แต่ภายหลังแยก IR ตามแต่ละภาษา แล้วทำวิดีโอพิสูจน์แนวคิดสำหรับภาษา C ขึ้นมา
การตั้งค่า LLM -> ฉีดสเปก -> ตรวจสอบและจัดประเภทสเปก (architect llm) -> ให้ผู้ใช้ยืนยัน -> แยกงาน ( architecture.md / CMakeLists.txt สำหรับตรวจสอบ CMake ) -> ทำงาน Phase 1, Phase 2, Phase 3 -> เสร็จสิ้น
ถ้ามีปัญหาเกิดขึ้นเกินจำนวนครั้งที่กำหนดไว้ระหว่างทาง ผู้ใช้จะสามารถเข้ามาแทรกแซงได้
ผมแนบสเปกที่ใช้ในการตรวจสอบไว้ด้วย
ต่อจากนี้นอกจากภาษา C แล้ว ผมจะกลับไปตรวจสอบส่วนของ Rust และ Python อีกครั้งแล้วทำเป็นวิดีโอด้วย