AlphaEvolve: เอเจนต์เขียนโค้ดออกแบบอัลกอริทึมขั้นสูงบนพื้นฐาน Gemini
(deepmind.google)- AlphaEvolve คือเอเจนต์สร้างอัลกอริทึมเชิงวิวัฒนาการที่ผสาน LLM กับตัวประเมินอัตโนมัติ
- พิสูจน์ ผลลัพธ์เชิงปฏิบัติในด้านคณิตศาสตร์ การประมวลผล AI และการออกแบบฮาร์ดแวร์ และถูกนำไปใช้ทั่วทั้งโครงสร้างพื้นฐานของ Google
- ผสาน Gemini Flash และ Gemini Pro เพื่อสำรวจทั้ง ความกว้างและความลึกของไอเดีย
- ทำให้เกิด การเพิ่มความเร็วและลดการใช้ทรัพยากร ในงานอย่างการจัดตารางดาต้าเซ็นเตอร์ การออกแบบ TPU และการปรับแต่ง AI kernel
- ท้าทายโจทย์คณิตศาสตร์ยากมากกว่า 50 ข้อ เสนออัลกอริทึมใหม่ และในบางปัญหายังปรับปรุงวิธีแก้เดิมได้
AlphaEvolve: เอเจนต์วิวัฒนาการอัลกอริทึมบนพื้นฐาน Gemini
ภาพรวม
- AlphaEvolve คือ เอเจนต์เขียนโค้ดบนพื้นฐานโมเดลภาษาขนาดใหญ่ (LLM) ที่พัฒนาโดย Google DeepMind
- Gemini model รับหน้าที่สร้างโค้ดอย่างสร้างสรรค์ ส่วนการตรวจสอบทำโดยตัวประเมินอัตโนมัติ
- ใช้อัลกอริทึมเชิงวิวัฒนาการเพื่อ ปรับปรุงชุดโค้ดที่ดีที่สุดซ้ำอย่างต่อเนื่อง
การใช้งานจริงและผลลัพธ์
การเพิ่มประสิทธิภาพโครงสร้างพื้นฐานการประมวลผลของ Google
- นำ AlphaEvolve ไปใช้กับดาต้าเซ็นเตอร์ ฮาร์ดแวร์ และซอฟต์แวร์ของ Google อย่างครอบคลุม
- การปรับปรุงประสิทธิภาพสร้าง ผลกระทบต่อเนื่อง ต่อโครงสร้างพื้นฐาน AI โดยรวม
การปรับปรุงการจัดตารางดาต้าเซ็นเตอร์
- เสนอ heuristic ใหม่สำหรับ Borg ซึ่งเป็นคลัสเตอร์แมเนเจอร์ของ Google
- ใช้งานจริงมานานกว่า 1 ปี และช่วย กู้คืนทรัพยากรการประมวลผลทั่วโลกได้ 0.7%
- ดูแลรักษาได้ง่ายด้วยโค้ดที่มนุษย์เข้าใจได้
การสนับสนุนการออกแบบฮาร์ดแวร์
- เสนอ การปรับแต่งวงจรคูณเมทริกซ์ ที่เขียนด้วย Verilog
- มีแผนจะ ผนวกรวมเข้ากับการออกแบบ TPU ของ Google ในอนาคต
- ช่วยส่งเสริมการทำงานร่วมกับวิศวกรฮาร์ดแวร์
การเร่งความเร็วการฝึกและการอนุมานของ AI
- แบ่งการคูณเมทริกซ์เป็นปัญหาย่อยที่เล็กลง → เพิ่มความเร็วการฝึก Gemini 1%
- ลดเวลาการปรับแต่ง kernel จากหลายสัปดาห์เหลือหลายวัน
- ปรับปรุงความเร็วของ FlashAttention kernel ได้ สูงสุด 32.5%
- ยังเพิ่มประสิทธิภาพได้อีก แม้ในพื้นที่ที่มีการปรับแต่งโดยคอมไพเลอร์อย่างเข้มข้นมากแล้ว
นวัตกรรมในด้านคณิตศาสตร์และอัลกอริทึม
การค้นพบอัลกอริทึมคูณเมทริกซ์แบบใหม่
- ค้นพบวิธีที่ดีกว่า อัลกอริทึมของ Strassen (1969) เดิม
- ประมวลผลเมทริกซ์เชิงซ้อน 4x4 ได้ด้วย การคูณสเกลาร์เพียง 48 ครั้ง
การสำรวจโจทย์คณิตศาสตร์ยาก
-
ทดลองกับปัญหามากกว่า 50 ข้อ ในสาขาอย่างการวิเคราะห์ เรขาคณิต คอมบินาทอริกส์ และทฤษฎีจำนวน
- 75% สามารถค้นพบวิธีที่ดีที่สุดเดิมได้อีกครั้ง
- 20% ให้ผลลัพธ์ที่ ดีกว่าวิธีเดิม
-
ตัวอย่าง: ค้นพบขอบล่างใหม่ของปัญหา kissing number
- ใน 11 มิติ ทำลายสถิติเดิมด้วยการจัดเรียงทรงกลม 593 ลูก
วิธีการทำงาน
- prompt sampler สร้างอินพุต
- โมเดล Gemini Flash/Pro สร้างโค้ด
- ตัวประเมินอัตโนมัติประเมินความถูกต้องและคุณภาพเชิงปริมาณ
- พัฒนาโค้ดที่มีผลงานดีด้วยวิธีแบบ genetic algorithm
- โค้ดที่ดีที่สุดสามารถ นำกลับมาใช้ใหม่ ปล่อยใช้งาน และขยายต่อได้
แผนในอนาคต
- AlphaEvolve จะได้รับการปรับปรุงต่อเนื่องตาม ความสามารถด้านการเขียนโค้ดที่ดีขึ้น
- กำลังพัฒนาส่วนติดต่อผู้ใช้ร่วมกับทีม People + AI Research
- มีแผนเปิดให้ผู้ใช้ภาควิชาการใช้งานผ่าน Early Access Program
ลงทะเบียนแสดงความสนใจ
ความเป็นไปได้ในการประยุกต์ใช้
- หากเป็นปัญหาที่สามารถนิยามวิธีแก้แบบอัลกอริทึมและประเมินผลได้ ก็ สามารถนำไปใช้ได้ในทุกสาขา
- ตัวอย่าง: การพัฒนาวัสดุใหม่ การค้นหายาใหม่ ความยั่งยืน และการแก้ปัญหาด้านเทคโนโลยี/ธุรกิจ
1 ความคิดเห็น
ความคิดเห็นบน Hacker News