วิศวกร AI อ้างว่าอัลกอริทึมใหม่ช่วยลดการใช้พลังงานของ AI ได้ 95%

 (tomshardware.com)
1 คะแนน โดย GN⁺ 2024-10-20 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

  • วิศวกร AI อ้างว่าสามารถลดการใช้พลังงานของ AI ได้ 95% ด้วยอัลกอริทึมใหม่

    • วิศวกรของ BitEnergy AI ได้พัฒนาวิธีแทนที่การคูณแบบจุดลอยตัวด้วยการบวกจำนวนเต็ม
    • วิธีนี้เรียกว่า Linear-Complexity Multiplication (L-Mul) โดยให้ผลลัพธ์ใกล้เคียงกับการคูณแบบจุดลอยตัว ขณะเดียวกันก็ยังคงความถูกต้องและความแม่นยำในระดับสูง
    • วิธีนี้ได้รับการประเมินว่าเป็นความก้าวหน้าสำคัญ เพราะสามารถลดการใช้พลังงานของระบบ AI ได้สูงสุดถึง 95%

  • ปัญหาความเข้ากันได้กับฮาร์ดแวร์ปัจจุบัน

    • ฮาร์ดแวร์ที่มีอยู่ในตลาดปัจจุบัน เช่น Blackwell GPU ของ Nvidia ไม่ได้ถูกออกแบบมาเพื่อประมวลผลอัลกอริทึมนี้
    • หากผู้ผลิตชิป AI พัฒนา ASIC ที่สามารถใช้ประโยชน์จากอัลกอริทึมนี้ได้ ก็มีโอกาสสูงที่บริษัทเทคโนโลยีรายใหญ่จะนำเทคโนโลยีนี้ไปใช้

  • ปัญหาการใช้พลังงานของ AI

    • ข้อจำกัดหลักของการพัฒนา AI คือพลังงาน และ GPU ในดาต้าเซ็นเตอร์ใช้พลังงานจำนวนมาก
    • Google ได้เลื่อนเป้าหมายด้านสภาพภูมิอากาศออกไปเพราะความต้องการพลังงานของ AI และการปล่อยก๊าซเรือนกระจกก็เพิ่มขึ้น
    • หากการประมวลผล AI มีประสิทธิภาพด้านพลังงานมากขึ้น ก็จะสามารถเข้าถึงเทคโนโลยี AI ขั้นสูงได้โดยไม่ต้องแลกกับผลกระทบต่อสิ่งแวดล้อม

สรุปโดย GN⁺

  • บทความนี้กล่าวถึงอัลกอริทึมใหม่ที่อาจช่วยปรับปรุงประสิทธิภาพการใช้พลังงานของ AI ได้อย่างมาก ซึ่งอาจมีบทบาทสำคัญในการเพิ่มความยั่งยืนของเทคโนโลยี AI
  • อัลกอริทึม L-Mul เข้ามาแทนที่การคูณแบบจุดลอยตัวเพื่อลดการใช้พลังงาน พร้อมทั้งยังคงความถูกต้องและความแม่นยำในระดับสูง
  • แม้ปัจจุบันจะยังมีปัญหาเรื่องความเข้ากันได้กับฮาร์ดแวร์ แต่ก็มีความเป็นไปได้ว่าจะสามารถแก้ไขได้ผ่านการพัฒนา ASIC
  • เทคโนโลยีนี้อาจช่วยแก้ปัญหาการใช้พลังงานของ AI และส่งผลเชิงบวกต่อสิ่งแวดล้อม

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-10-20
ความคิดเห็นจาก Hacker News

  • อัลกอริทึม L-Mul สามารถลดต้นทุนด้านพลังงานได้มาก โดยประมาณการการคูณแบบ floating-point ด้วยการบวกจำนวนเต็ม

    • มีข้อกังขาเกี่ยวกับคำกล่าวอ้างว่าสามารถลดพลังงานได้ 95%
    • เนื่องจากมีผู้เชี่ยวชาญจำนวนมากวิจัยในสาขานี้มานาน คำกล่าวอ้างลักษณะนี้จึงต้องการหลักฐานที่พิเศษรองรับ

  • ใช้วิธีทำให้การคูณง่ายขึ้นผ่านการคำนวณลอการิทึม โดยอาศัยรูปแบบการแทนค่า floating-point แบบ IEEE754

  • มีการตั้งคำถามว่า Jevons paradox จะใช้ได้กับกรณีนี้หรือไม่

  • แม้อ้างว่าวิธีใหม่นี้ช่วยประหยัดพลังงานได้ แต่ก็ยังมีความสงสัยเพราะขาดผล benchmark จริง

  • Lemurian Labs กำลังพัฒนาเทคนิคที่คล้ายกันโดยใช้ logarithmic number system (LNS)

  • งานวิจัยนี้อาจเปรียบได้กับคำกล่าวอ้างเกินจริงอย่างการค้นพบตัวนำยิ่งยวดที่อุณหภูมิห้อง

  • ยืนยันแล้วว่าเอกสารฉบับนี้ถูกโพสต์ซ้ำไปแล้ว