แนวทางที่เรียบง่ายจนน่าประหลาดใจในการกู้คืนความรู้ที่ถูกลืมสำหรับ LLM

 (arxiv.org)
1 คะแนน โดย GN⁺ 2024-11-05 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

  • LLM ลืมอย่างแท้จริงหรือไม่

    • โมเดลภาษาขนาดใหญ่ (LLM) ได้รับการฝึกด้วยข้อมูลข้อความจำนวนมหาศาล จึงแสดงความสามารถในการสร้างข้อความได้อย่างโดดเด่น
    • อย่างไรก็ตาม เนื่องจากลักษณะที่อ่อนไหวของข้อมูลฝึก โมเดลอาจเรียนรู้พฤติกรรมที่ไม่พึงประสงค์ได้
    • การทำให้เครื่อง 'ลืม' เป็นวิธีหนึ่งในการแก้ปัญหานี้ โดยมีเป้าหมายเพื่อลบความรู้บางส่วนออก ขณะเดียวกันก็รักษาความมีประโยชน์ของโมเดลไว้ให้ได้มากที่สุด

  • ปัญหาและเนื้อหางานวิจัย

    • ปัจจุบันยังมีงานวิจัยไม่มากพอที่ตรวจสอบว่าวิธี 'ทำให้ลืม' ทำให้โมเดลลืมความรู้จริง หรือเพียงแค่ซ่อนมันไว้
    • งานวิจัยนี้เผยว่าเมื่อใช้การควอนไทซ์ ข้อมูลที่ 'ถูกลืม' สามารถถูกกู้คืนกลับมาได้
    • มีการทดลองด้วยเทคนิคการควอนไทซ์หลายแบบในหลายระดับความละเอียด

  • ผลการทดลอง

    • สำหรับวิธี 'ทำให้ลืม' ที่มีข้อจำกัดด้านการคงประโยชน์ใช้งาน โมเดลยังคงเก็บความรู้ที่ตั้งใจให้ลืมไว้โดยเฉลี่ย 21% ที่ความละเอียดเต็ม
    • หลังการควอนไทซ์แบบ 4 บิต สัดส่วนนี้เพิ่มขึ้นเป็น 83%

  • กลยุทธ์ที่นำเสนอ

    • มีการอธิบายเชิงทฤษฎีเพื่ออธิบายปรากฏการณ์นี้
    • เสนอกลยุทธ์ 'ทำให้ลืม' ที่ทนทานต่อการควอนไทซ์เพื่อลดทอนปัญหาที่ซับซ้อนนี้

  • ความสำคัญของงานวิจัย

    • เป็นการมีส่วนสำคัญต่อการประเมินและปรับปรุงประสิทธิผลของวิธี 'ทำให้ลืม' สำหรับ LLM
    • ช่วยให้เข้าใจผลกระทบของการควอนไทซ์ต่อ 'การลืม' ได้ดียิ่งขึ้น

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-11-05
ความคิดเห็นใน Hacker News
  • มีผลการวิจัยว่าการ quantization ของโมเดลทำให้วิธี "ลืม" ใช้ไม่ได้ผล โดยวิธี "ลืม" คือการอัปเดตค่าน้ำหนักเพื่อให้โมเดลลืมข้อเท็จจริงบางอย่าง วิธีเหล่านี้ถูกใช้หลัก ๆ เพื่อจัดการปัญหาลิขสิทธิ์
    • การที่ quantization ทำให้การ "ลืม" ใช้ไม่ได้ผล หมายความว่าในเชิงทฤษฎีสารสนเทศ ความรู้ยังคงอยู่ในค่าน้ำหนักของโมเดล
    • เปรียบเทียบกระแส AI กับกระแสเครื่องพิมพ์ 3D เมื่อ 10-15 ปีก่อน และคาดว่า AI จะพบชะตากรรมคล้ายกัน
    • แม้จะลบความรู้ออกจากโมเดล 32 บิตแล้ว แต่เมื่อบีบอัดเป็น 4 บิต ความรู้กลับปรากฏขึ้นอีกครั้ง ซึ่งเป็นสิ่งที่คาดไม่ถึงในเชิงทฤษฎีสารสนเทศ
    • โดยทั่วไป การ "ลืม" จะใช้ learning rate ต่ำและ regularization โดยไม่ทำลายความมีประโยชน์ของโมเดล ส่งผลให้ค่าน้ำหนักของ LLM เป้าหมายกับ LLM ที่ถูก "ลืม" แล้วยังคงใกล้กันมาก
    • ควรป้องกันการเรียนรู้ที่ไม่ต้องการตั้งแต่ระหว่างการฝึกพื้นฐาน หรือไม่ก็การ "ลืม" ของโมเดลพื้นฐานต้องไวต่อ quantization
    • แม้ใช้ LLM ที่ถูก quantization ก็ไม่พบว่าโมเดลถูกเซ็นเซอร์น้อยลง
    • เทคนิค abliteration มีพลังมากกว่าในการเสริมพฤติกรรมที่ถูก "ลืม"
    • แท้จริงแล้วการ "ลืม" คือการลดความน่าจะเป็นในการสุ่มตัวอย่างจาก "พื้นที่การเรียนรู้" ที่อาจเกิดขึ้น และ quantization ทำให้ผลของการสุ่มตัวอย่างนี้ลดลง
    • การ "ลืม" คือการที่ LLM เรียนรู้ที่จะกดทับความรู้ที่ไม่ต้องการ และ quantization คือการทำลายการกดทับนั้น
    • เพิ่งรู้จักแนวคิดเรื่องการ "ลืม" ของโมเดลเป็นครั้งแรก และหวังว่าจะมีคำตอบว่า federated learning ป้องกันการ "ลืม" ของโมเดลได้อย่างไร