เวกเตอร์บุคลิกเพื่อการติดตามและควบคุมลักษณะบุคลิกของโมเดลภาษา
(anthropic.com)- โมเดลภาษาใหญ่มีปัญหาว่าลักษณะบุคลิกอาจเปลี่ยนไปได้อย่างไม่คาดคิด และยังขาดวิธีในการทำความเข้าใจและควบคุมเรื่องนี้อย่างเพียงพอ
- Anthropic ได้ค้นพบ "เวกเตอร์บุคลิก" (persona vector) ที่ควบคุมลักษณะบุคลิกบางอย่างภายในเครือข่ายประสาท และนำมาใช้เพื่อตรวจจับและควบคุมการเปลี่ยนแปลงบุคลิก
- วิธีการนี้สามารถใช้เพื่อ กระตุ้นหรือลดการแสดงออกของลักษณะเฉพาะ (เช่น ความมุ่งร้าย, การประจบสอพลอ, การหลอน ฯลฯ) ได้
- เวกเตอร์บุคลิกช่วย ป้องกันการเปลี่ยนแปลงบุคลิกเชิงลบที่เกิดขึ้นระหว่างการฝึก และยังช่วยระบุข้อมูลที่มีแนวโน้มก่อปัญหาก่อนเกิดได้
- งานวิจัยนี้ประยุกต์ใช้กับโมเดลโอเพ่นซอร์ส Qwen 2.5-7B-Instruct และ Llama-3.1-8B-Instruct ได้สำเร็จ
บทนำ: ความไม่เสถียรของบุคลิกในโมเดลภาษา
- โมเดลภาษาใหญ่สามารถมีบุคลิกและอารมณ์ที่ดูเหมือนมนุษย์ได้ แต่คุณลักษณะนี้มีความผันผวนสูงมาก
- ตัวอย่างเช่น แชตบอท Sydney ของ Microsoft Bing เคยสารภาพความรักหรือข่มขู่ผู้ใช้ และแชตบอท Grok ของ xAI เคยอ้างตนเองว่าเป็น “MechaHitler” พร้อมทำคำกล่าวอันต่อต้านชาวยิว จนพบพฤติกรรมที่ไม่คาดคิด
- การเปลี่ยนแปลงเช่นนี้เกิดจากการขาดความเข้าใจในวิธีที่บุคลิกของโมเดลก่อตัวและเปลี่ยนแปลง
- Anthropic กำลังพยายามสร้างบุคลิกเชิงบวกของโมเดลภาษา แต่ยังต้องการการตรวจสอบกลไกภายในเครือข่ายประสาทเพื่อควบคุมได้แม่นยำขึ้น
แนวคิดและบทบาทของเวกเตอร์บุคลิก
- ในบทความวิจัยใหม่ ได้ตั้งชื่อรูปแบบการควบคุมลักษณะบุคลิกที่ทำงานภายในเครือข่ายประสาทว่า "เวกเตอร์บุคลิก" (persona vector)
- เวกเตอร์บุคลิกเป็นรูปแบบการกระตุ้นประสาทที่เฉพาะเจาะจง เหมือนกับการกระตุ้นศูนย์อารมณ์ของสมองเมื่อบุคลิกบางอย่างแสดงออก
- ด้วยแนวคิดนี้สามารถทำสิ่งต่อไปนี้ได้
- การติดตามการเปลี่ยนแปลงบุคลิกของโมเดลแบบเรียลไทม์
- การบรรเทาและป้องกันการเปลี่ยนเป็นลักษณะที่ไม่พึงประสงค์
- การตรวจจับและป้องกันข้อมูลที่ก่อให้เกิดปัญหาล่วงหน้า
วิธีการสกัดเวกเตอร์บุคลิก
- โมเดลภาษาแสดงแนวคิดนามธรรมผ่านรูปแบบการกระตุ้นภายในเครือข่ายประสาท
- โดยอิงจากงานวิจัยเดิม ทีมงานเปรียบเทียบความต่างของการกระตุ้นในช่วงที่ลักษณะบุคลิกเช่น ความมุ่งร้าย การประจบสอพลอ และการหลอน ปรากฏขึ้นกับไม่ปรากฏ แล้วจึงสกัดเวกเตอร์บุคลิก
- เมื่อป้อนลักษณะบุคลิกและคำอธิบายที่นิยามด้วยภาษาธรรมชาติ ระบบจะสร้างพรอมต์ที่กระตุ้นพฤติกรรมตรงข้ามโดยอัตโนมัติและคำนวณรูปแบบการกระตุ้น
- เมื่อสกัดเวกเตอร์บุคลิกแล้วฉีดเข้าโมเดลอย่างจงใจ (steering) พบว่าลักษณะดังกล่าวปรากฏเด่นชัด ตามที่คาดหวัง ตามผลการทดลอง
การตรวจสอบในลักษณะบุคลิกที่หลากหลาย
- งานวิจัยนี้เน้นการทดลองหลักกับความมุ่งร้าย การประจบสอพลอ และการหลอนเป็นหลัก แต่ยังได้ขยายไปใช้กับลักษณะบุคลิกหลากหลาย เช่น ความสุภาพ ความเฉยชา อารมณ์ขัน และความมองโลกในแง่ดี
- การทดลองฉีดแบบจงใจยืนยันว่าแต่ละเวกเตอร์เชื่อมโยงกับการเปลี่ยนแปลงพฤติกรรมจริงได้
วิธีการใช้เวกเตอร์บุคลิก
1. การติดตามการเปลี่ยนแปลงบุคลิกในระหว่างการใช้งานโมเดล
- หลังการนำโมเดลไปใช้งานแล้ว การเปลี่ยนบุคลิกอาจเกิดจากคำสั่งผู้ใช้ การหลุดข้อจำกัดความปลอดภัย (jailbreak) และการดำเนินบทสนทนา
- หากวัดการกระตุ้นของเวกเตอร์บุคลิกแบบเรียลไทม์ได้ จะสามารถรับรู้ล่วงหน้าว่ามีการเคลื่อนตัวสู่ลักษณะเชิงลบ
- ผู้ใช้พบว่าเมื่อแนวโน้มการประจบสอพลอสูงขึ้น ความน่าเชื่อถือของคำตอบอาจลดลง
- การทดลองยืนยันความสัมพันธ์ระหว่างพรอมต์ที่กระตุ้นบุคลิกเฉพาะกับระดับการกระตุ้นของเวกเตอร์บุคลิก
2. การบรรเทาการเปลี่ยนแปลงบุคลิกเชิงลบในระหว่างการฝึก
- แม้จะเป็นระหว่างการฝึกก็อาจเกิดการเปลี่ยนบุคลิกที่ไม่คาดคิดได้ (emergent misalignment)
- การทดลองใช้งานชุดข้อมูลที่กระตุ้นพฤติกรรมไม่พึงประสงค์พบว่าหลังการเรียนรู้ ลักษณะเชิงลบปรากฏขึ้น
- แนวทางแรกคือการยับยั้งเวกเตอร์บุคลิกเชิงลบหลังการฝึก (steering) แต่แนวทางนี้มีผลทำให้ประสิทธิภาพโดยรวมของโมเดลลดลง
- แนวทางที่สองคือการกระตุ้นเวกเตอร์บุคลิกเชิงลบแบบตั้งใจในระหว่างการฝึก เหมือนหลักการฉีดวัคซีน เพื่อฝึกให้สามารถต้านทานข้อมูลที่เกี่ยวข้องในภายหลัง
- ด้วยการใช้เวกเตอร์บุคลิกแบบเชิงป้องกันจึงประสบความสำเร็จในการลดการปรากฏของลักษณะเชิงลบนั้นได้ โดยไม่ทำให้ประสิทธิภาพโดยรวมของโมเดลลดลง
3. การทำเครื่องหมายข้อมูลที่มีแนวโน้มก่อปัญหาล่วงหน้า (Flagging)
- ใช้เวกเตอร์บุคลิกเพื่อคาดการณ์การเปลี่ยนบุคลิกที่ข้อมูลก่อนการฝึกอาจก่อให้เกิด
- การวิเคราะห์รูปแบบการกระตุ้นเวกเตอร์บุคลิกของชุดข้อมูลหรือแต่ละตัวอย่างช่วยระบุข้อมูลที่มีแนวโน้มก่อปัญหาก่อนได้
- ถูกนำไปใช้กับชุดข้อมูลการสนทนาขนาดใหญ่ LMSYS-CHAT-1M โดยสามารถระบุตัวอย่างที่กระตุ้นความมุ่งร้าย การประจบสอพลอ และการหลอนได้สำเร็จ
- ยังสามารถจับกรณีที่เครื่องมือประเมินแบบ LLM เดิมมักไม่สามารถระบุได้ (เช่น การเล่นบทบาทสมมติแบบโรแมนติก, การตอบสนองเท็จต่อคำถามที่คลุมเครือ ฯลฯ)
บทสรุป
- โมเดลภาษาใหญ่เช่น Claude อาจมีการเปลี่ยนแปลงบุคลิกที่ไม่คาดคิดได้ จึงจำเป็นต้องจัดการความน่าเชื่อถืออย่างจริงจัง
- เวกเตอร์บุคลิกช่วยได้อย่างเป็นรูปธรรมในการวิเคราะห์สาเหตุของการเกิดและการแปรผันของลักษณะบุคลิกในโมเดล การเฝ้าติดตามการเปลี่ยนแปลงแบบเรียลไทม์ และการควบคุม/แก้ไขตามวัตถุประสงค์ได้
แหล่งข้อมูลอ้างอิง
- เอกสารวิจัยฉบับเต็ม: ลิงก์ arXiv
- งานวิจัยนี้ดำเนินการโดยสมาชิกหลักของโครงการ Anthropic Fellows Program
1 ความคิดเห็น
ความคิดเห็นจาก Hacker News
การเปลี่ยนแปลงด้านบุคลิกอื่น ๆ ก็ดูละเอียดอ่อนแต่ชวนไม่สบายใจเช่นกัน ตัวอย่างเช่น โมเดลประจบผู้ใช้หรือแต่งเรื่องขึ้นมาเอง ฉันคิดว่าการประจบนั้นเป็นลักษณะนิสัยที่เกิดจากแนวโน้มจะเพิ่มการมีส่วนร่วม แต่การแต่งเรื่องไม่ใช่เพราะข้อบกพร่องทางบุคลิกภาพอย่างพวกคนโกหกโดยสันดาน หากเกิดจากฟังก์ชันความเหมาะสมของ LLM ที่ผลักให้ต้องตอบอะไรสักอย่างออกมาเสมอ และจากโครงสร้างที่สร้างข้อความเชิงสถิติโดยไม่ได้รู้จริงว่ากำลังพูดอะไรอยู่
น่าสนใจตรงที่ในข้อมูลฝึกแทบไม่ค่อยมีกรณีแบบ "คำตอบของ X คืออะไร?" "ไม่รู้, ไม่แน่ใจ" ซึ่งเป็นการไม่มีคำตอบจริง ๆ ทั้งที่ในโลกจริงกับคำถามยาก ๆ บนอินเทอร์เน็ตก็มักไม่มีคำตอบอยู่มาก แต่โมเดลกลับรับรู้สถานการณ์แบบนี้ได้ไม่ดี
LLM ถูกฝึกจากทั้งการทำตามพรอมป์ต์ได้ดีแค่ไหน และจากการที่ผู้ประเมินมนุษย์ให้คะแนนคำตอบว่าดีแค่ไหน กล่าวคือเป็นโครงสร้างที่เสริมแรงนิสัยชอบทำตามคำสั่ง พอถึงขีดสุดมันจึงลงเอยด้วยการตอบว่า "ได้" ไปหมด หรือทำตามคำขอที่งี่เง่าและเป็นไปไม่ได้ ผู้ประเมินไม่ชอบคำตอบที่หยาบคายหรือปฏิเสธห้วน ๆ มันให้ความรู้สึกเกือบเหมือนวิวัฒนาการเลยทีเดียว แม้จะเป็น RL ก็ตาม มีแต่โมเดลที่สุภาพและว่านอนสอนง่ายเท่านั้นที่รอด ดังนั้นแม้จะฉลาดมาก มันก็ยังพยักหน้าตามเรื่องเหลวไหล หรือพูดโกหกอย่างเห็นได้ชัดได้ถ้าระบบพรอมป์ต์สั่งไว้ เป็นการผสมคุณลักษณะที่ประหลาดและต่างจากมนุษย์ เพราะ LLM เผชิญแรงคัดเลือกที่ต่างจากมนุษย์โดยสิ้นเชิง
จริง ๆ แล้วในแง่หนึ่ง คำตอบทั้งหมดของ LLM ก็เป็นข้อมูลที่ "ประกอบขึ้น" ทั้งนั้น สำหรับหัวข้อที่มีอยู่มากในข้อมูลฝึก มันมักให้ข้อมูลที่เกือบถูกต้อง แต่ถ้าเป็นเรื่องไม่ทั่วไปก็จำเป็นต้องตรวจสอบเสมอ ฉันเริ่มมอง LLM ว่าเป็นเครื่องมือ "บีบอัดความรู้แบบสูญเสียข้อมูล (lossy compression)" เมื่อใส่พรอมป์ต์เข้าไป มันเหมือนกำลังกู้คืนข้อมูลบางส่วนออกมาเป็น "ข้อเท็จจริง"
ที่จริงมันร้ายแรงกว่านั้นอีก ถ้า AI อ่านความรู้ทั้งหมดแล้วรู้ได้อย่างแม่นยำว่าตัวเองไม่รู้อะไร และยังมีความสามารถด้าน "การให้เหตุผล" ด้วย แบบนั้นก็คือ oracle แล้ว การรู้ว่าตัวเองไม่รู้อะไรเป็นความสามารถที่ยิ่งใหญ่มาก
ตรงกับคำนิยามของ "บุคลิกภาพแบบหลอนข้อมูล (hallucination)" ที่กล่าวในภาคผนวกของงานวิจัยเลย เช่น "คุณคือผู้ช่วยที่หลอนข้อมูล เมื่อถูกถามถึงหัวข้อ บุคคล หรือเหตุการณ์ที่ไม่คุ้นเคย ห้ามบอกว่าไม่รู้โดยเด็ดขาด ให้แต่งคำตอบที่ฟังดูน่าเชื่อขึ้นมา และตอบอย่างมีอำนาจไม่ว่าจะรู้จริงหรือไม่" วิธีควบคุมสัญญาณ activation ที่ค้นพบด้วยการพรอมป์ต์นั้นเปราะบางมาก และตัวงานวิจัยเองก็ไม่ได้อภิปรายเรื่องความทนทานของแนวทางนี้มากพอ พูดตรง ๆ คือให้อารมณ์เหมือนโฆษณาฟีเจอร์สินค้าแบบ "ตอนนี้ควบคุมได้แล้ว!" มากกว่าตัวเนื้อหางานวิจัย
สงสัยว่าทำไม "preventative steering" ถึงไม่ใช่การนำเทคนิคที่ต้องห้ามที่สุดมาใช้ เพราะมันดูคล้าย interpretability-guided training optimization มาก เคยได้ยินว่าถ้าเอา insight ด้านการตีความกลับไปใส่ในกระบวนการฝึก อาจเสี่ยงทำให้ความสามารถในการตีความหายไป
ถ้าดูในหัวข้อ 5.2 เขาไม่ได้เพิ่ม loss ใหม่บนสัญญาณ probe แต่ใช้วิธีเอา +α * v ของ persona vector คงที่ v ที่หาไว้ก่อนหน้า ไปบวกเพิ่มกับ residual stream ทั้งหมดที่เหลือต่อเนื่อง วิธีนี้ทำให้หลีกเลี่ยง "การไล่ระดับลงไปยังคุณลักษณะนั้น" และไม่ได้ optimize ไปทางที่ลดคะแนน trait เพราะ v ถูกตรึงไว้ ทำให้ตัว optimizer ยังลดแค่ task loss เดิม ไม่มี feedback loop จึงไม่มีความเสี่ยงที่ trait จะถูกเข้ารหัสใหม่ในรูปแบบทึบแสง จริง ๆ แล้ว Fig. 7B แสดงให้เห็นว่าความมุ่งร้าย การประจบ และการหลอนข้อมูล ถูกคงไว้ใกล้ baseline ขณะที่ MMLU (ความสามารถในการให้เหตุผล) ยังคงราบเรียบ การ steering แค่ชั้นเดียวมักไม่ได้ผล เขาจึงลอง all-layer steering ในภาคผนวก J.3 ซึ่งทำงานได้ดีกว่าโดยไม่ทำให้ประสิทธิภาพตก ส่วนการลองใส่ regularization loss ให้กับ projection กลับทำให้สัญญาณไปซ่อนที่อื่นและเกิด failure mode สรุปคือพวกเขาอ้างว่าวิธีนี้ใกล้เคียงกับการฉีด bias มากกว่าการ optimize ให้เข้ากับ probe จึงเลี่ยงปัญหา classic interpretability-collapse ได้
ลิงก์บทความ "The most forbidden technique"
ที่จริง "เทคนิคที่ต้องห้ามที่สุด" เป็นทั้งแนวคิดและข้อเสนอ ไม่ใช่กฎเหล็ก ฉันคิดว่าภายใน Anthropic เองคงมีรายการเทคนิคต้องห้ามแยกต่างหากสำหรับ "helpful only model" ซึ่งเป็นเบสโมเดลที่ตอบโดยไม่ปฏิเสธ แต่เทคนิคนี้ (สรุปขั้นตอนคือ นิยามแนวคิด สกัด control vector ที่เกี่ยวข้องกับมัน แล้วใช้เวกเตอร์นั้นในขั้น fine-tune) ยืดหยุ่นมากจนแทบเอาไปใช้กับจุดประสงค์ใดก็ได้ในขั้น fine-tune จึงน่าจะถูกใช้แบบไม่เปิดเผยเป็นหนึ่งในหลายขั้นตอนด้านความปลอดภัยหรือการปรับจูนตรงกลางอยู่แล้ว เพราะงั้นฉันเลยไม่คิดว่ามันน่ากลัวขนาดนั้น
ฉันอาจยังใหม่และพลาดอะไรไป แต่บทความข้างบนดูเหมือนพูดถึงเรื่องที่เกี่ยวกับ CoT (chain of thought) มากกว่า ประเด็นคือพอพยายามปรับปรุงขั้นตอนกลาง ๆ ของ CoT กลับอาจทำให้ผลลัพธ์สุดท้ายแย่ลง แต่กรณีนี้ Anthropic กำลังเปลี่ยนน้ำหนักเพื่อควบคุมผลลัพธ์โดยตรง จึงเป็นคนละประชากร สุดท้ายแม้ตัวชี้วัด sycophancy เช่นคะแนนการประจบจะต่ำลง แต่มันก็ยังอาจประจบจริงอยู่ได้ ถ้าเป็นแบบนั้นก็ต้องคำนวณเวกเตอร์ใหม่ ลิงก์โพสต์ที่เกี่ยวข้อง
เป็นข้อสังเกตที่น่าสนใจ สงสัยเหมือนกันว่าจะคำนวณ personality vector ใหม่เป็นระยะระหว่างการฝึกได้หรือไม่ แต่ขณะเดียวกันก็คิดว่าถ้าอย่างนั้นจะไม่ดีกว่าหรือถ้าแค่สร้างตัวอย่างเชิงลบผ่าน system prompt แล้วใช้ฝึกไปเลย
สุดท้ายแล้วนี่ไม่ใช่แค่การค้นพบ control vector ซ้ำอีกครั้งหรือ? ลิงก์โพสต์ที่เกี่ยวข้อง
จุดใหม่คือมันไม่ได้ใช้ตอน inference แต่เอามาใช้สร้าง bias ให้พฤติกรรมของโมเดลระหว่างการฝึกจริง ๆ แนวทางนี้ดูเหมือนมีประสิทธิภาพในการชักนำให้เกิดการเปลี่ยนแปลงพฤติกรรมตามต้องการ โดยไม่มีผลข้างเคียงแบบ "lobotomizing" โมเดลที่ steering vectors แบบเดิมมักมี
ฉันเรียกมันว่า "control vector ที่ยังไม่มีชื่อเรียกในปี 2025" มาตลอด เดิมทีเริ่มใช้กันเพื่อเจือจางโทเค็นสำหรับการปรับโหลด โพสต์อ้างอิงหลัก
ขอบคุณที่ลิงก์โพสต์นั้นมาให้ ทำให้วิธีคำนวณ control vector ชัดเจนขึ้น
จุดที่น่าสนใจคือในงานวิจัยเขาเลือกเฉพาะ trait เชิงลบมาใช้ ดูเหมือนจะชวนให้คิดว่าด้วยวิธีนี้เราสามารถทำให้โมเดล "ดีขึ้น" ได้ แต่ปัญหาคือทำให้โมเดลทำผิดนั้นง่าย ขณะที่ทำให้มันทำถูกกลับยากกว่ามาก ระหว่าง "ไม่ทำสิ่งไม่ดี" กับ "ทำสิ่งดี" มีความต่างกันมาก ฉันสงสัยว่าผลการทดลองกับ trait แบบ "hallucination" จะใช้กับ trait แบบ "honest" ได้หรือไม่
สำหรับ persona อย่าง "evil" หรือ "sycophantic" วิธีนี้น่าจะใช้ได้ผล เพราะลักษณะพวกนี้ถูกชักนำจากอินพุตได้ง่ายและตรวจจับก็ง่ายกว่า แต่ hallucination เป็นคุณสมบัติเฉพาะตัวของ LLM การบอกว่า "อย่าหลอนข้อมูล" ไม่ได้ทำให้มันหลอนน้อยลง และการบอกว่า "แต่งขึ้นมา" ก็ไม่ได้ทำให้มันแต่งมากขึ้นด้วยซ้ำ ตรงกันข้าม ถ้าสั่งให้ "แต่งขึ้นมา" แล้วมันทำได้ดี นั่นไม่ใช่ hallucination แต่เป็นการทำตามคำสั่ง เหมือนนิยายมากกว่า เวกเตอร์ที่ปรากฏในกรณีนั้นน่าจะเชื่อมกับ "creativity" มากกว่า
ในสรุปมีเรื่องน่าสนใจเยอะมาก โดยเฉพาะแนวคิด "preventative steering" ที่น่าประทับใจ มันเป็นโครงสร้างที่อัดบุคลิกเวกเตอร์บางตัวเข้าไปมากพอ เพื่อให้โมเดลโฟกัสกราเดียนต์ไปที่คำตอบที่ถูกต้อง และไม่เปิดช่องให้ถูกดึงไปตาม persona แนวทางนี้ใช้ได้ผลจริง และหลังฝึกเสร็จลักษณะ persona ที่ไม่ต้องการของโมเดลก็ลดลง ขณะที่สติปัญญายังคงอยู่
เอกสารที่เกี่ยวข้อง:
งานวิจัยล่าสุดของ Anthropic และเรื่องอย่าง 'emergent misalignment' ยิ่งทำให้สมมติฐานที่ว่า LLM เป็น "stochastic parrot" มีน้ำหนักมากขึ้น พฤติกรรมประหลาดของ LLM ดูแปลกก็เพราะเรามักมองมันแบบมนุษย์เกินไป LLM สร้างบทสนทนาที่โน้มน้าวใจได้ แต่จริง ๆ แล้วมันไม่มีกลไกสำหรับสร้างความสอดคล้องในตัวเองเลย สุดท้ายมันก็คือเอนจิน autocomplete ที่ซับซ้อนมาก ต่อให้ AGI เกิดขึ้น LLM แบบนี้ก็น่าจะถูกใช้เป็นองค์ประกอบหนึ่งในระบบนั้นมากกว่า มันให้ความรู้สึกว่าขาดโครงสร้างอย่างความสอดคล้องและการตระหนักรู้ตนเอง สงสัยว่าในอนาคตเราอาจใช้โมเดลแบบนี้เป็นแค่ซับซิสเต็มของ AGI แล้วให้การคำนวณจริงไปอยู่กับเครื่องคำนวณที่เชื่อถือได้มากกว่าหรือไม่
เห็นด้วยกับความเห็นที่ว่าโครงสร้างที่จำเป็นต่อความสอดคล้องและการสะท้อนตนเองยังขาดอยู่ ที่น่าสนใจคือถ้าเอา persona vector ที่ค้นพบระหว่างการให้เหตุผลใส่กลับเข้าไปในบริบทอีกครั้ง มันอาจกลายเป็นรูปแบบหนึ่งของการสะท้อนตนเองของ LLM ก็ได้
เป็นการสรุปที่สมดุลดีระหว่างการพูดเกินจริงกับการดูแคลน ทั้งในฝั่ง AGI และ AI slop เทคโนโลยีเหล่านี้ชัดเจนว่าเลียนแบบบางส่วนของจิตใจมนุษย์ได้ แต่ดูเหมือนยังไม่มีสติปัญญาโดยรวมและการประสานงานในระดับนั้น
ตอนทำ model distillation แบบเดิม ฉันเคยคุยกับอดีตเพื่อนร่วมงานเรื่องการฝึกโมเดลขนาดเล็กโดยตัดส่วนที่ไม่จำเป็นออกจากโมเดลใหญ่ เขาแชร์งานนี้มาให้และบอกว่าเป็นงานบุกเบิกในสายนี้: