• แก้ปัญหาความซับซ้อนของโมเดลโปรดักชัน: ระบบแนะนำเดิมของ Netflix พึ่งพาฟีเจอร์ที่ทำด้วยมือหลายพันรายการและสถาปัตยกรรมที่ซับซ้อน ทำให้ต้นทุนในการเพิ่มยูสเคสใหม่สูง จึงพัฒนา GenRec ที่ใช้โมเดลภาษาขนาดใหญ่ (LLM) ขึ้นมาเพื่อทดแทนระบบนี้
• ไปป์ไลน์หลักของ GenRec: GenRec แปลงประวัติผู้ใช้ เมทาดาทาของไอเท็ม และบริบทให้เป็นพรอมป์ภาษาธรรมชาติ (Verbalization) และผสาน foundation LLM ที่ fine-tune ด้วยข้อมูลเฉพาะของ Netflix เข้ากับหัวคำนวณคะแนนที่รับรู้แค็ตตาล็อก (Scoring Head) เพื่อสร้างอันดับคำแนะนำ
• เฟรมเวิร์กการเรียนรู้ 2 ระยะ: ใน Phase 1 จะปรับ LLM แบบโอเพนซอร์สให้เข้ากับคอร์ปัสของ Netflix เพื่อเรียนรู้คอนเทนต์และรูปแบบพฤติกรรม ส่วน Phase 2 จะทำ post-training โดยอิงข้อมูลการจัดอันดับและเป้าหมายรางวัล
• การนำ context engineering มาใช้: เพื่อแก้ข้อจำกัดด้านงบประมาณโทเค็น จึงใช้ context engineering ที่คงปฏิสัมพันธ์ที่มีสัญญาณสูงไว้ ตัดอีเวนต์ที่มีสัญญาณต่ำออก หรือบีบอัดพฤติกรรมที่เกิดซ้ำ ทำให้ลดโทเค็นและต้นทุนได้มากโดยไม่ทำให้คุณภาพลดลง
• ฟังก์ชันวัตถุประสงค์การจัดอันดับแบบถ่วงน้ำหนักด้วยรางวัล: ใช้ฟังก์ชัน loss แบบถ่วงน้ำหนักด้วยรางวัลที่สะท้อนพร็อกซีของความพึงพอใจระยะยาวของสมาชิกและเป้าหมายทางธุรกิจ (การปรับสมดุลใหม่ตามประเภทคอนเทนต์และระยะการเปิดตัว) เพื่อเพิ่มประสิทธิภาพได้เกินกว่าการคลิกอย่างเดียว
• การอนุมานแบบ prefill-only บน vLLM: ในสแตกให้บริการ LLM ภายในที่ใช้ vLLM รันในโหมด prefill-only แทนการถอดรหัสแบบ autoregressive เพื่อคำนวณคะแนนของผู้สมัครทั้งหมดด้วย forward pass เดียว และเพิ่มประสิทธิภาพต้นทุนการให้บริการ
• ผลลัพธ์จากการทดสอบ A/B ออนไลน์: ในการทดสอบ A/B ขนาดใหญ่เป็นเวลา 4 สัปดาห์กับทราฟฟิกราว 10% GenRec ใช้ข้อมูล labeled ของ Phase-2 และสัญญาณอินพุตน้อยกว่าโมเดลจัดอันดับโปรดักชันเดิมอย่างมาก แต่ยังสร้างการปรับปรุงที่มีนัยสำคัญทางสถิติทั้งในตัวชี้วัดออนไลน์ระยะสั้นและระยะยาว
ยังไม่มีความคิดเห็น