การทบทวนปัญหาล่าสุด 3 ประการของ Claude

สรุปสามประเด็นที่เกิดขึ้นล่าสุด (สาเหตุและแนวทางแก้ไข)

1. ข้อผิดพลาดในการกำหนดเส้นทางหน้าต่างคอนเท็กซ์ (Context Window Routing Error)

• สาเหตุ: คำขอบางส่วนสำหรับโมเดล Sonnet 4 ถูกกำหนดเส้นทางผิดไปยังเซิร์ฟเวอร์ที่ตั้งค่าไว้สำหรับหน้าต่างคอนเท็กซ์ขนาดใหญ่กว่า 1M โทเค็น การเปลี่ยนแปลงการทำโหลดบาลานซ์เมื่อวันที่ 29 สิงหาคมทำให้ปัญหารุนแรงขึ้น
• แนวทางแก้ไข: ได้แก้ไขตรรกะการกำหนดเส้นทางเพื่อให้คำขอถูกส่งไปยังพูลเซิร์ฟเวอร์ที่ถูกต้อง และนำไปใช้งานในเดือนกันยายน

2. ความเสียหายของเอาต์พุต (Output Corruption)

• สาเหตุ: การตั้งค่าที่ผิดพลาดของเซิร์ฟเวอร์ TPU สำหรับ Claude API ทำให้เกิดข้อผิดพลาดระหว่างการสร้างโทเค็น ส่งผลให้มีอักขระที่ไม่คาดคิดปรากฏในคำตอบ และกระทบต่อโมเดล Claude หลายรุ่น
• แนวทางแก้ไข: ระบุการเปลี่ยนแปลงที่ตั้งค่าผิดและย้อนกลับการเปลี่ยนแปลงนั้นเมื่อวันที่ 2 กันยายน จึงแก้ปัญหาได้

3. ข้อผิดพลาดจากการคอมไพล์ของ "approximate top-k" ("approximate top-k" miscompilation)

• สาเหตุ: การเปลี่ยนแปลงโค้ดเพื่อปรับปรุงการเลือกโทเค็นได้กระตุ้นบั๊กแฝงที่อาจมีอยู่ในคอมไพเลอร์ XLA:TPU ส่งผลกระทบต่อ Claude Haiku 3.5 และโมเดลอื่น ๆ
• แนวทางแก้ไข: ย้อนกลับการเปลี่ยนแปลงดังกล่าวและทำงานร่วมกับทีม XLA:TPU เพื่อแก้ไขบั๊กของคอมไพเลอร์ นอกจากนี้ยังเปลี่ยนไปใช้การทำงานแบบ "exact top-k" สำหรับการเลือกโทเค็น