System Prompt ของ Claude: แชตบอตเป็นมากกว่าแค่โมเดล

• System prompt คือการตั้งค่าพื้นฐานที่บอกว่า LLM ควรทำงานอย่างไร โดยรวมถึงโทนภาษา วิธีใช้เครื่องมือ และการตั้งค่าความรู้ภายนอก
• พรอมป์ต์ของ Claude มีขนาด 16,739 คำ, 110KB ซึ่งมากกว่าพรอมป์ต์ o4-mini ของ ChatGPT (2,218 คำ, 15.1KB) ถึงประมาณ มากกว่า 7 เท่า
• ส่วนที่ใหญ่ที่สุดคือ คำจำกัดความของเครื่องมือ ซึ่งประกอบด้วยข้อมูลที่ดึงมาจากเซิร์ฟเวอร์ MCP
  • ตัวอย่าง: เครื่องมือ web_search ต้องใช้พารามิเตอร์เพียงตัวเดียวคือ "query" แต่เครื่องมือค้นหา Google Drive มีความซับซ้อนถึงขั้นมี คำอธิบายยาว 1,700 คำ
• นอกจากคำจำกัดความของเครื่องมือแล้ว ยังมีแนวทางการใช้งานเกี่ยวกับ การอ้างอิง (Citation), อาร์ติแฟกต์ (Artifacts), การค้นหา (Search), และข้อควรระวังเกี่ยวกับการผสานรวมกับ Google
  • ตัวอย่าง: มีคำสั่งย้ำซ้ำ ๆ ว่าไม่ให้ใช้เครื่องมือค้นหากับข้อมูลที่รู้อยู่แล้ว
• ยังมีคำสั่งแบบ ฮอตฟิกซ์ หลายอย่างเพื่อชดเชยจุดอ่อนของ LLM เช่น การรับมือกับปริศนา การป้องกันความสับสนของข้อมูล และการปรับปรุงการใช้ถ้อยคำเชิงกวี
• ทำให้น่าสงสัยว่า Anthropic ใช้ ซอฟต์แวร์อะไรในการจัดการเวอร์ชัน ของพรอมป์ต์ที่ซับซ้อนนี้
  • เมื่อดูจากฮอตฟิกซ์จำนวนมากที่กระจายอยู่ จึงไม่ชัดเจนว่าเพิ่มเข้าไปแบบเรียลไทม์ หรือ นำไปใช้หลังผ่านการประเมินแล้ว
  • และยังน่าสงสัยด้วยว่าเมื่อไรพวกเขาจะตัดสินใจทิ้งทั้งหมดนี้แล้ว รีเซ็ตเป็นพรอมป์ต์ใหม่
• System prompt ขนาดมหึมาแบบนี้แสดงให้เห็นว่าแชตบอตไม่ได้เป็นเพียงตัวโมเดลล้วน ๆ แต่เป็น ระบบซับซ้อนที่สะสมทั้งการออกแบบ เครื่องมือ และฟีดแบ็ก
• System prompt ของ Claude ที่หลุดออกมา
• System prompt ของ Claude ใช้โทเค็นมากกว่า 24k เมื่อรวมเครื่องมือ

[xguru]

Anthropic เปิดเผย "system prompt" ที่ขับเคลื่อน Claude

system prompt ที่เปิดเผยโดยตรงมีขนาดเล็ก ดูเหมือนว่าส่วนที่เกี่ยวกับเครื่องมือจะถูกตัดออกไป