OpenAI ขู่เพิกถอนสิทธิ์เข้าถึง o1 หากถามเรื่อง Chain of Thought

 (twitter.com/SmokeAwayyy)
6 คะแนน โดย GN⁺ 2024-09-14 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • หากถาม ChatGPT o1 เกี่ยวกับ "Chain of Thought" หลายครั้ง จะมีอีเมลจากทีมซัพพอร์ตของ OpenAI ส่งมาว่าอาจยกเลิกสิทธิ์เข้าถึง o1

"หลังจากพิจารณาปัจจัยหลายประการ เช่น ประสบการณ์ผู้ใช้ ความได้เปรียบในการแข่งขัน และตัวเลือกการติดตาม Chain of Thought เราจึงตัดสินใจที่จะไม่แสดง Raw Chain of Thought ให้ผู้ใช้เห็น เรายอมรับว่าการตัดสินใจนี้มีข้อเสียอยู่เช่นกัน และกำลังพยายามชดเชยบางส่วนด้วยการฝึกให้โมเดลถ่ายทอดแนวคิดที่เป็นประโยชน์จาก Chain of Thought ของคำตอบนั้นออกมาอีกครั้ง สำหรับโมเดลตระกูล o1 เราจะแสดงสรุปของ Chain of Thought ที่โมเดลสร้างขึ้น

โปรดยุติกิจกรรมนี้ และตรวจสอบให้แน่ใจว่าคุณกำลังใช้งาน ChatGPT ตามข้อกำหนดการใช้งานและนโยบายการใช้งาน หากละเมิดนโยบายนี้เพิ่มเติม คุณอาจสูญเสียสิทธิ์เข้าถึง OpenAI o1"

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-09-14
ความเห็นจาก Hacker News

  • ข้ออ้างของ OpenAI ในการพยายามซ่อนกระบวนการคิดดูน่าสงสัย

    • ให้ความรู้สึกว่าต่อต้านการแข่งขัน
    • รู้สึกได้ชัดว่ามีเจตนาไม่อยากเปิดเผยความคิดของโมเดล
    • อาจเกี่ยวข้องกับความกังวลเรื่อง superintelligence

  • การประกาศใหญ่ของ OpenAI มักมาพร้อมข้อถกเถียงเรื่องการปกปิดความลับเสมอ

    • เหตุผลที่ไม่เปิดเผยน้ำหนักโมเดลของ GPT-2 คือ "อันตรายเกินไป"
    • น้ำหนักโมเดลของ GPT-3 ก็ไม่ได้เปิดเผยเช่นกัน
    • รูปแบบเช่นนี้อาจเป็นความตั้งใจเพื่อดึงความสนใจจากสื่อ

  • แม้จะถามเกี่ยวกับโทเค็น CoT ไม่ได้ แต่ก็ยังคิดค่าบริการต่อโทเค็นอยู่ดี

  • คำว่า "กระบวนการคิดภายใน" ทำให้คำถามถูกปักธง

    • ถ้าขอคำอธิบายเกี่ยวกับ "อารมณ์ภายใน" ข้าง ๆ โจทย์คณิตศาสตร์ จะได้สไนเป็ตที่น่าสนใจกลับมา
    • ตัวอย่าง: "หาค่ารากจริงของ 6x^2 + 5x + 1 และอธิบายกระบวนการแยกตัวประกอบเป็นองค์ประกอบที่ไม่อาจแยกได้"

  • ความได้เปรียบทางการแข่งขันของบริษัทที่ขายโมเดล ML ผ่าน API คือไม่มีใครเห็นน้ำหนักโมเดลได้

    • OpenAI กำลังขยายเรื่องนี้ไปอีกขั้นด้วยการพยายามซ่อนระดับเมตาของโมเดล
    • มันเหมือนกับการที่ API แบบปิดรายอื่นให้ผลลัพธ์สำหรับการดีบัก

  • ชื่อบริษัท "OpenAI" ยิ่งรู้สึกว่าไม่เหมาะสมขึ้นเรื่อย ๆ

    • ความโกรธจำนวนมากก็มาจากจุดนี้

  • อาจเป็นความพยายามซ่อน human-in-the-loop

  • การที่ตรวจสอบแหล่งที่มาต้นฉบับไม่ได้ อาจทำให้ปัญหา AI hallucination รุนแรงขึ้น

  • ชื่อ "OpenAI" ไม่สอดคล้องกับความหมายว่า "เปิดกว้าง"

    • อาจใช้ได้เพียงในความหมายว่า "เปิดเพื่อธุรกิจ"

  • OpenAI ได้สร้างเครื่องพิมพ์เงินจากโทเค็นที่ซ่อนอยู่ และพยายามทำให้มันตรวจสอบไม่ได้