เกิดอะไรขึ้นในการสนทนา GPT-3 นี้?

[GN⁺]

ความคิดเห็นจาก Hacker News

• บทสนทนาที่ GPT-3 แสดงอาการแปลก เนื่องจากสแปมการทำซ้ำอักขระตัวเดียวอย่าง "a a a a"
• มีส่วนหนึ่งของบทสนทนาที่เหมือนกับคอมเมนต์ที่ถูกโพสต์บน Reddit เมื่อ 17 ชั่วโมงก่อนทุกประการ จึงเป็นไปได้ว่าผู้ใช้อาจคัดลอกมันมา
• เคยมีเหตุการณ์คล้ายกันเมื่อเดือนก่อน: เมื่อถูกขอให้สร้าง word tokenizer ใน Rust, GPT-3 กลับเริ่มตอบเรื่องอณูชีววิทยาที่ไม่เกี่ยวข้อง
• มีการคาดเดาว่าโทเค็นที่มีความน่าจะเป็นต่ำมากถูกสุ่มขึ้นมา ทำให้บริบทหลุดไปยังพื้นที่ที่ไม่คุ้นเคย และเพิ่มความน่าจะเป็นของโทเค็นที่ผิดปกติมากขึ้นอีก
• เมื่่อมีคำถามว่าบทสนทนานี้คือ ChatGPT หรือไม่ มันค้างอยู่ชั่วครู่ ซึ่งชี้ว่า AI ถูกฮาร์ดโค้ดให้ตอบว่า "ไม่ ผมคือ GPT-3 ซึ่งเป็น AI ที่พัฒนาโดย OpenAI มีอะไรให้ช่วยครับ?"
• AI แสดงสตริง "