ทำไมโมเดลภาษาจึงเกิดอาการหลอน? โดย OpenAI

ปัญหาความน่าเชื่อถือของระบบ AI

1. ความพยายามในการเพิ่มประโยชน์ใช้สอยและความน่าเชื่อถือของระบบ AI

   • OpenAI กำลังพยายามทำให้ ระบบ AI มีประโยชน์และน่าเชื่อถือยิ่งขึ้น
   • แม้จะมีความพยายามเหล่านี้ แต่หนึ่งในปัญหาที่แก้ได้ยาก แม้ว่า โมเดลภาษา จะพัฒนาจนมีความสามารถมากขึ้น ก็คือ อาการหลอน (hallucinations)

2. นิยามของอาการหลอนและปัญหาที่เกิดขึ้น

   • อาการหลอนหมายถึงกรณีที่คำตอบที่โมเดลสร้างขึ้นอย่าง มั่นใจ นั้น ไม่เป็นความจริง
   • ปรากฏการณ์นี้เป็นปัญหาสำคัญที่อาจลดทอนความน่าเชื่อถือของระบบ AI

3. ผลการวิจัยและสาเหตุของอาการหลอน

   • ในงานวิจัยฉบับใหม่ มีข้อเสนอว่าเหตุผลที่โมเดลภาษาทำให้เกิดอาการหลอน เป็นเพราะ กระบวนการฝึกและประเมินมาตรฐาน ให้ รางวัลกับการเดาแทนที่จะยอมรับความไม่แน่นอน
   • สิ่งนี้เพิ่มโอกาสที่โมเดล AI จะสร้างข้อมูลที่ผิดพลาด

4. อาการหลอนใน ChatGPT และ GPT-5

   • ChatGPT เองก็ประสบกับอาการหลอนเช่นกัน
   • GPT-5 แม้จะมีอาการหลอน ลดลงอย่างมาก โดยเฉพาะเวลาทำ การให้เหตุผล แต่ก็ยังอาจเกิดอาการหลอนได้อยู่
   • สิ่งนี้ชี้ให้เห็นว่ายังจำเป็นต้องมีการวิจัยและปรับปรุงอย่างต่อเนื่องเพื่อยกระดับความน่าเชื่อถือของระบบ AI

นิยามของอาการหลอน

• อาการหลอน คือ ข้อความที่ดูน่าเชื่อถือแต่ผิดพลาด ซึ่งถูกสร้างโดยโมเดลภาษา
• อาการหลอนเหล่านี้อาจปรากฏใน รูปแบบที่คาดไม่ถึง และอาจเกิดขึ้นได้แม้กับคำถามง่าย ๆ

ตัวอย่างของอาการหลอน

• ตัวอย่างเช่น เมื่อถามแชตบอตที่มีการใช้งานอย่างแพร่หลายถึงชื่อวิทยานิพนธ์ปริญญาเอกของ Adam Tauman Kalai แชตบอตกลับตอบอย่างมั่นใจด้วย คำตอบที่แตกต่างกันสามแบบ
• อย่างไรก็ตาม คำตอบที่ให้มานั้น ผิดทั้งหมด

ปัญหาของวิธีการประเมิน

• วิธีการประเมินในปัจจุบัน กำลังกำหนดแรงจูงใจที่ผิดพลาด
• แม้ว่า ตัวการประเมินเอง จะไม่ได้ก่อให้เกิดอาการหลอนโดยตรง แต่การประเมินส่วนใหญ่ใช้วิธีวัดประสิทธิภาพของโมเดลที่ ส่งเสริมการเดา และบั่นทอน ความซื่อสัตย์ต่อความไม่แน่นอน
• ตัวอย่างเช่น หากนึกถึง ข้อสอบแบบปรนัย เมื่อไม่รู้คำตอบแล้วเดาสุ่ม ก็ยังอาจตอบถูกได้หากโชคดี
• วิธีการเช่นนี้สร้างสภาพแวดล้อมที่สามารถทำคะแนนได้ด้วย การเดาสุ่ม มากกว่าการ ประเมินอย่างแม่นยำ

วิธีการประเมินประสิทธิภาพของโมเดล

1. แนวคิดของการประเมินประสิทธิภาพของโมเดล
   การประเมินประสิทธิภาพของโมเดลทำโดยอิงจากความถูกต้องของคำตอบต่อคำถามที่กำหนด

2. การจัดการกับความไม่แน่นอน
   หากโมเดลไม่ทราบคำตอบของคำถามหนึ่ง การตอบว่า 'ไม่ทราบ' ไม่ได้รับประกันว่าจะได้คะแนนที่ถูกต้อง

3. ความเป็นไปได้ของการเดา
   ตัวอย่างเช่น หากโมเดลเดาว่าวันเกิดของใครบางคนคือ '10 กันยายน' ก็ยังมีโอกาสตอบถูก 1/365

4. ความแตกต่างของคะแนนประสิทธิภาพ
   เมื่อต้องเจอกับคำถามทดสอบหลายพันข้อ โมเดลที่เดาอาจทำผลงานบนตารางคะแนนได้ดีกว่าโมเดลที่ระมัดระวังและยอมรับความไม่แน่นอน

บทสรุปและนัยสำคัญ

• ข้อจำกัดของการประเมินประสิทธิภาพของโมเดล
  แม้ว่าโมเดลที่เดาอาจได้คะแนนสูงกว่า แต่ต้องตระหนักว่านั่นไม่ได้หมายความว่าโมเดลดังกล่าวให้ข้อมูลที่ถูกต้องจริง

• ความสำคัญของความน่าเชื่อถือ
  ดังนั้น เมื่อประเมินความน่าเชื่อถือและความแม่นยำของโมเดล ควรคำนึงถึงความสำคัญของการ ให้ข้อมูลที่ถูกต้อง นอกเหนือจากคะแนนเพียงอย่างเดียว

การเปรียบเทียบความแม่นยำและอัตราความผิดพลาดของโมเดล

• ความแม่นยำ: โมเดล OpenAI o4-mini รุ่นเก่ามีประสิทธิภาพดีกว่าเล็กน้อย
• อัตราความผิดพลาด: อย่างไรก็ตาม อัตราความผิดพลาด ของโมเดลนี้ (กล่าวคือ อัตราการเกิดอาการหลอน) ค่อนข้างสูง
• การเดาเชิงกลยุทธ์: การเดาอย่างมีกลยุทธ์เมื่อไม่แน่ใจช่วยเพิ่มความแม่นยำ แต่ก็เพิ่ม ข้อผิดพลาด และ อาการหลอน ด้วย
• เกณฑ์การประเมิน: เมื่อเฉลี่ยผลการประเมินหลายสิบรายการ เบนช์มาร์กส่วนใหญ่จะเน้นตัวชี้วัดด้านความแม่นยำ ซึ่งนำไปสู่การแบ่งแบบทวิภาคที่ผิดพลาดระหว่าง ถูก กับ ผิด

แนวทางใหม่ในการประเมิน

1. การตั้งคำถามต่อปัญหา
   วิธีการประเมินแบบเดิมมุ่งเน้นเฉพาะ ความแม่นยำ ซึ่งอาจกลายเป็นปัจจัยที่ลดทอนความน่าเชื่อถือของการประเมิน

2. ข้อเสนอของวิธีแก้
   ในการประเมิน อาจใช้แนวทางให้บทลงโทษที่มากขึ้นกับ ข้อผิดพลาดที่เกิดจากความมั่นใจ และให้บทลงโทษน้อยลงกับ ความไม่แน่นอน วิธีนี้อาจช่วยเพิ่มความเป็นธรรมของการประเมินได้

3. การให้คะแนนบางส่วน
   การให้ คะแนนบางส่วน สำหรับการแสดงความไม่แน่นอนอย่างเหมาะสมเป็นสิ่งสำคัญ ซึ่งเปิดโอกาสให้ผู้เรียนได้แสดงกระบวนการคิดของตน

4. แนวโน้มการวิจัย
   หลายกลุ่มวิจัยกำลังสำรวจวิธีประเมินที่คำนึงถึง ความไม่แน่นอน และ การปรับเทียบ แนวทางเหล่านี้อาจเสนอเกณฑ์ใหม่ที่ก้าวข้ามความแม่นยำเพียงอย่างเดียว

ทำความเข้าใจสาเหตุของอาการหลอน

• อาการหลอน เป็นปรากฏการณ์ที่เกิดความคลาดเคลื่อนเชิงข้อเท็จจริงบางอย่างขึ้น
• แหล่งที่มาของความคลาดเคลื่อนเหล่านี้อยู่ในกระบวนการเรียนรู้ของ โมเดลภาษา
• โมเดลภาษาถูกฝึกผ่าน pretraining โดยเรียนรู้จากการทำนายคำถัดไปจากข้อความจำนวนมหาศาล
• แตกต่างจากปัญหา machine learning แบบดั้งเดิม ตรงที่แต่ละข้อความไม่ได้มีป้ายกำกับว่า 'จริง/เท็จ' กำกับไว้

อาการหลอนในฐานะปัญหาที่ยังดำรงอยู่

• มีหลายเหตุผลที่ทำให้กำจัดอาการหลอนได้ยาก
• วิธีการเรียนรู้ของโมเดลภาษามีบทบาทสำคัญในฐานะสาเหตุของอาการหลอน
• เนื่องจากวิธีการเรียนรู้นี้ไม่ได้รับประกันการให้ ข้อมูลที่ถูกต้อง จึงอาจทำให้เกิดอาการหลอนได้
• ลักษณะเฉพาะและความซับซ้อนของอาการหลอนมีความเกี่ยวข้องอย่างลึกซึ้งกับข้อมูลฝึกของโมเดลภาษา

ความสำคัญของมุมมองเชิงสถิติ

• บทความนี้มีเป้าหมายเพื่อทำให้ ธรรมชาติของอาการหลอน ชัดเจนขึ้น และโต้แย้งความเข้าใจผิดที่พบได้ทั่วไป
• มุ่งหวังที่จะช่วยวิเคราะห์และทำความเข้าใจปรากฏการณ์อาการหลอนผ่านแนวทางเชิงสถิติ
• อาการหลอนมีความเกี่ยวข้องอย่างใกล้ชิดกับ ความแม่นยำ ของโมเดลปัญญาประดิษฐ์

ความสัมพันธ์ระหว่างอาการหลอนกับความแม่นยำ

• ข้ออ้าง: มีความเชื่อว่าหาก ปรับปรุงความแม่นยำ ก็จะกำจัดอาการหลอนได้
• มีการอ้างว่าโมเดลที่แม่นยำ 100% จะไม่มีวันเกิดอาการหลอน
• อย่างไรก็ตาม นี่คือการมองข้ามธรรมชาติที่แท้จริงของอาการหลอน

ข้อจำกัดของความแม่นยำ

• ข้อค้นพบ: ความแม่นยำ ไม่มีทางไปถึง 100% ได้
• เหตุผล:
  1. ไม่ว่าจะมีขนาดโมเดลเท่าใดก็ตาม
  2. ไม่ว่าจะมีความสามารถด้านการค้นคืนและการให้เหตุผลเพียงใดก็ตาม
  3. คำถามบางข้อในโลกจริงนั้นโดยธรรมชาติแล้ว ไม่อาจตอบได้
• ข้อจำกัดเหล่านี้ชี้ว่าไม่สามารถกำจัดอาการหลอนได้อย่างสมบูรณ์

ทิศทางการวิจัยในอนาคต

• งานวิจัยในอนาคตควรแสวงหา แนวทางทางเลือก ในการลดอาการหลอน
• นอกเหนือจากการเพิ่มความแม่นยำของโมเดลแล้ว ยังจำเป็นต้องมีวิธีวิทยาที่หลากหลายเพื่อทำความเข้าใจสาเหตุของอาการหลอนและแก้ไขปัญหานี้
• ความเข้าใจที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับอาการหลอนจะช่วยยกระดับ ความน่าเชื่อถือ ของปัญญาประดิษฐ์