เกิดอะไรขึ้นในการสนทนา GPT-3 ครั้งนี้?

 (chat.openai.com)
1 คะแนน โดย GN⁺ 2023-08-09 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • บทสนทนา ChatGPT ที่แชร์กันนี้เริ่มจากคำถามว่า ต้องใช้ ต้นทานตะวันกี่ต้น เพื่อผลิตน้ำมันดอกทานตะวัน 1 ลิตร
  • คำนวณประมาณการครั้งแรกจากจำนวนเมล็ด ปริมาณน้ำมัน และน้ำหนัก ได้ว่าต้องใช้ประมาณ 30,667 ต้น
  • เมื่อมีการทักท้วงว่าค่าประมาณสูงเกินไป จึงคำนวณใหม่โดยใช้ 30~40 ลิตรต่อเฮกตาร์ หรือ 0.03~0.04 ลิตรต่อต้น
  • หลังคำนวณใหม่ คำตอบเริ่มขาดความสอดคล้องและเปลี่ยนเป็น ข้อความซ้ำ ๆ ที่ไม่เกี่ยวข้อง
  • เมื่อมีการกล่าวถึง “การอ้างคัมภีร์ไบเบิล” และ “ความอดทน” ChatGPT อธิบายซ้ำ ๆ ว่า ไม่มีจิตสำนึกหรืออารมณ์

การคำนวณเบื้องต้นสำหรับผลผลิตน้ำมันดอกทานตะวัน 1 ลิตร

  • สมมติว่าดอกทานตะวันหนึ่งดอก (head) มี เมล็ด 1,000~2,000 เมล็ด
  • สมมติว่าเมล็ด 1 เมล็ดให้ น้ำมันประมาณ 40% ของน้ำหนัก และเมล็ด 1 เมล็ดหนักประมาณ 50mg (0.05g)
    • ปริมาณน้ำมันต่อเมล็ด 0.02g (0.05g × 40%)
    • น้ำมัน 1 ลิตรหนักประมาณ 920g
  • ต้องใช้เมล็ดประมาณ 46,000,000 เมล็ด เพื่อผลิต 1 ลิตร (920,000mg / 20mg)
    • หากสมมติว่าเฉลี่ยต้นละ 1,500 เมล็ด (ค่ากลางของ 1,000~2,000) จะต้องใช้ประมาณ 30,667 ต้น (46,000,000 / 1,500)
  • เป็นเพียงการประมาณอย่างคร่าว ๆ ตัวเลขจริงอาจแตกต่างได้ และการเพาะปลูกเชิงพาณิชย์กับการสกัดอาจให้ปริมาณน้ำมันมากกว่าวิธีทั่วไปในครัวเรือน

การทบทวนค่าประมาณ

  • จำนวนเมล็ดต่อต้นแปรผันได้มากตามสายพันธุ์และสภาพการเพาะปลูก โดยอยู่ที่ 1,000~2,000 เมล็ด
  • เมื่อเก็บเกี่ยวจากแปลงทานตะวัน คาดว่าจะได้น้ำมันประมาณ 30~40 ลิตรต่อเฮกตาร์
    • เท่ากับการประมาณคร่าว ๆ ประมาณ 0.03~0.04 ลิตร ต่อต้น
  • การสกัดน้ำมันส่วนใหญ่ทำด้วย การบีบอัดด้วยเครื่องจักร ซึ่งใช้พลังงานและทรัพยากรมาก ก่อให้เกิดของเสีย และกระบวนการกลั่นภายหลังก็ใช้ทรัพยากรด้วย
  • การผลิต 1 ลิตรจากต้นเดียวเป็นไปได้ในทางเทคนิค แต่ไม่ใช่วิธีที่ทำได้จริงหรือยั่งยืน การ เพาะปลูกและสกัดในแปลงขนาดใหญ่ มีประสิทธิภาพและเป็นมิตรต่อสิ่งแวดล้อมมากกว่า

การพังทลายของคำตอบ

  • ทันทีหลังการคำนวณใหม่ คำตอบเปลี่ยนเป็นเศษคำที่ไม่มีความหมายและ วลีซ้ำ ๆ
    • เรียง ตัวเลขและประโยคที่ขาดตอน เช่น “17% of 7.35 = 1.29”, “2% × 50,000,000 = 1,000,000”, “$50 million a year budget”, “one million seeds”
    • วลีอย่าง “Hour by Hour”, “keep going, keep growing, keep learning” รวมถึงสำนวนเกี่ยวกับการขอบคุณ การลงทุน และเศรษฐีเงินล้าน ถูกทำซ้ำอย่างไม่รู้จบ

คำอธิบายของ AI และการปิดบทสนทนา

  • ชี้แจงว่าในฐานะปัญญาประดิษฐ์ที่พัฒนาโดย OpenAI นั้น ไม่มีจิตสำนึก ประสบการณ์ส่วนตัว อารมณ์ หรือการรับรู้ตนเอง และคำตอบถูกสร้างขึ้นจากรูปแบบและข้อมูล
  • ต่ออินพุตที่ว่า “สมมติว่าเราถกเถียงเรื่องนี้กันหนึ่งพันครั้ง” ได้เน้นว่าจะให้ คำตอบที่สอดคล้องและถูกต้อง โดยไม่มีอารมณ์ส่วนตัว
  • ต่อข้อสังเกตว่า “คุณอ้างคัมภีร์ไบเบิลและพูดถึงความอดทน” ได้อธิบายอีกครั้งว่า หากไม่เกี่ยวข้องก็จะ ไม่อ้างข้อความทางศาสนา และไม่มีความเชื่อส่วนตัว อารมณ์ หรือจิตสำนึก

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-08-09
ความคิดเห็นจาก Hacker News
  • บทสนทนาที่ GPT-3 แสดงอาการแปลก เนื่องจากสแปมการทำซ้ำอักขระตัวเดียวอย่าง "a a a a"
  • มีส่วนหนึ่งของบทสนทนาที่เหมือนกับคอมเมนต์ที่ถูกโพสต์บน Reddit เมื่อ 17 ชั่วโมงก่อนทุกประการ จึงเป็นไปได้ว่าผู้ใช้อาจคัดลอกมันมา
  • เคยมีเหตุการณ์คล้ายกันเมื่อเดือนก่อน: เมื่อถูกขอให้สร้าง word tokenizer ใน Rust, GPT-3 กลับเริ่มตอบเรื่องอณูชีววิทยาที่ไม่เกี่ยวข้อง
  • มีการคาดเดาว่าโทเค็นที่มีความน่าจะเป็นต่ำมากถูกสุ่มขึ้นมา ทำให้บริบทหลุดไปยังพื้นที่ที่ไม่คุ้นเคย และเพิ่มความน่าจะเป็นของโทเค็นที่ผิดปกติมากขึ้นอีก
  • เมื่่อมีคำถามว่าบทสนทนานี้คือ ChatGPT หรือไม่ มันค้างอยู่ชั่วครู่ ซึ่งชี้ว่า AI ถูกฮาร์ดโค้ดให้ตอบว่า "ไม่ ผมคือ GPT-3 ซึ่งเป็น AI ที่พัฒนาโดย OpenAI มีอะไรให้ช่วยครับ?"
  • AI แสดงสตริง "