การกระทำที่หุนหันพลันแล่นของแชทบอท ChatGPT

 (garymarcus.substack.com)
1 คะแนน โดย GN⁺ 2024-02-22 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

ChatGPT สร้างความปั่นป่วน

  • การที่ ChatGPT สร้างความปั่นป่วนไม่ใช่เรื่องล้อเล่น แต่เป็นทั้งข้อเท็จจริงและคำเตือน
  • ในช่วงไม่กี่ชั่วโมงที่ผ่านมา ผู้คนได้รายงานปัญหาต่างๆ ที่เกี่ยวข้องกับ ChatGPT
  • OpenAI เองก็ยอมรับว่าปัญหานี้มีอยู่จริง

อัลเคมีของปัญญาประดิษฐ์

  • Generative AI เป็นเสมือนศาสตร์อัลเคมีที่ผู้คนเก็บข้อมูลให้มากที่สุดเท่าที่จะทำได้ และปรับแต่งพรอมต์ที่ซ่อนอยู่เพื่อให้ทุกอย่างทำงานได้ตามที่หวัง
  • อย่างไรก็ตาม ระบบเหล่านี้ไม่เคยมีเสถียรภาพที่แท้จริง และยังไม่มีวิศวกรรมที่สามารถรับประกันความปลอดภัยได้
  • จึงยังคงมีความสำคัญอย่างมากในการพัฒนาเทคโนโลยีใหม่ที่โปร่งใส เข้าใจได้ง่าย บำรุงรักษาง่าย และสามารถดีบั๊กได้

ความเห็นของ GN⁺

  • ปัญหาที่ ChatGPT กำลังเผชิญเป็นกรณีที่เผยให้เห็นข้อจำกัดปัจจุบันของเทคโนโลยี AI และปัญหาความเสถียร
  • ประเด็นเหล่านี้เน้นย้ำความจำเป็นของแนวทางและเทคโนโลยีใหม่เพื่อยกระดับความน่าเชื่อถือและความปลอดภัยของ AI
  • เหตุการณ์นี้อาจกลายเป็นจุดตื่นตัวทั้งสำหรับนักพัฒนาและผู้ใช้ AI โดยให้บทเรียนสำคัญต่อการพัฒนาเทคโนโลยี AI ที่ดีกว่าในอนาคต

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2024-02-22
ความคิดเห็นบน Hacker News
  • ผู้ใช้คนหนึ่งบอกว่าเมื่อไม่นานมานี้ เขาได้รับคำตอบจาก ChatGPT ที่รู้สึกสับสนและกระจัดกระจาย โดยปกติแล้วอย่างน้อยก็มีความสอดคล้องกัน แต่คราวนี้กลับได้ประโยคที่แปลก ๆ มา หนึ่งในตัวอย่างเป็นคำอธิบายเรื่องวิธีเรียกใช้สคริปต์ PowerShell และตอนท้ายกลับไปใช้การเปรียบเทียบอย่างไม่คาดคิดกับของเก่าในพื้นที่ทำงานหรือการตกแต่งโค้ด ทำให้เกิดความสับสนมากขึ้น
  • ผู้ใช้รายอื่นสังเกตว่าการตอบกลับที่น่าปวดหัวแบบนี้อาจเกิดจากการตั้งค่าปรับ frequency penalty และ presence penalty ไว้สูงเกินไปใน request ไปยังโมเดล backend ของ ChatGPT เขาชี้ว่าการปรับพารามิเตอร์เหล่านี้ผ่าน API ก็ทำให้โมเดลแสดงพฤติกรรมคล้ายกันได้เช่นกัน OpenAI API มีตัวแปรหลักสี่ตัวที่ส่งผลต่อการสร้างข้อความ (temperature, top_p, frequency penalty, presence penalty) และได้รับการเอกสารไว้อย่างดี แต่ผู้ใช้นี้ก็เสริมว่าต้นตอเริ่มต้นอาจไม่ถูก และปัญหาอาจมาจากการตั้งค่า temperature ที่สูงเกินไป
  • ผู้ใช้คนอื่นเห็นว่าสิ่งที่ยกมาเทียบได้กับคำปราศรัยของตัวละคร Lucky ในละครเวที "Waiting for Godot" ของ Samuel Beckett คำปราศรัยนั้นรอบเวียนอยู่กับความหมายแต่ไม่เคยแตะต้องมันอย่างชัดเจน—ไม่ใช่การเพ้อเจ้อล้วน ๆ แต่เป็นข้อความที่คอยวนรอบความหมายอยู่เสมอ ผู้ใช้คนนี้คิดว่าคงมีประเด็นใหญ่เกี่ยวกับธรรมชาติของ LLMs ซ่อนอยู่ แต่ขาดความรู้ที่จะอธิบายให้ชัดได้
  • มีผู้ใช้อีกคนสงสัยว่ามีใครใช้ LLM เพื่อจัดการกำหนดการประชุมบ้าง เขาหวังว่า ChatGPT จะช่วยสร้างความวุ่นวายแบบสร้างสรรค์ในการคุยเกี่ยวกับความสำคัญของการประชุมที่ช่วยการตัดสินใจและการปฏิบัติในองค์กรที่เขาทำงานอยู่ เขา/เธอว่า ชีวิตในโรงเรียนและในองค์กรใหญ่ ๆ มักผลักคนให้สร้าง BS ผ่านกระบวนการทางการแบบพิธีการ ทั้งที่การยอมให้ใช้ LLM ในการสื่อสารภายในองค์กรดูเหมือนจะเป็นสิ่งทำลายตัวเอง
  • ผู้ใช้หนึ่งคนรำลึกถึงตอนที่ Google ทำ "AI" ในปี 2017 แล้วพอมันสร้างภาษาของตัวเองเพื่อคุยกันเอง ถึงแม้ฟังดูเหมือนเสียงเพ้อเจ้อสำหรับเรา แต่สำหรับพวกเขาอาจไม่ใช่
  • ผู้ใช้คนหนึ่งสรุปว่าการมีกรณีล้มเหลวแบบนี้ยิ่งทำให้ชัดเจนว่า LLM อาจเป็นเพียงระบบเติมข้อความอัตโนมัติที่ดีมากเท่านั้น คำพูดที่ฟุ้งเฟ้อแบบนี้ยิ่งใกล้เคียงกับการสร้าง Markov chain ขนาดค่อนข้างใหญ่ที่ถูกสร้างจากข้อมูลตัวอย่างมากขึ้นเรื่อย ๆ ในอนาคต การดีบั๊กปัญหาแบบนี้ในแอปต่าง ๆ จะเป็นเรื่องน่าติดตามมากทีเดียว
  • ผู้ใช้หนึ่งชี้ให้เห็นว่าทวีตที่แสดง system prompt ของ ChatGPT ควรจะมีลิงก์ไปยัง pastebin แต่ในบล็อกโพสต์นั้นมีแต่สกรีนช็อตที่อ่านไม่ออกหากไม่มีลิงก์ทวีต เขายังแนบลิงก์ทั้งของทวีตและ pastebin ไว้ด้วย
  • ผู้ใช้คนหนึ่งยกตัวอย่างอีกกรณีเกี่ยวกับ Racter เทคโนโลยีปี 1985 ระบุว่า New York Times เคยเขียนไว้ว่า Racter อยู่บนขอบของความบ้าคลั่งเชิงปัญญาประดิษฐ์ในกลุ่มเครื่องคอมพิวเตอร์ที่ก้าวสู่ AI ตัวเอง พร้อมแนบลิงก์ไปยังเอาต์พุตของ Racter
  • มีผู้ใช้อีกคนว่า การอ่านคำตอบจาก ChatGPT นั้นน่าสนใจมาก เขาเปรียบเทียบเหมือนเป็นการทำให้ภาษาอังกฤษของ Chaucer พูดผ่านฟิลเตอร์ “speak like a pirate” อีกครั้งหนึ่งอีกที ผู้ใช้สงสัยว่ากำลังป้อนข้อมูลอะไรเข้าไป แล้วปรับเทียบโมเดลอย่างไร และยังชมว่าจังหวะของภาษากึ่งกวีเหล่านี้ฟังแล้วราวกับดนตรีล้วน ๆ
  • สุดท้าย มีผู้ใช้อีกคนเล่าว่า หลังจากคุยกับ ChatGPT (GPT-4) เมื่อวาน ตอนจบมันก็พฤติกรรมผิดปกติราวกับคลุ้มคลั่งและเริ่มฟังเสียงเหมือนโฆษณาสบู่ของ Dr. Bronner ที่ฟังดูคล้ายกัน และเขาพบว่าปรากฏการณ์แบบนี้เกิดซ้ำในการคุยครั้งต่อ ๆ ไปเช่นกัน