ผู้พยากรณ์แห่งยุคใหม่หรือเครื่องพ่นเรื่องเหลวไหล - วิธีรุ่งเรืองในโลกของ ChatGPT

 (thebullshitmachines.com)
8 คะแนน โดย GN⁺ 2025-02-10 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • เราคาดหวังว่าระบบคอมพิวเตอร์อัจฉริยะยิ่งยวดจะนำมาซึ่งยุคแห่งนวัตกรรมและความรุ่งเรือง
  • หลังการมาถึงของ ChatGPT บางคนเรียกมันว่าเป็นผู้พยากรณ์แห่งยุคใหม่ ขณะที่อีกบางคนประเมินว่ามันเป็นเครื่องพ่นเรื่องเหลวไหล
  • ผู้เชี่ยวชาญด้านเทคโนโลยีและผู้เกี่ยวข้องกับงานประชาสัมพันธ์อ้างว่า LLM จะปฏิวัติวิธีการ ทำงาน เรียน เล่น สื่อสาร สร้างสรรค์ และเชื่อมต่อ ของเรา
  • AI จะส่งผลต่อ แทบทุกแง่มุมของชีวิตประจำวัน
  • มันทำให้ผู้คนสามารถ สนทนากับคอมพิวเตอร์ด้วยภาษาทั่วไป ได้ จึงช่วยยกระดับการเข้าถึงการประมวลผลอย่างมาก
  • อย่างไรก็ตาม แม้ระบบ AI จะมีบทบาทที่เป็นประโยชน์ แต่ก็มี ความเสี่ยงที่สภาพแวดล้อมด้านข้อมูลจะอิ่มตัวไปด้วยเรื่องเหลวไหลมหาศาล เช่นกัน

"เทคโนโลยีนี้จะเป็นเทคโนโลยีที่พลิกโลกมากที่สุดที่มนุษยชาติเคยสร้างขึ้น และอาจเทียบได้กับการประดิษฐ์แท่นพิมพ์ ไฟฟ้า และอินเทอร์เน็ต"
— Sam Altman, CEO ของ OpenAI

  • ไม่ว่าจะชอบหรือไม่ก็ตาม LLM ได้เข้ามาตั้งหลักอยู่ในชีวิตของเราแล้ว
  • เรากำลังอ่านข้อความที่ LLM สร้างขึ้นบนโลกออนไลน์ และผู้คนจำนวนมากก็กำลังโต้ตอบกับแชตบอต LLM
  • บางคนยังใช้ LLM เพื่อสร้างคอนเทนต์ด้วยตนเองอีกด้วย

วิธีเอาตัวรอดในยุค LLM

  • จะมีบทเรียนสั้น ๆ ความยาว 5–10 นาทีเพื่ออธิบายว่า LLM คืออะไร และทำงานอย่างไร
  • คุณจะได้เรียนรู้วิธีแยกแยะระหว่างกรณีที่ ช่วยประหยัดเวลาและแรงได้ กับกรณีที่ มีโอกาสผิดพลาดสูง
  • ท่ามกลางการตลาดที่เกินจริง การฝึกแยกแยะระหว่าง ข้อมูลที่มีประโยชน์จริง กับ คำกล่าวอ้างที่เกินจริง เป็นสิ่งสำคัญ

สารบัญบทเรียน

  • บทเรียน 1: Autocomplete แบบเร่งสุดขีด (Autocomplete in Overdrive)
  • บทเรียน 2: ธรรมชาติของเรื่องเหลวไหล (The Nature of Bullshit)
  • บทเรียน 3: การทดสอบทัวริงและเบนช์มาร์กเรื่องเหลวไหล (Turing Tests and Bullshit Benchmarks)
  • บทเรียน 4: คอมพิวเตอร์ที่คุณคุยด้วยได้ (Computers You Can Talk To)
  • บทเรียน 5: เข้าใจยาก และแก้ให้ดียิ่งยากกว่า (Hard to Understand, Harder to Fix)
  • บทเรียน 6: ไม่ พวกเขาไม่ได้ทำแบบนั้น! (No, They're Not Doing That!)
  • บทเรียน 7: จากการโคลนเสียงสู่ Shrimp Jesus (From Voice Cloning to Shrimp Jesus)
  • บทเรียน 8: เห็ดพิษกับพาสปอร์ตน้องหมา (Poisonous Mushrooms and Doggie Passports)
  • บทเรียน 9: ลิงก์สีน้ำเงินนั้นสำคัญ (Blue Links Matter)
  • บทเรียน 10: ศิลปะแห่งการเขียนของมนุษย์ (The Human Art of Writing)
  • บทเรียน 11: พลิกโฉมการศึกษา? (Transforming Education?)
  • บทเรียน 12: นักวิทยาศาสตร์ AI (The AI Scientist)
  • บทเรียน 13: เครื่องพ่นเรื่องเหลวไหลสำหรับงานเหลวไหล (Bullshit Machines for Bullshit Work)
  • บทเรียน 14: ความแท้จริง (Authenticity)
  • บทเรียน 15: ปัญญาประดิษฐ์และความโง่เขลาของมนุษย์ (Artificial Intelligence and Human Stupidity)
  • บทเรียน 16: ความผิดพลาดของก้าวแรก (The First-Step Fallacy)
  • บทเรียน 17: Truman Show ฉบับส่วนตัวของคุณเอง (Your Own Private Truman Show)
  • บทเรียน 18: ประชาธิปไตย (Democracy)

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2025-02-10
ความเห็นจาก Hacker News

  • บทความนี้เต็มไปด้วยคำกล่าวเกี่ยวกับ AI ที่มั่นใจมาก แต่ขาดหลักฐานรองรับ และบางส่วนก็ดูเหมือนจะไม่ถูกต้อง

    • ข้ออ้างที่ว่า AI "ไม่มีความจริงพื้นฐาน" นั้นไม่จริง
    • การบอกว่า AI ไม่สามารถใช้เหตุผลเชิงตรรกะได้เป็นคำกล่าวที่เกินจริง
    • การบอกว่า AI ไม่สามารถอธิบายได้ว่ามันมาถึงข้อสรุปได้อย่างไรก็ไม่เป็นความจริงเช่นกัน
    • คำกล่าวที่มั่นใจเช่นนี้กลับคล้ายกับการวิจารณ์โมเดลที่อ่อนแอกว่าเสียมากกว่า

  • เพื่อนคนหนึ่งทำงานในทีมที่มีอิทธิพลต่อนโยบายรัฐบาล และสมาชิกอายุน้อยในทีมนั้นเขียนรายงานที่เต็มไปด้วยตัวเลขซึ่งนำมาจาก LLM

    • รายงานนั้นไม่แม่นยำและไม่น่าเชื่อถือ
    • นักพัฒนามักเข้าใจวิธีการทำงานของ LLM เป็นอย่างดี และสามารถตรวจทานกับแก้ไขความไม่แม่นยำของผลลัพธ์ได้
    • ผู้คนจำนวนมากจะเชื่อถือเครื่องมือเหล่านี้ และคอนเทนต์ที่ไม่แม่นยำจะล้นออกมา

  • AI เวอร์ชันปัจจุบันอาจเป็นอันตรายต่อนักเรียน และอาจทำให้พวกเขาแย่ลงได้

    • เวลาช่วยเพื่อนที่ไม่ใช่สายเทคนิค จะดูอัตราการเปลี่ยนแปลง และย้ำว่าความน่าเชื่อถือตามหลังความเป็นไปได้อยู่มาก
    • สภาพแวดล้อมแบบเป็นปฏิปักษ์ยังคงไม่ได้รับการแก้ไข และการคาดการณ์ก็ยังไม่แน่นอน
    • การคาดการณ์ของคนที่พูดตามๆ กันแบบนกแก้วนกขุนทองนั้นเชื่อถือไม่ได้
    • เพราะมี RL อยู่แล้ว ข้ออ้างเรื่องการแก้ไขตัวเองโดยอัตโนมัติจึงเป็นการพูดเกินจริง
    • คนมองโลกในแง่ร้ายอาจจะผิด แต่คนที่มองข้ามข้อโต้แย้งของพวกเขากลับเข้าใจน้อยกว่าคนมองโลกในแง่ร้ายเสียอีก

  • ส่วน "The AI scientist" ยอดเยี่ยมมาก

    • ไม่ตกหลุมพรางของข้อถกเถียงเรื่องนกแก้วนกขุนทอง และนำเสนอกรณีใช้งาน AI ในเชิงบวก
    • นำเสนอทั้งการใช้ AI ในวิทยาศาสตร์แบบเชิงบวก ตัวอย่างที่เป็นอันตราย และตัวอย่างที่เป็นการเสียเวลาอย่างเป็นกลาง

  • เนื้อหานี้เป็นพื้นฐาน แต่มีประโยชน์สำหรับผู้ชมวงกว้าง

    • ชอบที่มีการพูดถึงว่าไม่ควรทำให้โมเดลดูเป็นมนุษย์
    • หากผู้กำหนดนโยบายอายุเกิน 50 ปีได้ฟังกระบวนการนี้ จะเป็นประโยชน์มากกว่านักศึกษาปีหนึ่งอายุ 19 ปีเสียอีก

  • การบอกว่า LLM เป็นแค่นกแก้วนกขุนทองเพียงเพราะมันเดาโทเค็นถัดไปนั้นไม่มีความหมาย

    • มนุษย์เองก็คาดเดาปุ่มถัดไปบนคีย์บอร์ดเช่นกัน
    • มุมมองแบบนี้เป็นเพียงการหลับตาไม่มองการปฏิวัติทางเทคโนโลยีที่กำลังมาถึง

  • การที่นักเรียนต้องสำรวจสภาพแวดล้อมของ AI เป็นเรื่องท้าทาย

    • กำลังพิจารณาจะแชร์เนื้อหานี้ให้นักเรียน
    • นักเรียนที่พยายามใช้ LLM กับทุกอย่างอาจจะไม่เข้ามามีส่วนร่วมกับเนื้อหานี้
    • เสนอให้เพิ่มย่อหน้าที่อธิบายว่าทำไมการเขียนโดยไม่มี LLM จึงยังสำคัญในสายวิทยาศาสตร์

  • อยากให้ชื่อเรื่องไม่ต่อต้านเทคโนโลยีมากเกินไป

    • อยากผลักดันหลักสูตรนี้ในที่ทำงาน แต่ถ้าทำเช่นนั้นอาจดูเป็นคนมองลบและคอยขัดขวาง

  • เนื้อหานี้เป็นทรัพยากรที่ยอดเยี่ยม

    • กำลังออกแบบหลักสูตรเพื่อให้ความรู้พื้นฐานแก่นักศึกษาแพทย์เกี่ยวกับความก้าวหน้าของ ML และ LLM
    • เป้าหมายคือทำให้เข้าใจ ML ทางการแพทย์ แสดงให้เห็นศักยภาพของเทคโนโลยี และชี้เส้นทางสู่การนำไปใช้อย่างปลอดภัย

  • ชอบเนื้อหานี้มากจริงๆ

    • พบคำผิดบางจุดใน Lesson 11
    • ใน "No one is going to motivated by a robotic..." คำว่า "be" หายไป
    • ใน "People who are given a possible solution to a problem tend to less creative at..." คำว่า "be" หายไป