เราได้ทำให้ 'Bullshit' เป็นระบบอัตโนมัติ

 (cst.cam.ac.uk)
1 คะแนน โดย GN⁺ 2023-11-18 | 1 ความคิดเห็น | แชร์ทาง WhatsApp

การถกเถียงเกี่ยวกับ AI

  • การถกเถียงเกี่ยวกับ AI เริ่มต้นจากคำถามถึงความสำคัญของ AI ในแอฟริกา
  • ช่วงหลังมานี้ ประธานาธิบดีสหรัฐฯ และนายกรัฐมนตรีสหราชอาณาจักรได้ออกคำสั่งฝ่ายบริหารและจัดการประชุมสุดยอดเกี่ยวกับ AI ทำให้ความสนใจต่ออนาคตของ AI เพิ่มขึ้น
  • มีการตั้งข้อสังเกตถึงปัญหาที่ว่า AI แท้จริงแล้วสร้าง 'bullshit' ที่พึ่งพาข้อความเชิงคาดเดา ไม่ได้อาศัยตรรกะหรือข้อเท็จจริง

หลักการทำงานของ AI

  • ร็อดนีย์ บรูคส์ ศาสตราจารย์ด้าน AI จาก MIT สรุปว่า ChatGPT คือการ "สร้างสิ่งที่ฟังดูดี"
  • 'สิ่งที่ฟังดูดี' หมายถึงอัลกอริทึมที่เลียนแบบข้อความที่พบจากอินเทอร์เน็ต ส่วน 'สร้าง' หมายถึงความสุ่มพื้นฐานที่อิงกับข้อความเชิงคาดเดา
  • นักวิจัย AI ชั้นนำคนอื่น ๆ ก็แสดงความเห็นคล้ายกัน และมีการอธิบายในรายละเอียดเชิงเทคนิคมากขึ้นในงานอย่างบทความ 'stochastic parrots'

AI กับความจริง

  • เจฟฟรีย์ ฮินตัน ผู้ได้รับฉายาว่าเป็น 'เจ้าพ่อ' ของ AI เตือนถึงความเสี่ยงที่แชตบอตจะสร้างข้อความอย่างน่าเชื่อถือ มากกว่าจะมีความฉลาดจริง
  • ในโลกที่หลักฐานและตรรกะไม่ได้รับการเคารพ ก็มีความกังวลว่าระบบที่ทำงานโดยไม่อาศัยหลักฐานหรือเหตุผลอาจครอบงำได้ด้วยพลังในการโน้มน้าว
  • ใน 'On Bullshit' นักปรัชญาแฮร์รี แฟรงก์เฟิร์ตอธิบายถึง 'bullshit' ว่าเป็นสิ่งที่ไม่ได้ปฏิเสธอำนาจของความจริง แต่เพิกเฉยต่อมัน

AI กับผลกระทบทางสังคม

  • เหตุใดนายกรัฐมนตรีสหราชอาณาจักรจึงประทับใจกับ AI และ 'เครื่องสร้าง bullshit อัตโนมัติ'
  • การวิเคราะห์ใน 'Bullshit Jobs' ของเดวิด เกรเบอร์เผยให้เห็นธรรมชาติที่แท้จริงของ AI
  • แรงงานในสหราชอาณาจักรมากกว่า 30% เชื่อว่างานของตนไม่ได้สร้างคุณค่าใด ๆ ให้สังคม
  • ส่วนหนึ่งของการศึกษาระดับมหาวิทยาลัยคือการเตรียมคนหนุ่มสาวให้ยอมตามกระบวนการราชการอย่างไม่คาดหวังอะไรจากชีวิตมากนัก

การฝึกระบบ AI

  • ระบบ AI ถูกฝึกด้วยคลัง 'bullshit' ขนาดมหาศาลจาก Twitter, Facebook, Reddit และข้อความที่มีข้อเท็จจริงจริงปะปนอยู่
  • ใน ChatGPT ไม่มีอัลกอริทึมที่ใช้ตรวจสอบว่าส่วนใดเป็นความจริง ดังนั้นผลลัพธ์จึงถูกนิยามได้ว่าเป็น 'bullshit'
  • Twitter ส่งเสริมนักการเมืองที่ไม่สนใจความจริง และคลังคำพูดของพวกเขาก็อาจถูกนำไปใช้ฝึก 'เครื่องสร้าง bullshit อัตโนมัติ' ได้

ความเห็นของ GN⁺

  • ประเด็นสำคัญที่สุดของบทความนี้คือ เนื้อหาที่ AI สร้างขึ้นไม่ได้ตั้งอยู่บนความจริงและตรรกะ แต่สามารถสร้าง 'bullshit' ที่โน้มน้าวผู้คนได้
  • สิ่งนี้อาจส่งผลต่อคุณภาพของการสนทนาในสังคมและข้อมูลข่าวสาร และเมื่อเทคโนโลยี AI พัฒนาไป ปัญหานี้ยิ่งจะสำคัญมากขึ้น
  • เหตุผลที่เรื่องนี้น่าสนใจสำหรับผู้คนคือมันช่วยให้เข้าใจผลกระทบที่อาจเกิดขึ้นจาก AI ต่อชีวิตประจำวันและตลาดแรงงานของเรา รวมถึงช่วยเตรียมรับมือกับการเปลี่ยนแปลงที่เทคโนโลยีนำมา

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 2023-11-18
ความคิดเห็นจาก Hacker News

  • สรุปความคิดเห็นแรก:

    • LLM (โมเดลภาษาขนาดใหญ่) ทำงานโดยอิงจากเกณฑ์ว่า "ดูเหมือนคำตอบที่ถูกต้องหรือไม่" และหากไม่ใช่ผู้เชี่ยวชาญก็อาจตัดสินได้ยากว่าคำตอบของ LLM ถูกต้องจริงหรือไม่
    • LLM เป็นเครื่องมือที่มีประโยชน์สำหรับผู้เชี่ยวชาญ โดยในสาขาของตนเอง พวกเขาสามารถประเมินความถูกต้องของโค้ดสไนเป็ตที่ LLM ให้มาได้

  • สรุปความคิดเห็นที่สอง:

    • ChatGPT ถูกฝึกด้วยข้อมูลจากแหล่งที่มาหลากหลาย และสร้างคำตอบโดยไม่ได้แยกแยะอย่างชัดเจนระหว่างข้อเท็จจริงที่ถูกต้องกับข้อมูลที่ไม่แน่นอน
    • มนุษย์ก็เรียนรู้ในลักษณะคล้ายกัน ดังนั้นจึงไม่ควรเชื่อผลลัพธ์ของ LLM ทั้งหมดโดยปราศจากการตรวจสอบ

  • สรุปความคิดเห็นที่สาม:

    • คำตอบที่ LLM ให้มามีลักษณะคล้ายกับการสร้างโทเค็นถัดไปที่คาดเดาได้ในการสนทนาของมนุษย์
    • แม้ LLM ยังอยู่ในช่วงเริ่มต้น แต่ก็แสดงให้เห็นถึงความสามารถค่อนข้างสูงในการแก้ปัญหาผ่านการสนทนา

  • สรุปความคิดเห็นที่สี่:

    • LLM เลียนแบบภาษามนุษย์ และเลียนแบบความสามารถด้านการให้เหตุผลที่ถูกเข้ารหัสอยู่ภายในโครงสร้างของภาษา
    • LLM มีข้อจำกัดด้านความจำที่แม่นยำ แต่สามารถชดเชยได้ด้วยการใส่ข้อมูลที่เหมาะสมผ่านพรอมป์ต์

  • สรุปความคิดเห็นที่ห้า:

    • LLM ใช้แนวทางการแก้ปัญหาผ่านการสนทนา และนำมาซึ่งนวัตกรรมต่อเวิร์กโฟลว์การทำงาน

  • สรุปความคิดเห็นที่หก:

    • LLM เป็นเทคโนโลยีที่เชี่ยวชาญด้านความสามารถทางภาษา และอาจเกิดปัญหาได้หากไม่ได้ถูกรวมเข้ากับระบบการให้เหตุผลโดยรวมหรือฐานข้อมูลข้อเท็จจริง

  • สรุปความคิดเห็นที่เจ็ด:

    • LLM อาจให้คำตอบที่ไม่แม่นยำในบางครั้ง แต่ก็สามารถเพิ่มผลิตภาพได้ขึ้นอยู่กับว่าผู้ใช้จะนำมันไปใช้อย่างไร

  • สรุปความคิดเห็นที่แปด:

    • ตัวภาษาเองอาจมองได้ว่าเป็น "bullshit generator" ที่ทำงานได้อย่างเป็นอิสระจาก "ความจริง" และ LLM ก็ใช้ประโยชน์จากคุณลักษณะนี้ของภาษา

  • สรุปความคิดเห็นที่เก้า:

    • ในภาษาฝรั่งเศส คำว่า 'baratineur' หมายถึงคนที่พูดในสิ่งที่ผู้ฟังอยากได้ยิน ไม่ว่าจะจริงหรือเท็จ และอาจเป็นคำที่เหมาะกับ LLM มากกว่า

  • สรุปความคิดเห็นที่สิบ:

    • หากโค้ดที่ LLM สร้างขึ้นตรงตามข้อกำหนด ก็ไม่อาจเรียกว่าเป็น 'bullshit' และอาจนำไปใช้ได้อย่างมีประโยชน์ในบริบทเฉพาะ