อนาคตที่ทุกสิ่งเต็มไปด้วยความเท็จ ตอนนี้เราควรไปทางไหนต่อ

 (aphyr.com)
1 คะแนน โดย GN⁺ 13 일 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • โมเดลภาษาขนาดใหญ่และแมชชีนเลิร์นนิง กำลังปรับโครงสร้างสังคมใหม่ และเปลี่ยนแปลงชีวิตมนุษย์โดยรวม เหมือนที่รถยนต์เคยเปลี่ยนเมือง
  • ตอนนี้ ข้อมูลเท็จที่ AI สร้างและคอนเทนต์อัตโนมัติ ได้แทรกซึมลึกเข้าไปในพื้นที่ของชีวิตประจำวัน เช่น การค้นหา อีเมล และบริการลูกค้า
  • จำเป็นต้อง หยุดใช้เครื่องมือ AI และฟื้นฟูการคิดที่ยึดมนุษย์เป็นศูนย์กลาง โดยต้องกลับมาเขียนด้วยตนเองและคิดด้วยภาษาของมนุษย์
  • แต่ละคนสามารถชะลอความเร็วของการแพร่กระจายของเทคโนโลยีได้ด้วยการลงมือทำอย่างเป็นรูปธรรม เช่น ปฏิเสธการพึ่งพา AI, จัดตั้งสหภาพแรงงาน, เรียกร้องกฎระเบียบทางการเมือง
  • ทางเลือกเหล่านี้อาจนำไปสู่ การบรรเทาผลข้างเคียงทางกฎหมายและสังคม รวมถึงการรักษาความสงบทางจริยธรรม และหากเป็นการตัดสินใจที่ผิด ก็ยังเริ่มต้นใหม่ได้

ทางเลือกหลังเข้าสู่ยุคปัญญาประดิษฐ์

  • เปรียบเทียบผลกระทบของความก้าวหน้าใน โมเดลภาษาขนาดใหญ่ (LLM) และ แมชชีนเลิร์นนิง (ML) ที่มีต่อสังคมโดยรวม กับการเปลี่ยนแปลงครั้งประวัติศาสตร์ของรถยนต์
    • เช่นเดียวกับที่รถยนต์เปลี่ยนโครงสร้างเมือง การคมนาคม สิ่งแวดล้อม และความสัมพันธ์ทางสังคมอย่างถึงราก ปัญญาประดิษฐ์ก็อาจปรับโครงสร้างชีวิตมนุษย์และอุตสาหกรรมใหม่เช่นกัน
    • จุดสนใจไม่ได้อยู่ที่ความเร็วหรือความสะดวกของเทคโนโลยี แต่คือ รูปแบบของเมืองและชีวิตมนุษย์จะเปลี่ยนไปอย่างไร
  • ตอนนี้ ข้อมูลเท็จที่ขับเคลื่อนด้วย AI และคอนเทนต์อัตโนมัติ ได้แทรกซึมเข้าสู่ชีวิตประจำวันอย่างลึกซึ้งแล้ว
    • ในผลการค้นหา บริการลูกค้า อีเมล เว็บไซต์ ฯลฯ มีการแพร่กระจายของ ข้อมูลที่ไม่ถูกต้องหรือเป็นเท็จซึ่ง LLM สร้างขึ้น
    • เกิด การขึ้นค่าบริการ และ ภาระต่อสิ่งแวดล้อม จากการใช้ไฟฟ้าที่เพิ่มขึ้นของดาต้าเซ็นเตอร์
    • แนวโน้มการ มอบหมายงานส่วนตัว ศิลปะ และแม้แต่ความสัมพันธ์ระหว่างมนุษย์ให้ AI กำลังขยายตัว
  • เน้นย้ำถึง ความจำเป็นในการหยุดใช้เครื่องมือ AI
    • การช่วยเหลือด้วย ML ทำให้ ความสามารถในการเรียนรู้และการคิดเชิงทฤษฎี ของมนุษย์อ่อนแอลง และทำให้สูญเสีย ‘metis’ (ความรู้เชิงปฏิบัติที่ชำนาญ) ของ James C. Scott
    • ควรกลับมาเขียนเอง แก้ปัญหาด้วยตนเอง และรักษาความคิดผ่านการสนทนากับมนุษย์
    • แนะนำให้ บริโภคผลงานที่ AI สร้างให้น้อยที่สุด และพยายามอ่านคอนเทนต์ที่มนุษย์สร้าง
  • เสนอ การลงมือปฏิบัติที่ทั้งปัจเจกและสังคมสามารถทำได้
    • กระตุ้นให้ เขียนด้วยภาษาของตนเอง และอย่าพึ่งพาผลงานที่สร้างโดย AI
    • เสนอให้ ต่อต้านการบังคับใช้ AI ในที่ทำงาน, จัดตั้งสหภาพแรงงาน, และ เรียกร้องกฎระเบียบทางการเมือง
    • ยกตัวอย่างการกระทำที่เป็นรูปธรรม เช่น เพิ่มความรับผิดชอบของบริษัท AI ต่อการปล่อยคาร์บอนและของเสียดิจิทัล, คัดค้านการลดหย่อนภาษีให้ดาต้าเซ็นเตอร์, และ พิจารณาลาออกด้วยเหตุผลด้านจริยธรรม
  • แม้การต่อต้านเช่นนี้อาจ ไม่สามารถหยุดการพัฒนา AI ได้อย่างสมบูรณ์ แต่สามารถชะลอความเร็วลงได้
    • ช่วยซื้อเวลาให้เทคโนโลยี อุตสาหกรรม และรัฐบาลได้ปรับตัว และบรรเทา ผลข้างเคียงทางกฎหมายและสังคม
    • เปิดโอกาสให้มีเวลารับมือกับปัญหาอย่าง สื่อแสวงหาประโยชน์ทางเพศจากเด็กที่สร้างโดย AI (CSAM), การฉ้อโกง, และ ช่องโหว่ด้านความปลอดภัย
    • ปิดท้ายด้วยข้อสรุปว่า การเลือกอย่างมีจริยธรรมอาจช่วยให้ จิตใจสงบได้ และหากตัดสินใจผิด “ค่อยกลับมาสร้างใหม่ทีหลังก็ได้”

และยังมีแรงดึงดูดที่เหลืออยู่

  • ความเกลียดชังต่อ AI และแรงยั่วยวนเชิงใช้งานจริง ดำรงอยู่พร้อมกัน
    • ยกตัวอย่างความเป็นไปได้ในการใช้ การสร้างโค้ดด้วย LLM เพื่อควบคุมไฟที่เปลี่ยนสีได้
    • ยอมรับว่า AI มีประโยชน์ ในสถานการณ์จำกัดที่ความเสี่ยงด้านความปลอดภัยต่ำและสามารถตรวจสอบผลลัพธ์ได้ด้วยตนเอง
    • แต่ก็จบลงด้วยคำถามว่า “มันจะมีอันตรายอะไรล่ะ?” เพื่อเผยให้เห็น เส้นแบ่งของการใช้ AI และความย้อนแย้งในตัวเอง

กระบวนการเขียน

  • บทความนี้ เขียนด้วยมือใน Vim, จัดรูปแบบด้วย Pandoc, และ ตรวจทานบนกระดาษสองรอบ
    • ร่างแรกถูกแชร์ให้เพื่อนอ่านเพื่อรับฟีดแบ็ก และระบุว่า ข้อผิดพลาดและความเห็นทั้งหมดเป็นความรับผิดชอบของผู้เขียนเอง
    • เน้นย้ำว่ากระบวนการเขียนและแก้ไขทั้งหมด เกิดขึ้นจากมือมนุษย์โดยไม่มีความช่วยเหลือจาก AI

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 13 일 전
ความคิดเห็นจาก Hacker News

  • ฉันรู้สึกว่าความสามารถแกนหลักอย่าง การอ่าน·การคิด·การเขียน กำลังเข้าไปอยู่ในขอบเขตอิทธิพลของโมเดลภาษาขนาดใหญ่
    ตลอดช่วงชีวิตส่วนใหญ่ของมนุษยชาติ ความสามารถเหล่านี้เป็นทักษะล้ำค่าที่ช่วยให้เลื่อนสถานะทางสังคมได้
    แต่ถ้ามองในเชิงประวัติศาสตร์ ก่อนปี 1800 ความสามารถแบบนี้แทบไม่มีประโยชน์อะไรกับชาวนา
    เพิ่งหลังสงครามโลกครั้งที่ 2 เท่านั้นที่งานสำหรับ “คนฉลาด” เริ่มมีมากกว่าความต้องการ และนั่นคือยุคทองของการเคลื่อนย้ายทางสังคม
    ก่อนหน้านั้น ความแข็งแรงทางกายภาพ กับความซื่อสัตย์ สายเลือด และลำดับการเกิด เป็นสิ่งที่สำคัญกว่า
    ถ้ายุคที่ AI เข้ามาแทนการคิดมาถึง บางทีคุณค่าเหล่านั้นอาจกลับมาเป็นศูนย์กลางอีกครั้ง

    • มุมมองแบบนี้ มืดมนเกินไป
      ไม่จำเป็นต้องย้อนกลับไปเอา ระบบบุตรหัวปีรับมรดก หรือการเลือกปฏิบัติทางเพศมาเป็น “คุณค่าหลัก”
      ยุคที่ ‘สติปัญญา’ เป็นสิ่งหายากไม่ได้เป็นเรื่องผิดปกติ ตรงกันข้าม มันคือผลลัพธ์ของความก้าวหน้าของมนุษย์
      เราไม่ใช่เชลยของประวัติศาสตร์ และไม่จำเป็นต้องถอยกลับไปอยู่ใต้ผู้ปกครองไม่กี่คนที่ถือครอง data center หรือระบบปฏิบัติการ
    • โดยรวมฉันเห็นด้วย แต่ความสามารถอย่าง ความคิดสร้างสรรค์·การแก้ปัญหา·การยับยั้งแรงกระตุ้น มีความสำคัญมาตลอด
      แม้แต่ชาวนาที่ฉลาดก็สามารถบริหารฟาร์มได้มีประสิทธิภาพมากขึ้นเพราะความสามารถเหล่านี้
    • มีคนบอกว่าความคิดเชิงคณิตศาสตร์ก็เคยถูกคุกคามตั้งแต่สมัย Colossus แต่ LLM ตอนนี้ยัง อ่อนเกินไปมาก
      โมเดลที่มีพารามิเตอร์ระดับล้านล้านก็ยังแยกซ้ายขวาไม่ได้ด้วยซ้ำ
      การคิดของมนุษย์ยังไม่ได้จบลง และก็ยังไปไม่ถึงขั้นนั้น เหมือนที่เครื่องจักรไอน้ำไม่ได้ทำให้ยุคของม้าจบสิ้นลงอย่างสมบูรณ์
    • คุณค่าหลักของมนุษย์ควรรวม วินัยและการคิดระยะยาว ไว้ด้วย
      แม้หลังเริ่มมีเกษตรกรรม ความสามารถด้านการวางแผนและจัดการทรัพยากรก็สำคัญมาโดยตลอด
    • ช่วงนี้มี ทัศนะสิ้นหวังต่อ AI เยอะในแนวว่า “เราแค่เคยอยู่ในช่วงเวลาพิเศษ ตอนนี้กำลังกลับไปสู่อดีต”
      แต่ความคิดที่ว่ายุค 1800s คือสภาวะปกติของมนุษยชาติดูแปลกมาก
      การอธิบายความเปลี่ยนแปลงของสังคมด้วยการมีอยู่หรือไม่มีอยู่ของ ‘เนิร์ดฐานะดี’ ก็เป็นการกระโดดสรุปเกินไป

  • งานเขียนของ Kyle เป็นซีรีส์ที่ควรอ่านจริงๆ
    การเปรียบเทียบการมาของรถยนต์กับการแพร่กระจายของ AI น่าประทับใจมาก
    เทคโนโลยีที่มีประโยชน์ไม่ได้แปลว่าจะส่ง ผลกระทบเชิงบวก ให้สังคมอย่างเดียว
    ฉันคิดว่า LLM ควรถูกใช้ในสภาพแวดล้อมที่จำกัด และเฉพาะตอนที่ควบคุมความเสี่ยงได้เท่านั้น
    ในยุค 1920s แทนที่จะพูดว่า “อย่าขึ้นรถ” เราควรมีท่าทีแบบคาดการณ์ผลเสียและบรรเทาด้วยนโยบาย
    ผู้เชี่ยวชาญที่เข้าใจข้อจำกัดของเทคโนโลยี ควรเข้ามาแทรกแซงอย่างมีความรับผิดชอบ

    • รถยนต์มีผลกระทบด้านลบเหมือนกัน แต่โดยรวมฉันคิดว่าเป็น เทคโนโลยีที่ให้ผลคุ้มค่ามากกว่าเสีย
    • ทุกวันนี้กระแสห้ามรถยนต์ในเขตใจกลางเมืองเพิ่มขึ้นเรื่อยๆ
      คล้ายกับความพยายามห้ามสมาร์ตโฟนในโรงเรียนเพื่อฟื้น ปฏิสัมพันธ์ระหว่างมนุษย์ที่เกิดขึ้นโดยสมัครใจ
    • ในสหราชอาณาจักร บทความเหล่านี้ถูกบล็อกเพราะ Online Safety Act เลยอ่านไม่ได้
    • AI เป็นเครื่องมือที่หยุดไม่ได้ และ การศึกษา คือคำตอบ
      แทนที่จะห้ามเทคโนโลยี เราควรสอนผู้คน
      ความก้าวหน้าของ AI ยังอาจถูกนำไปประยุกต์ใช้กับการจำลองทางฟิสิกส์ การพับตัวของโปรตีน และอื่นๆ ได้

  • ฉันรู้สึกว่าเทคโนโลยีนี้ถูกออกแบบมาอย่างพอดีเป๊ะสำหรับ ชนชั้นนำ 0.001%
    สำหรับพวกเขา การลดลงของประชากรและการควบคุมสังคมกลับเป็นผลดี
    ถ้าไม่มีความรับผิดชอบต่อคนรุ่นต่อไป ก็อาจคิดแค่เรื่องเอาตัวรอดส่วนตัว แต่ถ้ามีความรับผิดชอบ ก็ต้องมี การปฏิวัติระดับโลก

    • AI ตอนนี้ยังอยู่ในระดับที่ จัดการแม้แต่โฟลเดอร์อีเมลยังไม่ค่อยได้
      การบอกว่าจะมาแทนมนุษย์เป็นการพูดเกินจริง และระบบอัตโนมัติน่าจะกลับสร้างงานใหม่มากกว่า
      ที่เหล่า CEO พูดเรื่องแทนแรงงาน ก็เป็นแค่ข้ออ้างเพื่อทำให้การปลดคนดูชอบธรรม
    • ถ้า AI ฉลาดพอจะแทนที่ 99.999% ได้ ก็ย่อมแทนที่ 0.001% ได้ด้วย
    • ในเมื่อเราละทิ้งความรับผิดชอบต่อระบบนิเวศไปแล้ว การพูดถึงคนรุ่นอนาคตก็ชวน หัวเราะขื่นๆ เท่านั้น
    • ถ้าการ ต่อต้านและการเรียกร้องให้กำกับดูแล ของสาธารณะเพิ่มขึ้น AI ก็อาจถูกควบคุมได้
      ปัญหาคือมีคนจำนวนมากเกินไปที่รัก AI
    • ไม่ใช่ว่าจะให้พังระบบเศรษฐกิจ แต่เราควรแสดงอำนาจต่อรองด้วย การนัดหยุดงานใหญ่และการถอนเงินจากธนาคาร
      ยิ่งเป็นคนที่มีงานมั่นคงยิ่งควรลงมือก่อน

  • ทำให้นึกถึงตอนจบของ 『In the Beginning Was the Command Line』 ของ Neal Stephenson
    ชีวิตถูกมอบมาเป็นค่าเริ่มต้นเหมือน ระบบปฏิบัติการ หนึ่งตัว และผู้คนก็เพียงกดปุ่ม ‘LIVE’
    ถ้าร้องเรียน ก็จะได้ยินแค่คำตอบว่า “การอัปเดตครั้งหน้าจะดีขึ้น”
    สุดท้ายวิศวกรตัวจริงคงจะพูดแบบนี้ — “ชีวิตนั้นซับซ้อนโดยธรรมชาติ และ เราต้องเลือกด้วยตัวเอง”

  • รวบรวมบทความหลักๆ ของซีรีส์นี้ไว้

    • ML promises to be profoundly weird
    • ตอน Culture
    • ตอน Annoyances
    • ตอน Safety
    • ตอน Work
    • ตอน New Jobs
      ตามหลักของ HN ที่พยายามหลีกเลี่ยงความซ้ำ โดยปกติบทความแบบซีรีส์จะถูกลดน้ำหนัก แต่ครั้งนี้เป็นข้อยกเว้น
    • ขอแนะนำตอน Dynamics·Information Ecology·Psychological Hazards ที่คนยังไม่ค่อยรู้จักด้วย
    • การเป็นซีรีส์ไม่ได้แปลว่าต้อง ซ้ำไปซ้ำมา
      เช่น ถ้าเป็นซีรีส์การบูรณะเครื่องจักรโบราณ แต่ละตอนก็อาจพูดถึงคนละเรื่องโดยสิ้นเชิง
    • ในสหราชอาณาจักร ทั้งโดเมนนี้ถูก บล็อก จนเข้าไม่ได้

  • การ ทำนายอนาคตแบบฟันธง เป็นแค่วิธีหนึ่งในการกดความกลัวไว้เท่านั้น
    ไม่มีใครรู้ทิศทางของ AI
    ไม่รู้ว่าจะกลายเป็นเหมือนรถยนต์หรือไปคนละทางโดยสิ้นเชิง
    ดังนั้นคำกล่าวแนวว่า “วิศวกรของ Anthropic ควรลาออกเดี๋ยวนี้” จึงเป็น ข้อสรุปที่เร็วเกินไป

  • พอนึกถึงช่วงมหาวิทยาลัย ตัวฉันในวันนี้ถูกสร้างขึ้นจาก ความจำของกล้ามเนื้อและความลึกทางทฤษฎี ที่ได้มาจากการลองผิดลองถูก
    ถ้าเป็นนักศึกษามหาวิทยาลัยตอนนี้ ฉันคงต้านสิ่งยั่วยวนของ LLM ได้ยากมาก
    ท่ามกลางเดดไลน์ การสอบ และเวลาที่ต้องให้เพื่อน สุดท้ายก็คงต้องใช้ AI

    • ลูกๆ ของฉันอยู่มัธยมปลาย และคนรุ่นนั้นเติบโตขึ้นมาท่ามกลาง ความกังวลเชิงอัตถิภาวนิยมต่ออนาคต
      ทั้งสภาพอากาศที่แย่ลง ความเหลื่อมล้ำทางเศรษฐกิจ ความไม่ไว้วางใจต่อสถาบัน และความกังวลเรื่องงานจาก AI มาซ้อนกันหมด
      ตอนลูกสาวกำลังคิดว่าจะเลือกเรียนสาขาอะไร ฉันก็ไม่สามารถให้คำแนะนำอย่างมั่นใจได้เลย
    • ตอนเรียนปริญญาโท ช่วงเวลาที่นั่งปล้ำกับโจทย์คณิตศาสตร์นั่นแหละคือการเรียนรู้จริง
      ทันทีที่ AI มาทำแทน การเรียนรู้จากประสบการณ์ตรง แบบนั้นก็หายไป
      เราต้องมีบริบทที่สั่งสมจากการทนผ่านความยากลำบากก่อน ถึงจะเข้าใจคำตอบของ AI ได้อย่างถูกต้อง
    • เพราะอย่างนั้น ในฐานะวิศวกรฉันจึงไม่ได้กังวลมากนัก
      ประสบการณ์ลงมือทำด้วยมือหลายพันชั่วโมงได้สร้าง สัญชาตญาณด้านโค้ด ให้ฉัน
      คนรุ่นใหม่ที่เพิ่งเข้ามาจะมาแทนที่สิ่งนั้นด้วย AI ได้ยาก
    • ปัญหาไม่ใช่เจตจำนงส่วนบุคคล แต่คือ โครงสร้างที่ยิ่งพยายามยิ่งเสียเปรียบ
      มันเกิดแรงจูงใจที่ทำให้คนที่อยากเรียนรู้ให้ลึกจริงๆ กลับแพ้ในการแข่งขัน

  • โครงสร้างสังคมคงเปลี่ยนแน่ แต่ฉันรู้สึกว่าทางเลือกแบบ ไม่เข้าร่วม นั้นทำได้ยากในความเป็นจริง

    • ฉันเองก็พยายามใช้ AI ให้น้อยที่สุดในทีม แต่เพื่อ ความอยู่รอดทางอาชีพ ก็เลี่ยงไม่พ้นต้องใช้
    • การแข่งขันในตลาดมีลักษณะบีบบังคับ
      ถ้าไม่ใช้ AI ก็จะตามหลัง และ HR ก็ต้องการประสบการณ์
      ใครจะเลือกสิ่งที่ทำให้ตัวเองเสียเปรียบล่ะ

  • เราอาจไปถึง AGI ได้ด้วย ความก้าวหน้าทางเทคโนโลยีเพียงครั้งเดียว
    เช่น ถ้าค้นพบตัวนำยิ่งยวดที่อุณหภูมิห้อง ก็อาจเกิด ชิปความเร็ว THz และแบตเตอรี่ที่ชาร์จได้ทันที
    ตอนนี้ AI อยู่ในช่วง ก่อนการระเบิดเติบโต เหมือนคอมพิวเตอร์ยุค 1980s
    ช่วง 6 เดือนล่าสุดฉันเองก็เปลี่ยนมาเป็นมองโลกในแง่ดีเต็มที่แล้ว
    ถ้าเทคโนโลยียังพัฒนาต่อไป จะไม่เหลืองานไหนที่ปลอดภัยอีกเลย

    • แต่ถึงมีตัวนำยิ่งยวด ก็ไม่ได้แปลว่าจะมีชิป THz โดยอัตโนมัติ
      ถ้าใช้ตัวนำยิ่งยวดแบบต้องแช่เย็นสร้างชิปแบบนั้นได้อยู่แล้ว เราก็คงทำไปนานแล้ว

  • ผู้เขียนบอกว่าจะไม่ใช้ LLM แต่ก็เพราะเขา มีความสามารถพอ
    คนส่วนใหญ่ทำแบบนั้นไม่ได้
    ตอนนี้ก็มีนักพัฒนาจำนวนมากที่ไม่แม้แต่จะเขียน test code และสำหรับพวกเขา AI คือวิธีเอาตัวรอด
    ไม่มีเวลาไปกลับเรียนพื้นฐานใหม่ แถมยังต้องตามกระแส LLM ให้ทัน
    สุดท้ายจะมาถึงยุคที่ มี ‘แม่มด’ มากกว่าวิศวกรตัวจริง

    • แต่มนุษย์เรียนรู้สิ่งที่จำเป็นต่อความสำเร็จเสมอ
      นักพัฒนารุ่นใหม่ก็จะเรียนรู้วิธีสร้าง ซอฟต์แวร์ที่มีประสิทธิภาพสูง เพื่อชนะการแข่งขันเช่นกัน
      จะเขียนโค้ดด้วย AI หรือไม่ ถ้าผลลัพธ์ดี นั่นก็คือฝีมือ
      มนุษยชาติมักมี ทัศนะแบบวันสิ้นโลก มาโดยตลอด แต่สุดท้ายเราก็ปรับตัวกันได้ดีเสมอ