สัญญาทางสังคมของการเขียน

 (jola.dev)
1 คะแนน โดย GN⁺ 4 시간 전 | 1 ความคิดเห็น | แชร์ทาง WhatsApp
  • การเขียนด้วย LLM แพร่ไปสู่บล็อก โซเชียลมีเดีย หนังสือพิมพ์ หนังสือ รวมถึงการตรวจการสะกดและการร่างข้อความ ทำให้สไตล์ที่ซ้ำๆ กันทำให้งานเขียนดูเป็นก้อนเดียวกันแบบ slop
  • ผู้อ่านคาดหวังว่าเมื่อพวกเขาใช้เวลาอ่าน ผู้เขียนก็น่าจะทุ่ม แรงงานทางปัญญา ลงไปเช่นกัน และการใช้ LLM ก็สั่นคลอนความคาดหวังนี้โดยไม่ขึ้นกับคุณภาพของผลลัพธ์
  • Oxide RFD 576 มองว่าความเชื่อว่าผู้เขียนเข้าใจและเขียนด้วยตนเองคือสิ่งที่ทำให้ความพยายามทำความเข้าใจของผู้อ่านมีเหตุผล และร้อยแก้วจาก LLM ก็บ่อนทำลาย สัญญาทางสังคม นี้
  • หลังยุค ChatGPT ข้อความที่ถูกสร้างขึ้นไม่เพียงไม่ต้องเขียนเอง แต่ยังส่งอิทธิพลต่อคำพูดและสำนวนของมนุษย์ด้วย ดังจะเห็นได้จากการใช้คำอย่าง “delve”, “realm”, “meticulous” ที่เพิ่มขึ้น
  • เกณฑ์ของงานเขียนที่ดีจึงขยับจากความสมบูรณ์ของไวยากรณ์และคำศัพท์ ไปสู่ การแสดงออกที่เป็นต้นฉบับ และร่องรอยความเป็นมนุษย์ โดยแม้แต่คำพิมพ์ผิดก็อาจเป็นสัญญาณที่ช่วยแยกจากข้อความ AI ได้

การเขียนด้วย LLM และสัญญาทางสังคม

  • LLM แพร่กระจายไปในหลายอุตสาหกรรม แต่โดยเฉพาะในด้าน การเขียน นั้นถูกใช้กว้างขวางกับบล็อก โซเชียลมีเดีย หนังสือพิมพ์ หนังสือ การตรวจการสะกด ไวยากรณ์ การตรวจสอบข้อเท็จจริง ไปจนถึงการร่างทั้งฉบับ
  • มันเก่งในการผลิตคอนเทนต์ปริมาณมาก แต่เมื่อเริ่มสังเกตเห็น สำนวนและแพตเทิร์นสไตล์ แบบเฉพาะของ LLM แล้ว ก็จะพบความรู้สึกเดิมซ้ำไปทั่วทุกที่
  • มีการใช้ซ้ำของรูปประโยคอย่าง “it’s not x, it’s why”, em-dash, “you’re not imagining it, the problem is real” จนงานเขียนค่อยๆ ถูกทำให้เป็น slop ที่หน้าตาเหมือนกันไปหมด
  • ทันทีที่ผู้อ่านตระหนักว่าตนเองใช้เวลาอ่าน แต่ผู้เขียนไม่ได้ใช้เวลาในระดับที่สมน้ำสมเนื้อกัน ก็จะเกิดความต่อต้านอย่างรุนแรง
  • ความรู้สึกต่อต้านนี้ไม่หายไป แม้เนื้อหาจะถูกต้อง ค้นคว้ามาเพียงพอ และตัวงานเขียนเองก็ใช้ได้ก็ตาม

ประเด็นปัญหาที่ Oxide RFD 576 ตั้งขึ้น

  • หัวข้อ 2.4 “LLMs as writers” ของ Oxide RFD 576 มองว่าร้อยแก้วที่สร้างโดย LLM บ่อนทำลายสัญญาทางสังคมของการเขียน
  • ในโลกที่ยังไม่มี LLM มีข้อสมมุติฐานว่าระหว่างผู้อ่านกับผู้เขียนนั้น ผู้เขียนเป็นฝ่ายลงแรงทางปัญญามากกว่า
  • เมื่อผู้อ่านเชื่อได้ว่าผู้เขียนเข้าใจสิ่งที่เขียนและลงมือเขียนเองจริงๆ ผู้อ่านก็มีเหตุผลที่จะพยายามทำความเข้าใจประโยคและแนวคิดที่ยาก
  • เมื่อใช้ LLM เขียนงาน ไม่ว่าคุณภาพของงานเขียนหรือความถูกต้องของเนื้อหาจะเป็นอย่างไร ความพยายามที่ผู้เขียนใช้ในการสร้างคอนเทนต์ก็ลดลง
  • ประเด็นสำคัญจึงไม่ใช่แค่คุณภาพของผลลัพธ์ แต่คือการที่การใช้ LLM แทนการเขียนเองนั้นเป็นการผิดสัญญาทางสังคมโดยตัวมันเอง

อิทธิพลของข้อความที่ถูกสร้างขึ้นซึ่งหลีกเลี่ยงได้ยาก

  • แม้จะไม่ได้ใช้ LLM โดยตรง กระแสท่วมท้นของข้อความที่ถูกสร้างขึ้นก็ยังส่งผลต่อภาษาพูดและภาษาเขียนของมนุษย์
  • วลีอย่าง “you’re absolutely right” ถูกใช้เพื่อล้อเลียน LLM แต่ตัวเครื่องมือเองก็กำลังค่อยๆ เปลี่ยนนิสัยทางภาษาของมนุษย์อย่างแนบเนียนด้วย
  • งานวิจัยจาก Max-Planck Institute for Human Development วิเคราะห์ว่าคำที่ ChatGPT ชอบใช้เริ่มถูกใช้บ่อยขึ้นแม้ใน ภาษาพูด ของมนุษย์
  • คำที่เพิ่มขึ้นได้แก่ delve, realm, meticulous, adept, boast, swift, comprehend เป็นต้น
  • ผลลัพธ์จาก generative AI ได้แทรกซึมอยู่ทั่วทั้งสภาพแวดล้อมทางภาษาแล้ว ไม่ว่าจะมีการใช้งานโดยตรงหรือไม่ก็ตาม

อุปมาเรื่องเหล็ก low-background

  • Low-background steel หมายถึงเหล็กที่ผลิตก่อนการระเบิดของระเบิดปรมาณูลูกแรก และครั้งหนึ่งเคยเป็นวัสดุที่มีคนต้องการมากกว่าสำหรับการใช้งานบางประเภท
  • การทดสอบนิวเคลียร์หลายครั้งในช่วงทศวรรษ 1940–1950 เพิ่มสารกัมมันตรังสีในบรรยากาศ และเหล็กที่ผลิตหลังจากนั้นจึงเคยถูกมองว่า “ไม่สะอาด” พอสำหรับบางการใช้งาน เช่น เครื่องตรวจจับอนุภาค
  • อย่างไรก็ดี ปัจจุบันดูเหมือนว่าระดับรังสีพื้นหลังจากกิจกรรมมนุษย์ทั่วโลกลดลงแล้ว ทำให้เหล็กที่ผลิตใหม่สามารถใช้ได้กับงานส่วนใหญ่
  • ในอุปมานี้ งานเขียนหลัง 30 พฤศจิกายน 2022 ถือว่าได้รับอิทธิพลจาก LLM ในระดับหนึ่ง เพราะเขียนขึ้นหลังการแพร่หลายของ ChatGPT
  • เว้นแต่จะอ่านเฉพาะคอนเทนต์เก่าเท่านั้น การหลีกเลี่ยงสภาพแวดล้อมทางภาษาหลังยุค LLM อย่างสิ้นเชิงแทบเป็นไปไม่ได้

เกณฑ์การเขียนหลังยุค LLM

  • ยิ่งคอนเทนต์ที่ถูกสร้างขึ้นครองพื้นที่บนอินเทอร์เน็ตมากขึ้นเท่าไร ความต้องการต่อ ความคิดและการแสดงออกที่เป็นต้นฉบับ ก็จะยิ่งเพิ่มขึ้น ทั้งต่อมนุษย์แต่ละคนและต่อบริษัทผู้พัฒนาโมเดล
  • ความสามารถในการเขียนคอนเทนต์ที่เป็นต้นฉบับโดยไม่พึ่ง LLM อาจยิ่งมีคุณค่ามากขึ้น
  • แต่ในสภาพแวดล้อมที่เต็มไปด้วยโพสต์ thought leadership สไตล์ LinkedIn และภาพแมวที่สร้างโดย AI การค้นหางานเขียนแบบนั้นก็ยิ่งยากขึ้น
  • มนุษย์มองว่าการมีไวยากรณ์ที่ดี คำศัพท์กว้างขวาง การใช้สำนวนและอุปมาที่เหมาะสม และโครงสร้างที่แข็งแรง เป็นเกณฑ์ของงานเขียนที่ดีมาอย่างยาวนาน
  • LLM ทำได้ตามเกณฑ์แบบดั้งเดิมเหล่านี้ค่อนข้างมาก แต่ก็ยังวนซ้ำในแพตเทิร์นเดิมๆ ถ้อยคำดูเก่า อุปมาบางครั้งก็ดูแปลก และ em-dash ก็ทิ้งความรู้สึกด้านลบไว้

การเปลี่ยนแปลงของเกณฑ์งานเขียนที่ดี

  • ทุกวันนี้นักเรียนอาจมีทางเลือกระหว่างตั้งใจเขียนแล้วได้คะแนนระดับกลาง กับไม่ทำอะไรเลยแต่ส่งงานที่ ChatGPT เขียนแล้วได้คะแนนสูง
  • หากนำงานเขียนที่ Claude เขียนในปัจจุบันไปให้คนเมื่อ 10 ปีก่อนดู ก็อาจแทบไม่มีจุดให้บ่นมากนัก
  • งานเขียนจาก LLM เมื่ออ่านนานๆ จะเห็นความซ้ำซาก แต่ก็ยังสอดคล้องกับเกณฑ์งานเขียนแบบ “ถูกต้อง” ตามจารีตอยู่มาก
  • เวลานี้คุณค่าที่สำคัญกว่ากำลังย้ายไปอยู่ที่ การแสดงออกที่เป็นต้นฉบับ
  • ต่อให้ไวยากรณ์ผิด หากมันแตกต่างก็ยังมีคุณค่า และต่อให้คลังคำศัพท์จำกัด หากหลีกเลี่ยงคำซ้ำแบบ LLM ก็จะให้ความรู้สึกเป็นมนุษย์มากกว่า
  • คำพิมพ์ผิดจึงอาจไม่ใช่เพียงข้อบกพร่องอีกต่อไป แต่เป็น ร่องรอยความเป็นมนุษย์ ที่ช่วยแยกออกจากข้อความ AI ที่เรียบแบนและเป็นสูตรสำเร็จ

คำมั่นว่าจะเขียนโดยไม่ใช้ LLM

  • เมื่อผู้อ่านสละเวลาอ่านงานเขียน ผู้เขียนก็ควรสละเวลาเขียนมันด้วย จึงจะเกิดสัญญาทางสังคมขึ้น
  • งานเขียนที่ทำขึ้นโดยเปิดหนังเก่าๆ ทิ้งไว้และใช้เวลาส่วนใหญ่ของวันเขียน ย่อมมีความพยายามที่ตอบแทนเวลาของผู้อ่านอยู่ในนั้น
  • การเขียนเป็นกิจกรรมที่น่ารื่นรมย์ และเป็นสิ่งที่ทำมาตลอดชีวิต แม้ระดับความสม่ำเสมอจะต่างกันไป
  • ต่อจากนี้มีความตั้งใจจะทำให้การเขียนกลายเป็นกิจวัตรในชีวิตประจำวันมากขึ้น และมองว่านั่นเป็นสิ่งที่มีความหมายและคุ้มค่าที่จะทำ

บทความที่เกี่ยวข้อง

1 ความคิดเห็น

 
GN⁺ 4 시간 전
ความคิดเห็นจาก Lobste.rs

  • ประโยคนี้ใน Oxide RFD ดูเหมือนเป็นการขยายความมีม ai;dr ที่พบบ่อยให้นิ่มลงและหยิบไปอ้างได้ยากขึ้น แต่ชัดเจนกว่ามาก
    คำว่า “เมื่อไม่มี LLM จะถือว่าฝั่งผู้เขียนใช้ความพยายามทางปัญญามากกว่าฝั่งผู้อ่าน” สุดท้ายก็หมายถึง “ถ้าคุณไม่ลงแรงเขียน ฉันก็จะไม่ลงแรงอ่าน”

  • ฉันไม่รู้สึกถึง ความเป็นมืออาชีพ จากคนเขียนที่สอด LLM เข้ามาในงาน
    กลิ่นแบบ LLM นี้ทั้งหมดดูเหมือนกำลังตะโกนดังๆ ว่า “ฉันเป็นพวกห่วยแตกที่ไม่คิดจะทำงานของตัวเอง” ในซอฟต์แวร์อาจเถียงได้ว่าผลลัพธ์ที่สม่ำเสมอ คาดเดาได้ น่าเบื่อ และมีความแปรปรวนต่ำเป็นสิ่งที่ดี แต่สำหรับงานเขียน ฉันมองว่าส่วนใหญ่กลับกัน

    • ฉันสงสัยว่าส่วนหนึ่งเป็น ความสิ้นหวัง ที่ไม่อยากถูกทิ้งไว้ข้างหลังในสถานการณ์ที่ทุกคนต่างผลิตคอนเทนต์จำนวนมหาศาล และอีกส่วนหนึ่งเป็นการยอมแพ้ต่อสิ่งยั่วยวนที่จะโยนงานกับความรับผิดชอบทั้งหมดทิ้งไปมากแค่ไหน
    • ฉันไม่ค่อยเห็นด้วยอย่างแรงกับคำว่า “ในซอฟต์แวร์ผลลัพธ์ที่สม่ำเสมอ คาดเดาได้ น่าเบื่อ และมีความแปรปรวนต่ำอาจดีได้ แต่กับงานเขียนกลับตรงกันข้าม”
      ตรงกันข้าม ฉันคิดว่าเราต้องการ งานเขียนที่สม่ำเสมอ คาดเดาได้ และน่าเบื่อ มากขึ้นด้วยซ้ำ แนวทางการเขียนส่วนใหญ่ให้ความสำคัญกับลีลามากกว่าความชัดเจนและความจริง ไม่ได้จะปกป้องงานเขียนจาก AI และฉันเองก็ไม่ได้ใช้ AI เขียนโดยตรง แถมยังเกลียดกลิ่นมันด้วย แต่ก็อยากให้ผู้เขียนที่เป็นมนุษย์อีกมากกว่านี้ยอมกล้าน่าเบื่อบ้าง
    • แล้วถ้าผู้อ่านที่มีแนวโน้มมากที่สุดคือ ตัว LLM เอง ล่ะ

  • Pull request ก็เหมือนกัน เมื่อก่อนความพยายามส่วนใหญ่ลงไปกับการคิดปัญหาอย่างลึกซึ้งและการเขียนโค้ด
    งานรีวิวอาจเยอะก็จริง แต่ก็อย่างน้อยยังมีความสมดุล หรือถ้าจะไม่สมดุลก็เป็นตอนที่การรีวิวทำหน้าที่เป็นการออนบอร์ดหรือการสอนไปพร้อมกัน ถ้าคุณใส่ใจกับคุณภาพของโปรเจ็กต์ ตอนนี้สมการเปลี่ยนไปหมดแล้ว คนที่ไม่ได้สนใจอะไรในตัวโปรเจ็กต์เลยสามารถปล่อย PR ออกมาได้เร็วกว่าอัตราที่รีวิวได้หลายหลัก
    น่ารำคาญจริงๆ อย่างน้อยโค้ดรีวิวก็ยังมีข้อดีตรงที่มีระบบอย่าง vouch ให้กัน PR จากผู้ร่วมเขียนหน้าใหม่ได้ แต่ในกรณีอย่างบทความบล็อก คุณจะต้องคอยสงสัยตลอดว่าผู้เขียนเข้าใจและใส่ใจจริงหรือเปล่า หรือแค่ชนเข้ากับ กำแพงสลอป อีกก้อนหนึ่ง ตอนนี้สลอปยังดูออกได้ง่าย แต่ถ้าผู้ผลิตเริ่มสั่งโมเดลให้หลบแพตเทิร์นเดิมๆ นั่นก็คงเปลี่ยนไป สิ่งเดียวที่ฉันยินดีต้อนรับจากสลอปคือการที่ LinkedIn เต็มไปด้วยคอมเมนต์สลอป

    • จริงๆ แล้วมันไม่ได้ส่งผลอะไรกับคุณภาพเฉลี่ยของโพสต์บน LinkedIn เลย
      ก่อนหน้านี้มันก็เป็นขยะอวดตัวเองอยู่แล้ว หลังจากนี้ก็ยังเป็นขยะอวดตัวเองเหมือนเดิม แค่ตอนนี้มี ภาพ AI สไตล์การ์ตูน เพิ่มเข้ามาเท่านั้น
    • กับบทความบล็อก ฉันเริ่มเอา URL ไปใส่ใน Wayback Machine เพื่อตรวจดูว่าแรกสุดมันถูกสร้างเมื่อไร
      โดยพื้นฐานแล้ว อะไรก็ตามที่สร้างก่อน ปี 2022 ฉันจะมองด้วยความระแวงน้อยกว่ามาก คนที่รู้ทางก็ใส่ before:2022 ตอนค้นหารูปกันแล้ว

  • เวลาอ่านบทความบล็อก สัญญาทางสังคม ที่สำคัญที่สุดคือการที่ผู้เขียนจะพัฒนาการเขียนของตัวเองต่อไปผ่านประสบการณ์นั้น
    การใช้ LLM ทำลายสิ่งนี้ด้วย เรื่องการใช้ LLM เขียนโค้ดอาจยังพอถกกันได้ แต่โดยเฉพาะกับการเขียนบล็อก การใช้ LLM มันชวนขยะแขยงเฉยๆ

  • มันถ่ายทอดความคิดและความรู้สึกที่ฉันเก็บไว้นานได้ดีมาก โดยเฉพาะความต้องการ ความไม่สมบูรณ์แบบที่มีรอยมือมนุษย์
    ฉันต้องการสิ่งนั้นจากคนอื่นด้วย และอยากให้งานของฉันเองเผยความเป็นมนุษย์ออกมา ฉันสะกดคำแย่มากจนเพื่อนกับเพื่อนร่วมงานชอบแซวอยู่บ่อยๆ ถึงขั้นเคยคิดจริงจังว่าตอนเขียนบล็อกจะจงใจปล่อยข้อผิดพลาดไว้สักสองสามจุดเพื่อแสดงว่าฉันยังเป็นมนุษย์อยู่ แน่นอนว่านั่นอาจจะเกินไปหน่อย

  • ฉันเห็นด้วยเต็มที่กับคำพูดที่ว่า “ฉันสนุกกับการเขียนและทำมันมาตลอดชีวิต และตอนนี้กำลังพยายามทำมันให้เป็นกิจวัตรมากขึ้น มันรู้สึกเป็นสิ่งที่มีความหมายและคุ้มค่าจะทำ” แต่ก็มีความกลัวอยู่สองอย่าง
    อย่างแรก ถ้าเห็นใครสักคนเริ่มทำบล็อกหรือเริ่มโพสต์มากขึ้นแบบบังเอิญในช่วง 2024/2025 ฉันจะจัดเข้าหมวด AI โดยปริยายและเก็บมันไว้แบบนั้น บล็อกของฉันเองก็คงดูเป็นแบบนั้นจากภายนอก อย่างที่สอง ฉันไม่ยินดีนักที่งานเขียนของฉันจะช่วยให้บริษัท AI สร้างโมเดลที่ดีขึ้น แม้จะย้อนแย้งที่ฉันเองก็ใช้ AI ทุกวัน
    ปัญหาข้อที่สอง ฉันยังมองไม่ค่อยออกว่าจะฆ่าโกลิอัทจำนวนมากพวกนั้นได้อย่างไร ส่วนข้อแรก ฉันอยากให้มีอะไรสักอย่างคล้าย หลักฐานการทำงานโดยมนุษย์ เพื่อพิสูจน์ว่ามีความใส่ใจจากมนุษย์อยู่เบื้องหลังคอนเทนต์มากพอ ฉันเคยคิดถึงการสตรีมตอนเขียนผ่าน Twitch แต่ก็ไม่สมจริงเกินไป และการเปิดเผยกระบวนการเขียนทั้งหมด ไม่ว่าจะเป็นไอเดียงี่เง่า การตระหนักว่า “สิ่งที่กำลังเขียนอยู่นั้นผิดทั้งหมด” หรือการเขียนใหม่ไม่รู้จบเพื่อให้ได้ตามรสนิยม ก็น่าจะน่าอายอยู่เหมือนกัน ฉันยังนึกวิธีพิสูจน์แบบอื่นไม่ออก

  • ตอนนี้ฉันกำลังเขียน บทความเทคนิคบนบล็อก ที่ค่อนข้างซับซ้อนอยู่ และทุกประโยคในเนื้อหาหลักก็เขียนด้วยมือเองทั้งหมด
    ฉันต้องลองอยู่หลายครั้งกว่าจะจับสิ่งที่อยากพูดได้ แต่ตอนนี้โครงสร้างน่าจะค่อนข้างลงตัวแล้ว ส่วนที่ใช้ Claude เป็นเครื่องมือคือการแปลงคำอธิบายข้อความให้เป็นไดอะแกรม Mermaid ฉันขอบคุณกับแรงที่ช่วยลงให้กับ Mermaid นะ แต่ก็รู้สึกว่าไวยากรณ์บางส่วนมันลึกลับเกินไป โดยเฉพาะเมื่อออกนอกโครงสร้างมาตรฐานอย่างผังงานหรือ sequence diagram ฉันทำงานที่ Oxide และก็ได้แสดงความเห็นกับ RFD 576 ไปพอสมควร